Новая должность пробудила Чудовище, дремавшее в глубине этого невзрачного человечка. Первым делом 28 марта 1937 года он лично арестовал своего предшественника – Ягоду. Бывший нарком, во многом преуспевший в создании машины по борьбе с контрреволюцией и антисоветским элементом, подвергнутый жестоким допросам, быстро поплыл. Ежову и его подручным не пришлось прибегать к изощренным пыткам, Ягода дал «развернутые признательные показания об участии в «правотроцкистском антисоветском блоке», а в последующем выступил с обличением его участников на открытом судебном процессе.
13 марта 1938 года военной коллегией Верховного суда СССР за «организацию троцкистско-фашистского заговора в НКВД, подготовку покушения на т.т. Сталина и Ежова, подготовку государственного переворота и интервенцию» Ягода был приговорен к высшей мере наказания и на следующий день расстрелян. Режиссуру «открытого судебного процесса», написанную в кремлевском кабинете Сталина, Ежов исполнил точно до буквы, до запятой. Не только Ягода, а и остальные подсудимые, участники «правотроцкистского антисоветского блока» – Бухарин, Рыков и другие – дружно каялись в преступлениях, которых не совершали, но это не спасло их от смерти.
Колесо репрессий продолжало катиться по стране, одних давя в кровавую массу, а других превращая в лагерную пыль. Параною заговоров, владевшую советскими вождями, не остановила даже угроза надвигающейся войны: на Дальнем Востоке грозно бряцал оружием японский самурай, а в Западной Европе стремительно набирал силу фашизм. В этих условиях волна репрессий обрушилась на командный состав Красной армии. Ежов и его подчиненный-подручный начальник Управления особых отделов НКВД СССР (военная контрразведка) комиссар госбезопасности 2-го ранга Израиль Леплевский вскрыли «зреющий в Красной армии военно-фашистский заговор». Тысячи командиров и политработников по ложным обвинениям были арестованы и брошены в тюрьмы.
Ежов принимал непосредственное участие в допросах и с особым садизмом истязал в прошлом заслуженных маршалов, генералов и наркомов. Многие, не выдержав чудовищных издевательств, превращались в человекоподобное существо. И тогда Ежов, упиваясь властью, вымещал на них свою физическую неполноценность: топтал несчастных ногами, испражнялся и выбивал зубы мраморным пресс-папье. Позже результаты этой «работы по очистке рядов Красной армии от «врагов народа» подвел нарком обороны маршал Семен Тимошенко. В ноябре 1938 года на Военном Совете народного комиссариата обороны (НКО) он с гордостью доложил:
«…Из Красной армии «вычистили» 40 000 человек, то есть было уволено, о также репрессировано около 45 % командного состава и политработников РНК».
В их числе оказались герои гражданской войны, видные военачальники: Тухачевский, Егоров, Уборевич, Якир и другие. Они, «как показало следствие», проводившееся под руководством Ежова, «…вступив в сговор с Троцким и нацистской Германией, готовили военно-фашистский переворот».
По приговору военной коллегии Верховного суда СССР они были расстреляны. Помимо них, из 108 членов Военного Совета при НКО к ноябрю 1938 года в живых осталось только 10 человек. В целом в 1937–1938 годах были осуждены 408 человек из числа руководящего и начальствующего состава РККА и ВМФ. Из них к высшей мере приговорили 403 человека, остальных – 5 человек – к разным срокам наказания в лагерях.
В гигантскую воронку уничтожение неугодных сталинскому режиму втягивались все новые жертвы. И чем больше становилось их число, тем все громче советская пропаганда трубила об успехах НКВД и лично «верного сталинского наркома Николая Ивановича Ежова». Ее усилиями бдительный, неподкупный и всезнающий нарком был повсюду. Пронзительным взглядом он смотрел на обывателя с парадных портретов, с передовых полос газет «Правда», «Известия» и вопрошал: «А ты разоблачил врага советской власти и товарища Сталина? Сделай это, пока не поздно! Враг рядом с тобой!»
Через номер статьи пестрели рисунками на злобу дня. На них неутомимый нарком, не смыкающий глаз ни днем, ни ночью, тер в «ежовых рукавицах» всю антисоветскую нечисть: шпионов, террористов, вредителей и недобитых коллективизацией «подкулачников».
17 июля 1937 года газета «Известия» сообщила о награждении Ежова орденом Ленина «за выдающиеся успехи в деле руководства органами НКВД по выполнению правительственных заданий». На тот момент он был самым частым посетителем Сталина, ко дню опалы число встреч достигло 290, больше посещений было только у наркома иностранных дел Вячеслава Молотова, в общей сложности они заняли около 850 часов. За время руководства НКВД Ежов представил Вождю около 15 тысяч спецсообщений и докладных. Основную их часть составляли документы, относящиеся к репрессиям.