Вероятно, Сталин персонально опекал Ежова потому что выбрал его в качестве своего главного помощника в реализации планов по осуществлению генеральной чистки. Это стало ясным после убийства главы ленинградской партийной организации Сергея Кирова 1 декабря 1934 года. В соответствии с одной из версий этих событий, в тот же день утром, когда произошло убийство, Ежов был вызван к Сталину и провел в его кабинете достаточно долгое время{138}. Однако в журнале регистрации посетителей кабинета Сталина Ежов в этот день вообще не упоминается{139}. Лишь на следующий день, когда Сталин отбыл в Ленинград на специальном поезде, Ежов был среди тех, кто сопровождал его, а по прибытии в Ленинград он присутствовал при допросе Сталиным убийцы Кирова Николаева{140}. Спустя два дня после убийства Политбюро одобрило чрезвычайное постановление, упрощающее процедуру вынесения обвинительного приговора и приведения его в исполнение для лиц, обвиняемых в терроризме. В последующие годы во время чисток этот закон от 1 декабря 1934 года применялся в широких масштабах{141}.
Сталин поручил Ежову наблюдение за расследованием вместе с лидером комсомола А.В. Косаревым и заместителем Ягоды по вопросам госбезопасности Аграновым{142}. Несмотря на отсутствие каких-либо фактов, Сталин приказал сфабриковать дело по обвинению в этом убийстве против Каменева, Зиновьева и других бывших участников партийной оппозиции. Однако руководство НКВД с недоверием отнеслось к такой версии событий и попыталось проигнорировать этот приказ Сталина. И тогда для Ежова пришло время сыграть свою роль. Фактически Сталин назначил его своим представителем в НКВД. Ягода не придал тогда этому значения, а после, уже будучи арестованным, дал показания, что после убийства Кирова «начинается систематическое и настойчивое вползание в дела НКВД Ежова». Не спрашивая Ягоду, он непосредственно связывался с отделами ГУГБ и «влезал сам во все дела»{143}. На совещании в НКВД в декабре 1936 Ежов подтвердил, что последние два года работал в очень тесном контакте с НКВД[18].
Вмешиваясь во все детали расследования, Ежов придал ему именно то направление, которое хотел Сталин, в своих подробных сообщениях он разоблачал врагов и шпионов. Ягода, действуя по собственному усмотрению, чинил препятствия; как Ежов объяснял позднее, НКВД смотрел в другую сторону и не хотел допускать его к материалам дела, пока не вмешался сам Сталин. Вождь партии стал угрожать Ягоде: «Смотрите, морду набьем…» Он приказал главе НКВД арестовать тех, на кого Ежов собрал материалы. Ягода исполнил это, но явно против своего желания{144}.
В феврале Ежов доложил Сталину, что завершил подготовку материалов примерно на тысячу бывших ленинградских оппозиционеров, триста из них были арестованы, а остальные сосланы; кроме того, несколько тысяч так называемых «бывших» были высланы из города{145}. В декабре 1934 убийца Кирова Николаев предстал перед судом и был расстрелян; в следующем месяце состоялся процесс по делу «московского центра» над Зиновьевым, Каменевым и другими, они получили от пяти до десяти лет за «идеологическое соучастие» в убийстве{146}. С этого времени Ягода направлял Ежову все протоколы допросов главных оппозиционеров и заговорщиков.
Полномочия Ежова не ограничивались расследованием этих дел, постепенно он получил возможность контроля над всем НКВД. В памятной записке Сталину он обращал внимание на «недостатки в работе НКВД», критикуя деятельность последнего по работе с информаторами и агентурой. Методы вербовки агентуры «граничили с контрреволюцией»: «При таких условиях вербовки иностранная разведка без труда может насадить свою агентуру, подсунув своих людей в виде агентов ЧК». НКВД, как писал Ежов, был гораздо меньше компетентен в расследовании, чем в розыске. В целом, квалификация сотрудников НКВД была недостаточной, и чистка, которую он лично провел в ленинградском управлении НКВД, по его мнению, «должна быть расширена». В Ленинграде Ежов проверил 2747 сотрудников НКВД и 3050 сотрудников милиции, в результате 298 сотрудников были сняты с работы, из них 21 заключен в лагерь, а по милиции сняты с работы 590 человек, из которых 7 осуждено{147}. Ежов просил у Сталина разрешения на созыв совещания руководящего состава НКВД, где он намеревался выступить с резкой критикой этих недостатков{148}. Сталин дал такое разрешение, и в феврале 1935 года Ежов созвал это совещание{149}. 31 марта Политбюро приняло решение «передать на распоряжение Ежова» положения об НКВД и ГУГБ{150}. Прокурор СССР Иван Акулов также предоставил ему свои критические замечания о методах работы НКВД{151}.