— 26 сентября 1936 года наркомом ВД СССР был назначен Н.И.Ежов.
С приходом в НКВД СССР Н.И.Ежова там произошли следующие перестановки на ключевых постах:
— 29 сентября 1936 г. комиссар гб 1 ранга Г.Е.Прокофьев был освобожден от должности заместителя наркома ВД СССР и назначен первым заместителем наркома связи СССР;
— первый заместитель наркома ВД СССР комиссар гб 1 ранга Я.С.Агранов 29 декабря 1936 г. был назначен начальником ГУГБ НКВД СССР, но был на этом посту недолго: 15 апреля 1937 г. он был назначен начальником 4 отдела ГУГБ НКВД СССР и 17 мая 1937 г. освобожден от должности заместителя наркома ВД СССР;
— 29 сентября 1936 г. заместителем наркома ВД СССР был назначен начальник ГУЛАГа, комиссар гб 3 ранга М.Д.Берман;
— 16 октября 1936 г. заместителем наркома ВД СССР был назначен начальник ГУПВО комкор М.П.Фриновский, а 15 апреля 1937 г. он стал первым заместителем наркома ВД СССР и начальником ГУГБ НКВД СССР;
— 3 ноября 1936 г. заместителем наркома ВД СССР был назначен начальник ГУРКМ комиссар гб 2 ранга Л.Н.Бельский;
— 15 апреля 1937 г. заместителем наркома ВД СССР стал начальник 1 отдела ГУГБ НКВД СССР комиссар гб 3 ранга В.М.Курский;
8 июля 1937 г. застрелился начальник 3 отдела и заместитель наркома вн. дел СССР комиссар государственной безопасности 3 ранга В.М.Курский, приказом НКВД СССР № 1153 от 11 июля 1937 г. он был исключен из списков личного состава НКВД СССР за смертью.
— 7 августа 1937 г. заместителем наркома ВД СССР был назначен начальник ГУРКМ комдив В.В.Чернышов;
— 16 августа 1937 г. заместителем наркома ВД СССР был назначен старший майор гб М.И.Рыжов;
— 8 января 1938 г. заместителем наркома ВД СССР был назначен старший майор гб С.Б.Жуковский;
— 29 января 1938 г. заместителем наркома ВД СССР был назначен комиссар гб 1 ранга Л.М.Заковский (одновременно он возглавил УНКВД по Московской области).
Прошел год после снятия с должности наркома внутренних дел СССР Г.Г.Ягоды и назначения на эту должность Н.И.Ежова. Выступая 20 декабря 1937 г. на торжественном заседании по случаю 20-летия со дня организации ВЧК-ОГПУ-НКВД, А.И.Микоян так оценил работу Н.И.Ежова на посту наркома внутренних дел СССР: "… товарищ Ежов Николай Иванович, прийдя в НКВД, сумел быстро улучшить положение в НКВД закрепить его и поставить на высшую ступень работу НКВД в кратчайший срок… Ежов создал в НКВД замечательный костяк чекистов, советских разведчиков, изгнав чуждых людей, проникших в НКВД и тормозивших его работу".
К декабрю 1937 г. за "предательство и контрреволюционною деятельность" уже были арестованы бывший нарком внутренних дел СССР Г.Г.Ягода и бывший первый заместитель наркома внутренних дел СССР Я.С.Агранов, а бывший заместитель наркома внутренних дел СССР Г.Е.Прокофьев расстрелян. К этому времени было репрессировано также почти все ягодовское руководство ГУГБ НКВД СССР: бывший начальник ИНО ГУГБ НКВД СССР — А.Х.Артузов, бывший начальник Спецотдела ГУГБ — Г.И.Бокий, бывший начальник ОО ГУГБ — М.И.Гай, бывшие начальники ТО ГУГБ — В.А.Кишкин и А.М.Шанин, бывший начальник ЭКО и КРО ГУГБ — Л.Г.Миронов, бывший начальник СПО ГУГБ — Г.А.Молчанов и бывший начальник Отдела охраны ГУГБ — К.В.Паукер.
Говоря об успехах Ежова на посту наркома внутренних дел СССР, Микоян отметил, что "этих успехов" Ежов добился благодаря тому, что работал под руководством Сталина, что усвоил сталинский стиль работы и сумел применить этот сталинский стиль работы в области НКВД.
Первый заместитель наркома внутренних дел СССР и начальник ГУГБ НКВД СССР М.П.Фриновский, выступая на этом же заседании по случаю 20-летия ВЧК — ОГПУ — НКВД, сказал, что враг проник и в советскую разведку, т. е. в органы НКВД, но что с помощью партии эти органы были очищены от предателей и изменников.
В конце своей карьеры на посту наркома внутренних дел СССР в ноябре 1938 г. Н.И.Ежов дал такую оценку работе с кадрами в НКВД СССР: "Наиболее запущенным участком в НКВД оказались кадры. Вместо того, чтобы учитывать, что заговорщикам из НКВД и связанными с ними иностранными разведками за десяток лет минимум удалось завербовать не только верхушку ЧК, но и среднее звено, а часто и низовых работников, я успокоился на том, что разгромил верхушку и часть наиболее скомпрометированных работников среднего звена. Многие из вновь выдвинутых, как теперь выясняется, также являются шпионами и заговорщиками". А давая общую оценку своей работе в НКВД, Ежов сказал, что несмотря на большие недостатки и промахи в работе, он, при повседневном руководстве ЦК, "погромил врагов здорово".