Выяснив, что след покойного теряется в метро, а именно на Ждановско-Краснопресненской линии, следствие вскоре установило, что последний раз майора видели живым на станции "Ждановская". К середине января 1981 года уже оформилась основная версия случившегося, по которой выходило, что к убийству майора приложили руку сотрудники милиции Лобов, Лоза, Самойлов, Емешев и Панов. Это было серьезное обвинение, и Н. Щелоков прекрасно понимал, какой козырь мог появиться в руках у Ю. Андропова в случае успеха в раскручивании этого дела. Поэтому со своей стороны МВД СССР делало все возможное, чтобы не дать КГБ совместно с Прокуратурой развернуть это дело на полную катушку. Начались прямые угрозы и давление на В. Калиниченко, и КГБ вынужден был выделить для него специальную охрану, более того, охраняли даже его дочь-школьницу. Но все это не могло уже остановить машину следствия. 14 января 1981 года, когда Н. Щелокова и его первого зама Ю. Чурбанова не было в Москве, Прокуратура и КГБ провели широкомасштабную операцию по выемке документов в служебных помещениях отдела милиции по охране метрополитена, территориальных отделениях и медвытрезвителях, расположенных рядом со станцией метро "Ждановская". Кроме того, в следственный отдел КГБ СССР в Лефортово доставлялись люди, которые в течение вечера 26 декабря 1980 года находились в комнате милиции на "Ждановской" или могли быть возле нее. Так в руках следователей оказались все участники преступления: Лоза, Масохин, Лобов, Емешев, Панов. После нескольких дней усиленных допросов они один за другим стали во всем признаваться. Правда, ни один из них пока не назвал в своих показаниях еще одного своего подельника: начальника 5-го отделения милиции Баринова. Но следствие уже располагало сведениями о том, что на месте преступления возле Пехорки обнаружены следы автомобиля "волга" "ГАЗ-24". Теперь надо было только установить хозяина этой машины. На это дело ушло еще несколько часов усиленных допросов, после чего один из допрашиваемых наконец показал: хозяином "волги" был Баринов. И несмотря на то что Баринов сумел подготовить для себя алиби (он уговорил свою знакомую, которая работала заместителем директора одного из магазинов, показать на следствии, что вечером 26 декабря Баринов был у нее), Калиниченко приказал Баринова задержать. Санкцию на арест Баринова дал заместитель Генпрокурора СССР Василий Найденов, тот самый, которого буквально через несколько месяцев за особое рвение в расследовании "краснодарского дела" снимут с этой должности.
После того как Баринов был официально арестован, обстановка вокруг следствия обострилась до предела. Давление и угрозы со стороны МВД стали еще более откровенными. Поэтому Ю. Андропов и послал одного из своих заместителей на жесткие переговоры со Щелоковым. На руках у зама Андропова были бесспорные доказательства вины подчиненных Щелокова. Министру МВД крыть было нечем. К тому времени у следователей появились еще и факты того, что задержанный Лобов пять лет назад, работая в 4-м отделении милиции, совершил еще одно убийство - жителя города Армавира. По всей видимости, это стало последней каплей, переполнившей чашу терпения руководства союзного МВД: Ю. Чурбанов собрал коллегию ГУВД Мосгорисполкома и устроил публичную экзекуцию своим подчиненным. Несколько человек были сняты со своих должностей, понижены в звании.
Летом 1982 года судебная коллегия по уголовным делам Московского городского суда приговорила Баринова, Лобова, Панова и Масохина к высшей мере наказания - расстрелу. Остальные отделались максимальными сроками тюремного заключения.