Реорганизованному МВД в этот период сопутствовал некоторый успех в борьбе с террористами «Народной воли». Во время беседы Лорис-Меликов лично завербовал Г. Гольденберга, и по его наводке в ноябре 1880 г. был арестован виднейший член Исполнительного комитета «Народной воли» Александр Михайлов. В январе 1881 г. был арестован активный член подпольной организации Иван Окладский. Приговоренный к смертной казни, он обещанием помилования был без особого труда перевербован начальником Петербургского жандармского управления генералом А.В. Комаровым. Окладский оказался ценным источником информации и немедленно выдал две конспиративные квартиры, типографию и мастерскую по производству динамита. Как личный агент министра внутренних дел он встречался с Лорис-Меликовым, верно служил полиции на протяжении следующих 37 лет. Пиком удачи «диктатора сердца» на полицейском поприще стал арест руководителя и главного стратега «Народной воли» А. Желябова в конце февраля 1881 г.
Все это породило у Лорис-Меликова настоящую эйфорию, крайне опасную для руководителя политической полиции. Дело дошло до того, что накануне 1 марта Александр II радостно говорил окружающим: «Поздравьте меня вдвойне: Лорис мне возвестил, что последний заговорщик схвачен и что травить меня уже не будут!» Вместо выполнения прямых повседневных обязанностей министр внутренних дел продолжал ощущать себя вершителем судеб России и 28 января 1881 г. подал Александру II проект реформ, с помощью которых надеялся окончательно выйти из политического кризиса. Смысл проекта сводился к образованию из представителей чиновников и от земства совещательного органа при Государственном совете, который и сам был совещательным органом при императоре. Суть этого достаточно умеренного проекта, получившего название «конституции Лорис-Меликова», сводилась к постепенному переходу к околопарламентской форме правления при незыблемости самодержавия. Тем не менее и такой урезанный вариант показался излишне радикальным Александру II, который по прочтении проекта возмущенно воскликнул: «Да ведь это Генеральные штаты!» Однако, чувствуя поддержку либеральной части общества, «диктатор сердца» упорно настаивал, и, по странной иронии истории, царь за несколько часов до своей смерти 1 марта 1881 г. одобрил предложенную «конституцию» и назначил на 4 марта заседание Совета министров для того, чтобы согласовать правительственное сообщение о предстоящей политической реформе.
Когда министр государственных имуществ П.А. Валуев передавал Лорис-Меликову эту важную для него весть, на улице прогремело два взрыва. «Возможно, покушение», – по-французски сказал Валуев. «Невозможно», – ответил министр внутренних дел. Однако собеседник Лорис-Меликова оказался прав. Гибель Александра II от бомбы террористов означала крах всей стратегии Лорис-Меликова по предотвращению революционного террора путем осуществления мелких либеральных реформ и обещания в будущем реформ крупных. Хотя новый император Александр III и отклонил предложение обер-прокурора К.П. Победоносцева немедленно уволить Лорис-Меликова, дни временщика были уже сочтены. Политический курс его с треском провалился. Несмотря на траур, обсуждение «конституции» Лорис-Меликова состоялось 8 марта 1881 г. в Совете министров. Не оправившийся еще от удара новый царь колебался, большинство участвовавших в совещании были сторонниками либерального курса «диктатора сердца», однако ситуацию переломил К.П. Победоносцев, произнесший громовую речь о том, что Лорис-Меликов навязывает России конституцию, а конституция погубит Россию. Взывая к личным чувствам царя, он протягивал руки к портрету Александра II, восклицая: «Кровь его на нас!» Хотя Александр III так и не высказался на этом совещании, всем наблюдателям стало ясно, что карьере Лорис-Меликова пришел конец. Не помогло ему и то, что уже к 17 марта все участники цареубийства были арестованы полицией и 3 апреля казнены. Решающее политическое влияние на нового императора приобрел Победоносцев, который сумел убедить Александра III подписать 29 апреля 1881 г. написанный им манифест о незыблемости самодержавной власти и готовности царя «утверждать и охранять» ее «от всяких на нее поползновений». Официально провозглашенный курс на «твердую власть» представлялся либералам страшной реакцией, и в знак протеста Лорис-Меликов вместе с несколькими единомышленниками подал в отставку. 4 мая 1881 г. Лорис-Меликов был уволен с поста министра внутренних дел.