Таким образом, Кони провел на важных судебных постах первое тридцатилетие судебных преобразований и был свидетелем тех изменений, которые выпали за это время на долю судебного дела, в отношениях к нему как правительственной власти, так и общественной. Будущий историк внутренней жизни России за указанный период времени найдет в судебной и общественной деятельности Кони ценные указания для определения характера и свойств тех приливов и отливов, которые испытала Россия начиная с середины 60-х годов. В 1875 году Кони был назначен членом Совета управления учреждений Великой княгини Елены Павловны; в 1876 году он был одним из учредителей Санкт-Петербургского общества при университете, с 1876 по 1883 гг. состоял членом Высочайше учрежденной комиссии под председательством графа Баранова для исследования железнодорожного дела в России, причем участвовал в составлении общего устава Российских железных дорог, с того же 1876 по 1883 гг. состоял преподавателем теории и практики уголовного судопроизводства в Императорском училище правоведения, в 1877 году был избран в столичные почетные мировые судьи, а в 1878 году в почетные судьи Санкт-Петербургского и Петергофского уездов; в 1883 году в члены общества психиатров при военно-медицинской академии; в 1888 году командирован в Харьков для исследования причин крушения императорского поезда 17 октября того же года и для руководства следствием по этому делу, а в 1894 году в Одессу для направления дела о гибели парохода «Владимир»; в 1890 году Харьковским университетом возведен в звание доктора уголовного права; в 1892 году избран Московским университетом в почетные его члены; в 1894 году назначен членом комиссии для пересмотра законоположений по судебной части.
Таковы главные фазы, через которые проходила деятельность Кони, обогащая его теми разнообразными сведениями и богатым опытом, которые при широком научном и литературном его образовании и выдающихся способностях дали ему особое в судебном ведомстве положение, вооружив могущественными средствами действия в качестве прокурора и судьи. Судебной реформе Кони отдал все свои силы и с неизменной привязанностью служил Судебным уставам, как в период романтического увлечения ими, так и в период следовавшего за тем скептического к ним отношения. Такое неустанное служение делу правосудия представлялось нелегким. Проникнувшись духом Судебных уставов, он создал в лице своем живой тип судьи и прокурора, доказав своим примером, что можно служить государственной охране правовых интересов, не забывая личности подсудимого и не превращая его в простой объект исследования. В качестве судьи он сводил — выражаясь его словами — «доступное человеку в условиях места и времени великое начало справедливости в земные, людские отношения», а в качестве прокурора «был обвиняющим судьею, умевшим отличать преступление от несчастья, навет от правдивого свидетельского показания».
Русскому обществу Кони известен в особенности как судебный оратор. Переполненные залы судебных заседаний по делам, рассматривавшимся с его участием, стечение многочисленной публики, привлекавшейся его литературными и научными речами, служат тому подтверждением. Причина этого успеха Кони кроется в его личных свойствах. Еще в отдаленной древности выяснена зависимость успеха оратора от его личных качеств: Платон находил, что только истинный философ может быть оратором; Цицерон держался того же взгляда и указывал притом на необходимость изучения ораторами поэтов; Квинтилиан высказывал мнение, что оратор должен быть хорошим человеком. Кони соответствовал этим воззрениям. Он воспитывался под влиянием литературной и артистической среды, к которой принадлежали его родители. В Московском университете он слушал лекции Крылова, Чичерина, Бабста, Дмитриева, Беляева, Соловьева. Слушание этих лекций заложило в него прочные основы философского и юридического образования, а личные отношения со многими представителями науки, изящной литературы и практической деятельности поддерживали в нем интерес к разнообразным явлениям умственной, общественной и государственной жизни. Обширные, не ограничивающиеся специальной областью знания, эрудиция при счастливой памяти давали ему, как об этом свидетельствуют его речи, обильный материал, которым он умел всегда пользоваться как художник слова.