Заинтересовавшись ими, Павел Михайлович обратился к Постникову с просьбой уступить некоторые из икон. Тот ответил отказом. Он желал продать все собрание. Тогда Третьяков завел разговор с Силиным. Он был прежде дьячком на Рогожском кладбище, в ранней молодости учился иконописанию и сам писал иконы, а потому и знал в них толк. Иван Лукич пошел навстречу и продал Павлу Михайловичу с выставки пять или шесть икон, действительно хороших и оригинальных, за 20 тысяч рублей.
H. М. Постников, узнав о том, говорил:
— Я очень рад, что Третьяков купил эти иконы, рад потому, что начал собирать их, и еще потому, что купил действительно хорошие, достойные иконы, дав за них хорошую цену, но зато он взял у Силина самое лучшее, у него теперь не осталось ничего особенно хорошего.
С той поры Павел Михайлович при всяком удобном случае покупал иконы у разных людей. Хранил их в своих комнатах. К концу жизни у него было более шестидесяти образцов древнерусского художества.
Были у него иконы новгородской, московской, строгановской школы XV–XVII веков. Тогда же появились в библиотеке Павла Михайловича книги И. И. Толстого и Н. П. Кондакова «Русские древности в памятниках искусства», В. Прохорова «Христианские древности», Д. Струкова «Древние памятники христианства»…
Надобно сказать, к тому времени у Павла Михайловича сложилась серьезная библиотека и была ему незаменимым подспорьем. Были в ней и рукописи лицевые, и труды Д. А. Ровинского, посвященные истории русских школ иконописания до конца XVIII века, русским гравированным портретам и народным картинкам, книги по археологии, художественные издания, монографии по истории искусств, исследования по истории, периодические издания.
По натуре и по знаниям Павел Михайлович был ученый. И это признавали сами художники. В одном из писем жене из Парижа, в 1878 году, Павел Михайлович писал: «Для меня, разумеется, интересно в научном отношении пересматривать опять уже не раз виденные картины».
«Он был не меценат, а серьезный общественный работник, наш художественный труд для него не забава и прихоть, а серьезное общественное дело», — говорил В. М. Васнецов.
— Я не меценат и меценатство мне совершенно чуждо, — сказал как-то сам Павел Михайлович.
После визита государя императора в Толмачи Третьякову хотели пожаловать дворянское звание, но он не принял его.
— Купцом родился, купцом и умру, — был его ответ.
Будучи в Петербурге, Павел Михайлович навещал Д. А. Ровинского. Материалы для истории иконописания в России до половины XVI века были довольно скудны, и Дмитрий Александрович рассказывал Третьякову о первых церквах, построенных в Киеве греками, иконах, украшавших их, принесенных из Корсуни, первых иконниках и иконах, присланных из Греции. Ровинский же поведал, как в XII веке принесли греки в Россию образ Владимирской Божией Матери, в XIII веке — Николы Корсунского, а в XIV веке Дионисий Суздальский прислал из Греции два списка с иконы Божией Матери Одигитрии.
Увлеченный древней русской иконой, Дмитрий Александрович перечислял и русских людей, обучавшихся у греческих иконников: преподобного Алимпия Печерского, Семена Черного, старца Прохора, Андрея Рублева.
Шел разговор о греческом, корсунском и русском письме. Иногда беседовали до глубокой ночи.
— Мне кажется, что, основываясь на летописных известиях и памятниках XVI и XVII веков, — говорил Ровинский, — можно заключить с достоверностью, что византийское иконописание не оставалось в России в виде исключительного образца и что имели влияние на наше иконописание по временам и художники иных стран. С половины XVI века, скажу я вам, Павел Михайлович, мы уже встречаем положительные известия о различных отступлениях наших иконописцев от греческих образцов. В XVII веке изограф Иосиф, в послании к Симону Ушакову, говорит, что в иконописи «много русские письма с самыми греческими з добрыми переводами не сходятся. Новые со старыми и старие с новыми» и что «от неискусных и беззаконных иконописцев многое неистовство и бредни обретаются на иконах»…
В 1895 году по Москве разнесся слух о болезни Павла Михайловича. Говорили, у него расширение желудка, и доктора запретили ему ездить иначе как в экипаже на резинах, но упрямец отказывался это делать.
Ему шел 63-й год. Дочери обзаводились семьями, покидали Толмачи. Старшая, Вера, с мужем и детьми жила в Антверпене; Александра, выйдя замуж за С. С. Боткина, уехала с ним в Петербург; третья дочь, Люба, выйдя летом 1894 года замуж за художника H. Н. Гриценко, поселилась в Париже. С родителями оставалась лишь младшая — Мария.