В конце ноября 1898 года Третьяков слег, началось обострение язвы желудка. Он отказался от консилиума врачей. Скрывая свои страдания от близких, каждое утро вызывал к себе служащих галереи и торговой конторы с докладами. О галерее он думал и в свое последнее утро 4 декабря 1898 года. Молча выслушав сообщения, Павел Михайлович угасающим голосом произнес: «Берегите галерею…» и тотчас умер. Эти слова были последними.
Похоронили П. М. Третьякова на Даниловском кладбище. А в 1948 году прах был перенесен на Новодевичье кладбище. В. В. Стасов в некрологе на смерть Павла Михайловича писал, что Третьяков умер знаменитым не только на всю Россию, но и на всю Европу: «Приедет ли в Москву человек из Архангельска или из Астрахани, из Крыма, с Кавказа или с Амура – он тут же назначает себе день и час, когда ему надо, непременно надо, идти на Замоскворечье, в Лаврушинский переулок, и посмотреть с восторгом, умилением и благодарностью весь тот ряд сокровищ, которые были накоплены этим удивительным человеком в течение всей его жизни».
После смерти Павла Михайловича Третьякова, галерея, по его завещанию, отошла в собственность города Москвы. В июне 1899 года Московской городской думой был создан попечительский совет – коллегиальный орган по управлению Галереей. Кроме Городского головы, князя В. М. Голицына (председателя совета), в него вошли В. А. Серов – от российских художников, И. С. Остроухов и И. Е. Цветков – от московских коллекционеров. Семью основателя представляла вторая дочь Третьякова, Александра Павловна Боткина.
Главной своей целью совет видел пополнение коллекции. Приобретались как произведения старого, так и нового искусства. Члены совета пристальное внимание уделяли приобретению картин современных художников. Их интересовало творчество молодых петербуржцев, создавших в 1898 году объединение «Мир искусства», москвичей из Союза русских художников, экспонентов выставки «Голубая роза». За первые три года существования совета в собрании прибавилось около семидесяти произведений. Во времена попечительства И. С. Остроухова в Галерее существенно расширился раздел, посвященный портретам, кисти живописцев XVIII века. Но вновь поступавшие работы размещались отдельно от основного собрания – в залах, которые специально отстраивались в бывшем жилом доме Третьякова.
Во время реконструкции 1900–1905 годов музейные здания обрели новые фасады, выполненные по проекту В. М. Васнецова в «русском стиле». Главный фасад с изображением Георгия Победоносца стал символом Третьяковской галереи. Неудобства, связанные со строительством, не мешали все более растущему потоку посетителей: за один только 1903 год в Галерее побывало 130 548 человек.
В 1899 году наследники Павла Михайловича передали совету завещанные Галерее 62 иконы, которые были тщательно изучены известным византологом и специалистом по древнерусскому искусству Н. П. Лихачевым. На основе проведенной им атрибуции в 1904 году была создана экспозиция икон. В ее устройстве принимали участие профессор Н. П. Кондаков, художник В. М. Васнецов, члены совета Галереи И. Е. Цветков и И. С. Остроухов.
К 1911 году стало ясно, что экспозиции необходима коренная перестройка. Московская городская дума в 1913 году избрала попечителем Третьяковской галереи Игоря Эммануиловича Грабаря, художника, архитектора и историка искусства. В Совет вошли Р. И. Клейн и А. П. Ланговой, от семьи основателя – старшая дочь, Вера Павловна Зилоти, а из прежнего состава остался князь Сергей Александрович Щербатов, живописец и коллекционер.
В 1913–1915 годах Грабарь полностью изменил экспозицию. Объединив старое третьяковское и новое собрания, он разместил картины каждого художника в одном зале или на одной стене, расположив художественный материал в хронологическом порядке. Экспозиционный маршрут начинался с древнерусского искусства и в соответствии с хронологической последовательностью важнейших этапов развития русской живописи шел по кольцу залов вплоть до произведений художников 1900-х годов. Таким образом Грабарь впервые в отечественной практике использовал историко-монографический принцип, который и в настоящее время остается главным в построении музейных экспозиций художественных музеев России.