Что такое музейные коллекции и как они могут быть представлены, Александр Александрович знал с детства, когда гулял по коридорам Зимнего дворца, по залам Эрмитажа.
Затем, в 1861 году, во время поездки в Москву, шестнадцатилетний великий князь познакомился с хранилищами русских исторических сокровищ. Он посетил Кремль, Оружейную палату, побывал в Новоиерусалимском монастыре под Москвой. Великий князь записал в дневнике: «Мы пошли все в Архангельский собор в ризницу, где очень много старинных вещей и утварей, потом мы осматривали гробницы старинных русских царей и князей, мы довольно долго оставались в соборе». Помощник воспитателя великих князей Н. П. Литвинов вспоминал о том дне: «…При знакомстве с Архангельским собором Александр Александрович с видом истинного знатока восхищался старинной и наивной живописью на внутренних стенах храма, то есть, значит, тем, что именно составляет характеристическую особенность византийского стиля».
Но королевский музей древностей в замке Розенборг, построенный в XVII веке при Кристиане IV, поразил его образцовой системой хранения. Каждый зал был посвящен конкретной эпохе, и в нем были представлены различные экспонаты этой эпохи. Все наглядно демонстрировало величественную картину исторического прошлого страны.
Душой музея был датский историк и археолог профессор Иене Якоб Асмуссен Ворсо. Цесаревич познакомился с ним еще во время первых приездов в Данию. Они вместе не раз вели продолжительные беседы. Именно Ворсо ввел в оборот понятие «эпоха викингов», разделил каменный век на палеолит и неолит.
«Я помню, — писал граф Сергей Дмитриевич Шереметев, — с какою любовью показывал Ворсо Rosenborg и объяснял его значение. Перед вами в каждом зале проходят века и наглядно представляются величественные картины исторического прошлого страны…
Плодом посещения Розенборга явилось желание учредить нечто подобное у нас… понятно, что центром этим избрана была Москва и что вопрос этот цесаревич принял горячо к сердцу. Но время, когда возник этот вопрос, было крайне неблагоприятное… На мысль цесаревича посмотрели как на затею. С одной стороны, равнодушие и непонимание истинного значения дела, с другой — желание воспользоваться случаем для личных целей и отсутствие всякого руководства передало это дело в руки случайные. Отсутствие средств явилось главным препятствием».
Цесаревичу пришлось приложить немало усилий, чтобы организовать подобный музей у себя на родине. Помогли настойчивость и случай.
В 1872 году в Москве открылась Политехническая выставка, приуроченная к празднованию двухсотлетия со дня рождения Петра I. На выставке был организован Севастопольский отдел с историческими памятниками обороны Севастополя в Крымскую войну 1853–1856 годов. Этот отдел экспозиции вызвал огромный интерес у посетителей.
Инициатором организации отдела был цесаревич Александр Александрович. В обращении, опубликованном во всех газетах «От имени Его Императорского высочества наследника цесаревича Александра Александровича ко знающим что-либо о севастопольской защите», содержалась просьба ко всем, кто владел «достоверными знаниями о севастопольской защите, прислать на его имя все то, что он знает, помнит и может написать о защите Севастополя».
Обращение цесаревича заканчивалось словами: «Веденные во время осады дневники, записки, воспоминания и письма о севастопольской обороне, простой рассказ мельчайшего эпизода ее, или подвига, или того, что кто-либо помнит как очевидец, без стеснения формами и формальностями, вот что нужно. Одно лишь условие должно быть свято соблюдено — это истина. Написанное каждый пусть отправит по следующему адресу: Его Императорскому Высочеству, Наследнику Цесаревичу, в собственные руки. В С.-Петербург. От Севастопольца…»
Во время Политехнической выставки ее устроители обратились к Александру II с предложением создать на основе материалов выставки Музей отечественной истории. Император согласился и предложил Александру Александровичу, который уже не раз высказывался о необходимости такого музея, стать его покровителем — почетным председателем Музея отечественной истории. Этот музей и стал прообразом Исторического музея.
В документе об учреждении Исторического музея говорилось: «Этот храм, воздвигнутый во славу вековой жизни русского народа, должен собрать воедино со всех концов земли Русской заветные святыни народа, памятники и документы всего Русского государства, изобразить в образах и картинах имена великих подвижников и деятелей и знаменательнейшие события; живым словом раскрыть перед народом славные страницы его истории. И события великого прошлого, деяние предков наших предстанут как бы воочию перед тысячами людей, разнесутся молвою по всему обширному Отечеству нашему, перейдут к детям и внукам нашим».