Главные задачи Общества Николай Григорьевич видел в создании любительского хора, устройстве симфонических и камерных концертов, учреждении музыкально-воспитательных и музыкально-образовательных классов.
С момента открытия московского отделения РМО, в 1860 году, Николай Рубинштейн отдавал всю свою кипучую, неутомимую энергию организации концертной и просветительской деятельности в Москве. Сам же в эти годы вплоть до открытия консерватории в основном выступал только в качестве дирижера. Рубинштейна-пианиста московская публика могла услышать лишь раз в сезон, на его бенефисных концертах, да и то он обычно выступал не как исполнитель фортепианных сольных пьес, а играл концерты в сопровождении симфонического оркестра.
Рубинштейн привлек к деятельности Общества и других известных музыкантов: австрийского пианиста Антона Доора и молодого скрипача-виртуоза Василия Безекирского, которому Петр Ильич, еще будучи учеником консерватории в Петербурге, аккомпанировал в концерте.
С самого начала деятельности Общества основными помощниками Н. Г. Рубинштейна стали К. К. Альбрехт и Э. Л. Лангер, на всю жизнь оставшиеся его ближайшими и верными друзьями. К дружескому кругу Рубинштейна принадлежал и молодой музыкальный критик Н. Д. Кашкин, приглашенный преподавателем в Музыкальные классы Общества в 1863 году по классам фортепиано, теоретическим предметам и истории музыки (с 1860 года Николай Дмитриевич пел в хоре Общества).
К деятельности в Музыкальном обществе Рубинштейн привлек также и Петра Ивановича Юргенсона, который уже в 1861 году основал и открыл в Москве музыкально-издательскую фирму и нотный магазин на углу Большой Дмитровки и Столешникова переулка. Петр Иванович стал доверенным лицом и постоянным комиссионером Общества, членом дирекции Московского отделения.
Наступило 1 сентября 1866 года — знаменательная дата открытия Московской консерватории. В этот торжественный день в консерватории выступил В. Ф. Одоевский: «Будем надеяться, что со временем Московская консерватория не оставит без художественно-исторической обработки и наших народных мирских напевов, рассеянных по всему пространству великой Руси… Воспитанники консерватории, получив полное музыкальное образование, будут и по сему предмету важными способниками музыкального искусства; некогда их трудами соберутся со всех концов России наши подлинные народные напевы и науке представится возможным бессознательное доныне ощущение перенести на технический язык, определить те внутренние законы, коими движется наше народное пение».
Н. Г. Рубинштейн провозгласил главной задачей Московской консерватории «возвысить значение русской музыки и русских артистов» и указал «на большую ответственность, лежащую на Московской консерватории, которая обязалась перед лицом государства и народа приготовить не только специалистов по тому или другому инструменту, но и музыкантов в обширнейшем смысле этого слова».
Среди выступавших был и Петр Ильич, который произнес речь, отметив выдающиеся заслуги своего учителя, Антона Григорьевича Рубинштейна, в деле основания и развития профессионального музыкального образования в России. Затем, когда началась музыкальная часть торжества, Чайковский встал и, обращаясь к огромной аудитории, сказал:
— Пусть первыми звуками в консерватории будет произведение гениального родоначальника русской музыки.
С этими словами он подошел к роялю — и под его пальцами зазвучала гениальная увертюра Глинки к опере «Руслан и Людмила».
Приглашение Николая Григорьевича занять профессорскую должность в качестве преподавателя Московской консерватории было для молодого музыканта чрезвычайно лестным. Рубинштейн собрал блестящий состав педагогов. Он пригласил самых выдающихся артистов, отечественных и иностранных, которые представляли исполнительское искусство разных школ.
По классу фортепиано здесь преподавали воспитанник Д. Фильда пианист А. И. Дюбюк, ученик A. Черни — А. Доор, выпускник Парижской консерватории Ю. Венявский, ученик Ф. Листа — К. Клиндворт, наконец, сам Николай Рубинштейн, ученик Ф. Гебеля, А. И. Виллуана. В младших фортепианных классах преподавал Н. С. Зверев, ученик А. И. Дюбюка и А. Л. Гензельта. С вокалистами занимались русские педагоги А. Д. Александрова-Кочетова, B. Н. Кашперов и А. Р. Осберг, а также продолжатель традиций Рубини в итальянском вокальном искусстве Дж. Гальвани. С певцами над дикцией работал крупнейший актер Малого театра С. В. Шумский. Продолжатель традиций великого Щепкина, он относился с особым энтузиазмом к своим занятиям, даже отказываясь от вознаграждения. Педагогами по классам скрипки и виолончели стали представители чешской, австрийской, бельгийской и немецкой школ, выдающиеся виртуозы: скрипач Ф. Лауб, виолончелист Б. Коссман и другие талантливые музыканты. Музыкально-теоретические предметы были поручены композиторам — Петру Ильичу, Г. А. Ларошу, вскоре приехавшему из Петербурга, а затем сменившему его Н. А. Губерту. Занятия по сольфеджио вел К. К. Альбрехт. Для общеобразовательной подготовки учеников консерватории Рубинштейн пригласил К. К. Герца, видного профессора университета который читал лекции по эстетике в соединении с историей искусств и мифологией.
Вскоре после приезда в Москву Петр Ильич сообщил родным в Петербург, что с новыми московскими знакомыми он уже «в отличных отношениях, но особенно успел сойтись с Рубинштейном, Кашкиным (друг Лароша), Альбрехтом и Осбергом». По словам Н. Д. Кашкина, консерватория для Чайковского «на много лет сделалась той артистической семьей, в среде которой рос и развивался его талант. Эта среда имела несомненное и сильное влияние на то, какие пути молодой композитор избирал в искусстве, и сам он так сжился с товарищеским консерваторским кружком, что сохранил к нему горячие симпатии и после выхода своего из состава профессоров консерватории в 1878 году. Симпатии эти не исчезли в нем до конца его жизни».
Чайковский произвел на Николая Дмитриевича Кашкина «весьма выгодное впечатление», показался ему «очень привлекательным и красивым, по крайней мере, в лице его был ясный отпечаток талантливости и вместе с тем оно светилось добротой и умом». К обоюдному удовольствию, оба сразу поняли, что они единомышленники во взглядах на искусство, музыкальное в особенности, на отечественную литературу, находящуюся в ту пору в состоянии расцвета. Они зачитывались произведениями Тургенева и Толстого, Некрасова и Салтыкова-Щедрина, Герцена и Достоевского. Они вместе обсуждали и переживали трагические конфликты только что вышедших романов Достоевского «Преступление и наказание» и «Идиот», поэму Некрасова «Кому на Руси жить хорошо» и повесть Тургенева «Дым». Интересовала их и литературно-критическая мысль, особенно Кашки-на, молодого историка музыки, ставшего по настоянию Николая Григорьевича первым постоянным музыкальным хроникером «Московских ведомостей». Несомненно, что общение с Николаем Дмитриевичем оказало воздействие и на Петра Ильича, начавшего систематическую литературную, музыкально-критическую деятельность через два года после переезда в Москву.
Кашкин разделял горячее преклонение Чайковского перед гением Глинки, Моцарта и Бетховена. Их роднило и искреннее увлечение музыкой композиторов-романтиков, особенно Шумана. С горячностью они обсуждали фортепианные произведения Шопена, в музыке которого еще Глинка почувствовал «общую жилку» с музыкальной культурой славянских народов. После Глинки и Моцарта любимейшим композитором Петра Ильича был Шуман. Поэтому он горячо доказывал, что «музыка второй половины текущего столетия составит в будущей истории искусства период, который грядущие поколения назовут шумановским… неоспоримо то, что этот композитор есть наиболее яркий представитель современного музыкального искусства…».