Решающее значение для Балакирева имело знакомство с А. Улыбышевым, также нижегородцем — дипломатом и великолепным знатоком музыки, автором трехтомной биографии В. А. Моцарта. Улыбышев высоко оценил талант молодого человека. Он был вхож в музыкальные круги столицы и в 1855 году привез в Петербург 19-летнего Милия. Дом Улыбышева, где собиралось интересное общество, устраивались концерты, стал для Балакирева настоящей школой художественного становления. Здесь он дирижирует любительским оркестром, в программе выступлений которого разные произведения и среди них симфонии Бетховена, выступает в качестве пианиста, к его услугам богатейшая нотная библиотека, в которой он проводит много времени, изучая партитуры. В этом доме Балакирев познакомился с Глинкой. Это знакомство, а также сближение с критиком В. Стасовым стало судьбоносным в его жизни. Знакомство с Глинкой, правда, осталось недолгим, он вскоре уехал за границу. Одобрив начинания Балакирева, великий композитор дает советы в отношении творческих занятий, беседует о музыке. Ярко одаренный, ненасытный в знаниях, неутомимый в работе, он рвался к новым свершениям. Благодаря Глинке, Милий Алекссевич активно взялся за сочинение музыки, а вместе со Стасовым стал идеологом «Могучей кучки», к которой впоследствии присоединились Ц.А. Кюи, М.П. Мусоргский, Н.А. Римский-Корсаков и А.П. Бородин.
Даргомыжскому также понравился молодой музыкант, и Милий с большим воодушевлением надеется творить и сочинять. В его планах была и симфония, и фортепианный концерт. Но, оставаясь один на один с листом нотной бумаги, он испытывал волнение, перераставшее в депрессию. Он не был уверен в себе, он хотел быть лучшим, стать на одну ступень с Глинкой или Бетховеном, но боялся разочарования и провала. Гораздо лучше ему удавалась роль музыкального консультанта и редактора, вдохновителя своих соратников по «Могучей кучке», лишь бы не писать самому. Идеи «для себя» его быстро разочаровывали и, как следствие — отвергались. Возможно потому, что самые выигрышные сюжеты он отдавал своим ученикам-кучкистам: «…критик, именно технический критик, он был удивительный», — писал Римский-Корсаков. Он активно участвовал в работе не только «кучкистов», но и других композиторов, Чайковского, например — подсказывал им темы сочинений, давал ценные советы, разбирал их произведения.
Но творил и сам. В конце 1850-х годов Балакирев написал 20 романсов, среди которых такие шедевры, как «Приди ко мне», «Песня Селима», «Песня золотой рыбки». Они были изданы и получили высокую оценку А. Серова: «…Свежие, здоровые цветки на почве русской музыки». В 1857 году он приступает к работе над подаренной ему Глинкой идеей — Увертюрой на тему испанского марша. Написанная в тот же год, Увертюра через 30 лет была полностью переработана. Символично, но первым произведением, которое в 1859 году познакомило петербургскую публику с молодым композитором, стала Увертюра на темы трех русских песен. Ведь вслед за Глинкой Балакирев считал русскую песнность основой всей отечественной музыки. В 1861 году в Александринском театре ставился шекспировский «Король Лир», музыку к спектаклю заказали Балакиреву. В итоге у композитора получилось самостоятельное симфоническое произведение, сюжет которого в некоторых сценах не соответствовал сюжету трагедии. Но музыка эта в Александринке так и не прозвучала — Балакирев не успел ее закончить ко дню премьеры. Написал он также немало фортепианных пьес и работал над симфонией.
Главной задачей всей своей жизни Балакирев считал становление русской музыки и музыкальной школы. Его музыкально-общественная деятельность связана с Бесплатной музыкальной школой, которую он организовал вместе с замечательным хормейстером и композитором Г. Ломакиным. Здесь все желающие могли приобщиться к музыке как изучая музыкальную теорию, так и участвуя в концертах. С 1867 года Балакирев, кроме того, дирижер концертов Императорского Российского музыкального общества (РМО).
В 1862 году из-под пера композитора выходит симфоническая поэма «1000 лет», которая впоследствии была переименована в «Русь». Поводом к ее написанию стало открытие в Великом Новгороде памятника тысячелетию Руси. Эта музыка стала отображением взглядов формировавшейся «Могучей кучки», ее идеи прослеживаются в более поздних произведениях Мусоргского и Римского-Корсакова. В это время в собраниях балакиревского кружка стала принимать участие молодая пианистка Надежда Пургольд, которая увлеклась Балакиревым. Не встретив взаимности, девушка переключила свое внимание на Римского-Корсакова и впоследствии стала его женой. А Милий Алексеевич так никогда и не женился.