Вернувшись в конце 1829 года на родину, Мендельсон в короткий срок создает свою первую зрелую симфонию — Реформационную. Значение ее чрезвычайно велико: это первая программная и первая романтическая симфония. Ведь творения Шуберта еще пылятся среди других партитур у его брата и знакомых, и пройдет почти десять лет, прежде чем тот же Мендельсон исполнит последнюю из них, а Фантастическая симфония Берлиоза появится через несколько месяцев после Реформационной. После Британских островов Мендельсон отправляется на другой край Европы — в солнечную Италию. Путешествие началось в счастливую, беззаботную пору, цветущим октябрем 1830 года и продолжалось почти год. Композитор побывал в Венеции, Риме, Неаполе, на острове Капри, во Флоренции, Милане и многих других городах.
По возвращении на родину Мендельсон поражен затхлой, филистерской атмосферой Берлина, всесилием цензуры, гонениями на свободную мысль. Его учитель Цельтер умер, и место руководителя Певческой капеллы свободно. Мендельсон рассчитывал на него, но избран был не «еврейский мальчишка», а почтенный и посредственный К. Ф. Рунгенхаген, долгие годы бывший заместителем Цельтера. Мендельсону же пришлось довольствоваться местом музыкального руководителя в Дюссельдорфе, после того как в мае 1833 года он с блеском провел грандиозный Нижнерейнский фестиваль, на котором дирижировал ораторией Генделя «Израиль в Египте».
Дюссельдорф, богатый город, гордо именовавшийся «Флоренцией на Рейне», был в то время похож на большую деревню. «Городишко так очаровательно мал, что кажется, будто ты никогда не покидаешь своей комнаты», — писал Мендельсон, чувствовавший себя очень одиноким. «Живу тихо и замкнуто. Часто ни с кем так много не разговариваю, как со своей лошадью». Музыкальная жизнь Дюссельдорфа находилась в плачевном состоянии, и Мендельсон прилагал героические усилия, чтобы поднять ее на достойный уровень. «Если бы ты услышал хоть раз, как я дирижирую этим оркестром, тебя бы и четверкой лошадей не затащить на второй концерт», — жаловался он другу. А на репетициях «Эгмонта» он «впервые в жизни разорвал партитуру, выйдя из себя из-за дураков-музыкантов… они любят подраться в оркестре, а в моем присутствии не могут себе этого позволить».
Совсем другая обстановка царила в лейпцигском оркестре Гевандхауза, руководителем которого Мендельсон стал в октябре 1835 года. Оркестр имел давние традиции, но под управлением нового дирижера стал первым в Германии. Всех поражало, что он дирижировал палочкой, стоя за пультом: раньше капельмейстер либо стоял со скрипкой в руках, либо сидел за фортепиано. Даже друг Мендельсона Шуман не одобрял этого нововведения — палочка ему мешала. «Оркестр должен быть республикой, над которой не стоит никто», — считал он. А вот как современники описывали взаимоотношения Мендельсона с оркестром: «Мендельсона отличал не только его исключительный дар руководителя, но и духовное превосходство его обаятельной личности. Все участники постоянно чувствовали полное самоотречение и верность долгу этого человека… Огненные глаза Мендельсона все время охватывали весь оркестр и царили над ним. А глаза всех оркестрантов были прикованы к кончику его дирижерской палочки».
В ноябре 1835 года композитора постиг тяжкий удар — смерть горячо любимого отца. Утешение он нашел в работе: закончил начатую несколько лет назад ораторию «Павел», дирижировал ораториями Генделя, кантатами и сюитами Баха, поразил лейпцигскую публику исполнением Девятой симфонии Бетховена, которая считалась безумным плодом буйной фантазии глухого композитора, дал цикл исторических концертов — от Баха до современников. Мендельсон стал первым исполнителем романтических симфоний: найденной Шуманом до-мажорной Шуберта, двух первых симфоний Шумана. В церкви Святого Фомы, где столетие назад работал Бах, он продирижировал своей симфонией-кантатой «Хвалебная песнь», давал органные концерты, сбор с которых шел на установку мемориальной доски в честь Баха. Выступал он и как пианист, в частности, — в концерте для трех клавиров Баха, где одну из партий исполняла 16-летняя Клара Вик, еще не ставшая женой Шумана; в другом концерте его партнером был Лист, гастролировавший в Лейпциге. Кроме того, Мендельсона регулярно приглашали руководить летними музыкальными празднествами в Дюссельдорфе и Кельне, где он обычно дирижировал ораториальными сочинениями Генделя, Баха, Бетховена.