Однако, несмотря на серьезные успехи в музыкальных занятиях, в 1885 г. он становится студентом юридического факультета университета в Гельсингфорсе. Параллельно он занимается в Музыкальном институте, мечтая в душе о карьере скрипача-виртуоза. Среди юношеских сочинений композитора выделяются романтические произведения, важное место в них занимают картины природы. Так, юношескому квартету Сибелиус дает эпиграф — написанный им же самим фантастический северный пейзаж. Образы природы придают особый колорит и программной сюите «Флорестан» для фортепиано, хотя в центре внимания композитора — образ героя, влюбленного в прекрасную черноглазую нимфу с золотыми волосами.
Молодого музыканта связала тесная дружба с Бузони, приглашенным в то время на работу в Музыкальный институт Гельсингфорса. Но, пожалуй, самое большое значение для композитора имело знакомство с семейством Ярнефельтов. Их было три брата: Армас — дирижер и композитор, Арвид — писатель, Ээро — художник, а их сестра Айно впоследствии стала женой Сибелиуса. Ээро, между прочим, внучатый племянник знаменитого П. Клодта, выполнил в те годы портрет молодого композитора.
Для совершенствования музыкального образования в 1889 году Сибелиус едет на 2 года в Германию и Австрию. Он внимательно изучает творчество Вагнера, Брамса, Брукнера, и на всю жизнь становится приверженцем программной музыки. По словам композитора, «музыка может полностью проявить свое воздействие только тогда, когда ей дает направление какой-либо поэтический сюжет, другими словами, когда музыка и поэзия объединены».
В начале 90-х годов выходит первое крупное сочинение Сибелиуса, симфоническая поэма «Куллерво». Ее премьера в Хельсинки весной 1892 года прошла с большим успехом, став олицетворением финской национальной идеи. Последующие работы композитора, симфоническая поэма «Сказка» и сюиты «Карелия» и «Лемминкяйнен» также сопровождались одобрением слушателей.
На рубеже веков Сибелиус создает два очень важных на своем творческом пути произведения. Премьера Первой симфонии прошла 26 апреля 1899 года в Хельсинки. Симфония звучала в один вечер с небольшим сочинением — «Афинской песней», которое едва не затмило симфонию по произведенному на публику впечатлению.
В это же время Сибелиус создает музыку к театральным спектаклям. Наибольшую известность получила музыка к спектаклю «Куолема» А. Ярнефельда, в особенности «Грустный вальс» (мать главного героя, умирая, видит образ своего умершего мужа, который как бы приглашает ее на танец, и под звуки вальса она умирает). Эта небольшая пьеса снискала мировую известность и стала одним из «шлягеров» симфонических концертов.
Тогда же Сибелиусу предложили написать музыку к патриотической театральной постановке из финской истории. Так возникла симфоническая поэма «Финляндия», одно из двух наиболее известных и популярных сочинений композитора. Поэма Сибелиуса сравнительно невелика, но оставляет впечатление величавой эпической фрески. Тяжеловесные мощные аккорды меди на фоне тремоло литавр вводят в мир Финляндии — северной природы, суровых сказаний, трагической истории, могучих, богатырского склада людей, готовых к долгой упорной борьбе. Тема развертывается неспешно. Но вот темп убыстряется, раздаются кличи труб и тромбонов, звон тарелок и треугольника, воцаряются радостные и в то же время героические настроения. Завершается поэма мощным ликующим гимном. Первоначально его исполнял оркестр. Но позднее Вейкко Коскенниеми сочинил стихотворный текст, и гимн стал привычен в хоровом исполнении. Он превратился в своего рода неофициальный гимн страны.
Сам Сибелиус, хотя и оценивал «Финляндию» и «Грустный вальс» как «хорошие композиции», но не выделял их среди других своих произведений. Секретарь Сибелиуса Сантери Левас, вспоминал, что композитор негодовал, если в очередном письме с просьбой об автографе упоминались лишь «Финляндия» и «Грустный вальс».
В 1902–1903 годах из-под пера Сибелиуса выходят замечательная Вторая симфония и одно из самых известных сегодня его сочинений — Концерт для скрипки с оркестром, знаменитый своей сложностью: в нем ярко выражено стремление композитора выявить беспредельные выразительные возможности скрипки, равные возможностям оркестра. После берлинской премьеры, прошедшей с невероятным успехом, один из критиков сравнил музыку концерта с «живописными скандинавскими зимними пейзажами, на которых художники посредством утонченной игры белого на белом добиваются редких, подчас гипнотических и мощных эффектов».