К разладу с отцом добавились частые ссоры с женой. Уже вскоре после заключения брака Рудольф понял, что его семейная жизнь не удалась. Интересы и воззрения супругов были слишком разными, и с годами их позиции по многим вопросам все больше расходились. Даже рождение в сентябре 1883 года дочери, эрцгерцогини Елизаветы, не смогло предотвратить роста отчужденности между супругами. Они не виделись неделями. На упреки близких Рудольф отвечал, что никогда не видел в глазах жены огня любви к нему, в них было только недоверие. Справедливости ради стоит сказать, что сам он вел отнюдь не монашеский образ жизни. Чтобы отвлечь сына он любовных похождений, Франц Иосиф специально для него создал новую должность – генерального инспектора пехоты. Но Рудольф, как и прежде, предпочитал инспектировать злачные места Вены. По воспоминаниям очевидцев, в своем охотничьем замке в Майерлинге он устраивал ночные попойки и оргии. Здесь в ванной с шампанским купались обнаженные артистки кабаре и оперетты. Не в лучшем виде по роскошным залам замка разгуливал и сам кронпринц с друзьями.
В это непростое для него время Рудольф познакомился с девятнадцатилетней баронессой Марией Вечерей, дочерью венгерского барона и итальянки из банкирской семьи. Девушка жила в Вене с матерью и опекуном Александром Бальтацци, известным спортсменом. Отец ее умер, когда она была еще ребенком. Их встреча стала для обоих чем-то вроде удара молнии. Мария неистово влюбилась в кронпринца. Она боготворила его и была готова ради него на все.
Роман Рудольфа и Марии развивался бурно. На протяжении 1887–1888 годов они почти не разлучались. Дело дошло до того, что кронпринц даже хотел взять с собой девушку на празднование 50-летия правления королевы Виктории в Лондон. Из-за этого разразился скандал. Но влюбленные по-прежнему продолжали встречаться то в доме графини Лярош, то в любимом замке в Майерлинге, проводя время в прогулках, развлечениях и охоте.
Франц Иосиф долго терпел неприглядное поведение сына. Однако в 1888 году между ними состоялся очередной серьезный разговор, поводом к которому послужило письмо папы Льва XIII к императору. В нем глава Ватикана сообщал Францу Иосифу о том, что кронпринц обратился к нему с просьбой о расторжении брака со Стефанией. Для австрийского монарха это известие стало громом среди ясного неба. Пригласив сына во дворец, он в категорической форме потребовал от сына объяснений. Франц Иосиф не хотел ничего слышать о разводе сына с законной женой и заключении брака с Марией и сказал, что ни за что не допустит такого скандала. Но, видимо, сын остался при своем мнении, поскольку последними словами императора стали такие: «Ты не достоин быть моим наследником!»
Прошло несколько месяцев. Что происходило за это время в отношениях между Рудольфом и Марией неизвестно. Накануне зловещего дня 30 января 1889 года кронпринц выехал в Майерлинг на охоту. А на следующий день утром в замок прибыла полиция. В одной из его комнат были обнаружены два трупа – Рудольфа и Марии. По всей видимости, кронпринц сначала застрелил свою возлюбленную, а затем с помощью зеркала совершил самоубийство. На ночном столике лежали прощальные письма эрцгерцога: матери, лакею… Отцу – ни строчки. Лицо, грудь, шея лежавшего на кровати Рудольфа были залиты кровью. Его правая рука сжимала револьвер. Пуля попала в висок и раздробила голову. Возле наследника престола находилось тело Марии Вечери без каких-либо следов крови. Девушка сжимала в руке розу.
Официально было объявлено, что Рудольф застрелился, находясь в состоянии «душевного помрачения». Это давало возможность похоронить его по церковному обычаю в родовом склепе Габсбургов. Марию тайно похоронили на кладбище при женском монастыре. Охотничий замок Майерлинг Франц Иосиф велел превратить в монастырь. По поводу же самой трагедии вскоре стали появляться разные слухи и предположения, которые продолжают возникать и по сей день. Говорят о сердечном ударе, отравлении, заговоре с целью убийства, политической мести и договоренности между влюбленными о двойном самоубийстве.