В 1765 году, по смерти отца, Иосиф принял императорскую корону и тогда же мать сделала его соправителем в Австрии. Однако они так и не смогли ужиться вместе, поскольку были одинаково властолюбивы и не сходились во взглядах. Резкая перемена во всём обнаружилась сразу после смерти в 1780 году Марии Терезии. Иосиф всегда пренебрегал этикетом и сразу сократил до крайних размеров расходы на содержание своего двора. Вместе с тем он принёс с собой на престол непомерное желание устроить как можно лучше жизнь своих подданных и возвысить могущество своего государства. У него было множество разнообразных замыслов, которые он торопился осуществить. Он спешил всё сдвинуть с места и всему дать новый вид. Никогда ещё в Австрии не правил государь с такой жаждой преобразований, готовый работать с утра до вечера без отдыха и с лихорадочным возбуждением. Он писал своему брату Леопольду: «Любовь к отечеству, благо монархии - вот единственная страсть, которая меня одушевляет и под влиянием которой я готов предпринять что угодно». Как реформатор Иосиф был теоретиком в полном смысле слова. Господствовавшая тогда философская школа не имела никакого уважения к прошлому историческому развитию; всё отжившее представлялось грубым предрассудком ей, и она требовала коренного преобразования государственных учреждений на основании отвлечённых принципов. Иосиф не обращал внимания на то, что исторически сложилось, а считал необходимым сообразовываться только с указаниями разума и «естественным правом». «Возлагая на себя наиболее славную из европейских корон, - писал император, - я намерен поставить философию законодательницей моего государства; на основании её принципов Австрия должна получить совершенно новый вид… Внутреннее управление подвластных мне областей требует радикальной перемены; привилегии, фанатизм и умственный гнёт должны исчезнуть, каждый из моих подданных будет пользоваться прирождёнными ему естественными правами».
В чём заключалась его программа? «Монархия, - писал Иосиф, - должна состоять из совершенно сходных по своим учреждениям провинций, представлять собой единое целое, к которому следует применить одинаковую систему управления… Как скоро это будет достигнуто, прекратится всякое отчуждение, всякое соперничество между различными областями и народностями… Различия по происхождению и вероисповеданию должны исчезнуть, и тогда все граждане будут считаться братьями, стараясь посильно помогать друг другу». Уже на другой день по своём воцарении Иосиф издал закон о свободе вероисповедания. Несмотря на его умеренность, впечатление, произведённое этим декретом, было чрезвычайно сильно не только в Австрии, но и во всей Европе. Затем последовал целый ряд других законов, имевших целью ослабить влияние Рима и сделать австрийскую церковь более самостоятельной. Встревоженный папа Пий VI отправился в 1781 году в Вену, чтобы лично встретиться с Иосифом, но поездка эта не имела никакого результата - император не согласился пойти ни на какие уступки и объявил о своём твёрдом намерении отнять у духовенства значительную долю тех прав, которые с незапамятных времён оно присвоило себе в Австрии. «Я намерен, - писал он в одном из писем, - освободить народ от суеверий и от влияния саддукеев… необходимо изъять из церковной области всё, что не имеет к ней никакого отношения и следствием чего было порабощение человеческого разума». С особым нерасположением он относился к монашеским орденам, которые немедленно подчинил власти епископов. Затем началось упразднение монастырей: в первые шесть лет царствования Иосифа их было закрыто не менее 740. Это, по-видимому, нужное преобразование сопровождалось совершенно неоправданной горячностью и неразберихой. Монастыри были ограблены с беспощадным насилием, их имущество растрачено, их драгоценные библиотеки уничтожены или расхищены. В венском картезианском монастыре бальзамированное тело Альфреда Мудрого было выкинуто из своего свинцового гроба ради металла и в течение нескольких месяцев выставлено на всеобщее обозрение.