Уже на закате жизни Ярослав созвал своих детей, чтобы отеческим внушением попытаться предотвратить возможные после его смерти раздоры. Старшего из живых на тот момент сыновей Изяслава Ярослав назначил своим наследником на киевском престоле. Святославу в качестве удела был определен Чернигов, Всеволоду — Переяславль, Вячеславу — Смоленск, а Игорю — Волынь. Всем младшим братьям было велено подчиняться старшему, Изяславу, и не предпринимать против него никаких действий, которые могли причинить вред русскому государству. Однако дети Ярослава не послушались отцовского наказа, и после его кончины междоусобные распри разгорелись с новой силой.
Ярослав скончался в Вышгороде в 1054 году. В момент смерти рядом с отцом находился его любимый сын Всеволод. Он затем возглавил траурное шествие из Вышгорода в Киев, доставившее покойного в Софийский собор. Там тело Ярослава было заключено в мраморную раку и погребено. В надписи на стене Святой Софии над саркофагом Ярослава великий князь упоминается как «цесарь» (в переводе с византийского «царь»). Илларион, говоря о Ярославе, употреблял титул «русский каган».
Спорным вопросом остается возраст Ярослава. Исчисление его возраста, как правило, очень противоречиво из-за тенденциозности источников в этом вопросе. Согласно «Повести временных лет», князь «живе же всех лет 70 и 6», т. е. умер в 76 лет. Указание на 76-летний возраст подчеркивало его старшинство в роду Владимировичей. На основании анализа останков князя, найденных в саркофаге Святой Софии, можно делать вывод о том, что скелет принадлежал мужчине 60–70 лет. Это подтверждает летописное «известие» 1016 года и «Пролог» XIII–XIV веков — там говорится, что Ярослав прожил 66 лет.
После находки скелета и черепа Ярослава Мудрого ученые многократно пытались воссоздать внешний вид великого князя. Досконально сделать это невозможно — многие говорят даже, что скелет в мраморном гробу Софиевского собора принадлежал женщине, а череп — мужчине. Всеми принятой является реконструкция головы Ярослава, сейчас выставленная в Софиевском соборе. Но на двугривенной купюре старого образца князь изображен с «казацкими» усами и без бороды, что не соответствует исторической правде: в Киевской Руси бороды не брили.
Летописи единогласно дают правлению Ярослава самую высокую оценку, называя его мудрым правителем. Это определение закрепилось за ним как его прозвище. Ярославу удалось восстановить существовавшие ранее границы русского государства, используя при этом не силу оружия, а дипломатию и успешное устройство браков своих детей. Однако, когда было нужно, князь применял и силу для защиты интересов государства, как это было в случае с убийством русского купца в Константинополе. Ярослав был в большом почете у новгородских граждан. Он даровал им особую льготную грамоту, позволявшую долгое время сохранять самоуправление и относительную независимость от русских правителей.
Первое упоминание о Ярославовых грамотах встречается в летописях, датируемых 1228 годом. Тогда Русь пребывала в глубоком кризисе, который не миновал и Новгорода. То время характеризуется чередой стихийных бедствий, народных бунтов и острых политических конфликтов. В этих конфликтах участвовали и новгородские князья. Не могла остаться в стороне и княжеская власть. Согласно летописям, местная знать требовала от новгородских князей соблюдения Ярославовых грамот. К примеру, князь Ярослав Всеволодович, который сначала согласился следовать грамотам и уважать дарованные ими вольности, а позже пытался нарушить свое слово, лишился власти в Новгороде. Следующий князь, призванный новгородцами, Михаил Черниговский, проявил большее уважение к правам новгородцев и при вступлении на княжеский престол целовал не только крест, но и Ярославовы грамоты. Однако вскоре новгородцы выгнали и его, вернув прежнего князя, который снова присягал на грамотах. Целовал эти грамоты спустя сотню лет и Иван Калита, великий князь московский.
По велению Ярослава в Новгороде была организована школа для боярских детей, которую посещали до 300 учеников, которые обучались грамоте и другим наукам, необходимым для чиновников и людей церковного звания. Во время правления Ярослава Новгороду удалось распространить свое влияние на весьма удаленные территории; так, дань новгородцам платили и пермские народы. Если посмотреть на карту, становится понятно, что для покорения далекого пермского края необходимо было вначале добиться подчинения от населения более приближенных мест.