В первом официальном правительстве Израиля Бен-Гурион занял пост премьер-министра и министра обороны.
В 1952 году экономическая ситуация в стране стала быстро ухудшаться, поэтому 12 марта того же года Израиль выдвинул странам союзницам оккупирующих Германию в то время требование о выплате Германией около полутора миллиарда долларов за еврейское имущество в Европе. Вопрос о принятии реприаций от Германии был поставлен на голосование в парламенте, где Бен-Гурион выступил с речью. В это же время недалеко от здания парламента с пламенной речью против принятия выплат выступал Менахем Бегин. Бегин решил продолжить свою речь у здания парламента, чтобы израильские парламентарии услышали его и толпа также двинулась за ним. Людской поток прорвал полицейские кордоны и парламент стали закидывать камнями. В итоге было заключено соглашение о выплате Германией в течение двадцати лет суммы размером в 822 миллиона долларов.
Осенью 1953 года Бен-Гурион ушел со всех постов. Находясь уже несколько лет у власти, он выполнил много важных задач: были заложены основы государства Израиль, население страны было увеличено в два раза, была создана израильская армия, был определён политический курс молодого государства, всё это было заслугой Бен-Гуриона. 7 декабря Бен-Гурион выступил по радио с прощальной краткой речью. 14 декабря 1953 года Бен-Гурион и его жена Полина покинули свой дом в Тель-Авиве и переехали в барак в кибуце Сде-Бокер. В свой первый рабочий день бывший глава правительства занимался перевозкой навоза. Он чувствовал себя как обычный кибуцник, однако к нему постоянно приходило множество писем, ни одно из которых он не оставлял без ответа. Также в кибуц часто приезжали высокопоставленные чиновники, чтобы спросить совета Бен-Гуриона в том или ином вопросе. Летом 1954 года Бен-Гурион приходит к выводу, что его преемники не способны нормально управлять государством. Соратники Бен-Гуриона уговорили его вернуться в правительство, он же ответил им положительно, записав в тот день в дневнике: «Армия и оборона прежде всего». Он стал министром обороны. Политику Бен-Гуриона в этот период можно назвать воинственной, он считал, что только достойный ответ на действия Египта против Израиля сможет предотвратить военный конфликт между двумя странами.
Первым существенным шагом Бен-Гуриона на этом посту было проведение карательной операции против египетской армии в секторе Газа. Эта акция послужила ответом на убийства мирных израильтян у границы Газы. Государство Израиль, как считал Бен-Гурион, должно было показать евреям, приехавшим из стран, где они подвергались неравенству по национальному признаку, что они граждане независимого демократического государства, которое несёт ответственность за их жизнь.
2 ноября 1955 года Бен-Гурион представил своё новое правительство в парламенте, своё вступительное слово он посвятил предстоящей войне с Египтом, которая происходила с октября 1956 года по март 1957 года и была фактически связана с определением статуса Администрации Суэцкого канала. Синайская компания не принесла Израилю новых территорий, но она имела важное значение. В ходе войны выяснилось, что Армия обороны Израиля имеет превосходство над армиями соседних арабских стран. Быстрая победа вселила в израильтян веру в возможность спокойной жизни в стране.
В 1957 году еврейский экстремист взорвал бомбу в здании парламента, и Бен-Гурион был тяжело ранен. В том же году он возглавил торжества по случаю 10-й годовщины создания Израиля, численность граждан которого достигла одного миллиона.
В 1959 году, во время кризиса, возникшего после решения правительства продать оружие израильского производства Западной Германии, Бен-Гурион вновь ушёл в отставку, но после уверенной победы его партии 3 ноября 1959 года сформировал новый кабинет.
16 июня 1963 года Бен-Гурион в возрасте 77 лет вышел из правительства.
В 1970 году, окончательно отказавшись от участия в политической жизни, он полностью посвятил себя литературной работе в уединении в кибуце Сдэ-Бокер.
Бен-Гурион представляет собой личность исключительной силы, которая зародилась и выросла во время борьбы еврейского народа за государственность.
Умер Бен-Гурион в Тель-Авиве 1 декабря 1973 года и похоронен в кибуце Сдэ-Бокер.
Бегин Менахем