Политическое руководство до конца войны было фактически лишено власти. В считанные месяцы до финала пришли и ушли еще три рейхсканцлера. Гинденбург и Людендорф господствовали почти безгранично. Они по-прежнему настойчиво стремились к победоносному миру. Только когда в 1918 году потерпело неудачу большое весеннее наступление, они двадцать девятого сентября 1918 года потребовали немедленных переговоров о перемирии и назначении в Германской империи парламентского правительства. Германского императора Вильгельма II, ушедшего в тень и давно уже неспособного влиять на своих подданных, Гинденбург призвал покинуть Берлин. Вильгельм сначала бежал в Спа, в ставку главного командования, потом в Голландию. Молодой обер-бургомистр большого прусского города, в 1917 году назначенный Вильгельмом в Кельн, Конрад Аденауэр — несколько десятилетий спустя он станет первым федеральным канцлером ФРГ — сказал в 1919 году по этому поводу, что немецкой армии, которая «доблестно сражалась», был нанесен последний страшный удар: «необъяснимое, позорное и роковое бегство ее главнокомандующего, императора Вильгельма».
Гинденбург, осознававший неизбежность военной катастрофы, настаивал на подписании перемирия. Однако намеренно держался в стороне от самих переговоров. Это тяжелое и неблагодарное дело он предоставил политикам. Таким образом, политик центра Маттиас Эрцбергер, как руководитель немецкой делегации, должен был взять на себя все унижения союзнических условий. Одиннадцатого ноября 1918 года он подписал договор о перемирии. Гинденбургу, которого Эрцбергер просил о согласии и который принял перемирие, в дальнейшем удалось отмежеваться от лагеря миротворцев. Он быстро перешел на сторону крайне правых, которые заклеймили не только коммунистические, но и все социал-демократические и либеральные силы «ноябрьскими преступниками» и переложили на них ответственность за позорное окончание войны. Этим они целились в первую очередь в Ноябрьскую революцию, которая вспыхнула только тогда, когда Гинденбург и Людендорф давно признались императору в поражении. Забывалось также, что военное руководство уже второго октября 1918 года публично подтвердило перед лидерами партий факт поражения.
Гинденбург не принимал участия в мирных переговорах. Он еще несколько месяцев возглавлял командование, чтобы вывести войска обратно на родину и противодействовать беспорядкам. Затем в июле 1919 года, после заключения Версальского договора, он вышел в отставку. Восемнадцатого ноября 1919 года парламентская комиссия допросила его о причинах немецкого поражения. Военные, как и правые политические круги, давно усматривали их во внутренней немецкой политике. О том, что истинные основания следовало искать в военном и экономическом превосходстве противника, Гинденбург и Людендорф докладывали императору Вильгельму II еще четырнадцатого августа 1918 года. Но именно об этом Гинденбург умолчал на допросе. Вместо этого он стал говорить о тайном и планомерном «разложении флота и армии». Смысл его слов в конце концов выкристаллизовался во фразе, произнося которую он сослался на высказывание одного британского генерала: «Немецкой армии нанесли удар ножом в спину». Этими словами Гинденбург создал роковую легенду о предательском ударе.
Слова «удар ножом» появлялись в правой прессе и раньше. Однако та фраза, на которую сослался Гинденбург, предположительно принадлежала главе британской военной миссии в Берлине генералу сэру Нилу Малькольму. По поводу позиции немецкого правительства и населения в вопросе о перемирии тот ответил Людендорфу: «You mean that you were stabbed in the back?» («Вы хотите сказать, что вас ударили ножом в спину?»). Сама же легенда о предательском ударе в спину исходила, вероятно, от корреспондента «Новой цюрихской газеты», который в свою очередь цитировал британского генерала сэра Фредерика Мориса: «Что касается немецкой армии, то общее впечатление можно резюмировать кратко: она была заколота в спину гражданским населением».