Иллюзия стабильности и широкой поддержки мало помогла канцлеру на выборах 1976 года. Теперь на него наседала не собственная партия, а политический противник. Год начался с политического поражения в Нижней Саксонии. Победа на выборах в ландтаг досталась партии с трудом, но, несмотря на это, кандидат от СДПГ Гельмут Казимир не смог объединить вокруг себя большинство в ландтаге во время выборов премьер-министра. Во время второго тура 14 января 1976 года выборов премьер-министром был избран кандидат от ХДС — Эрнст Альбрехт — с преимуществом в один голос. Некоторые депутаты от СПГ или СДПГ не отдали Казимиру свой голос. Дело дошло до первого серьезного кризиса доверия между СДПГ и СПГ в Бонне.
Но главное, представители федеральных земель, где преимущество имела ХДС, неожиданно получили явный перевес в бундесрате. Это еще больше осложняло правление Шмидта. Это был дурной знак, с которого начался «самый черный год» его правления. Также важным било и другое событие: ХДС решил выдвинуть своего кандидата Гельмута Коля, премьер-министра земли Рейнланд-Пфальц как основного кандидата на выборах 1976 года. Шмидт демонстративно не воспринял своего противника всерьез, но все равно в предвыборной борьбе 1976 года канцлер использовал метод запугивания: «Господин Коль хочет казаться простаком, по мне, так пусть, но необходимо не упустить собирающихся вокруг него господ типа Дреггеров, Карстенов и Штраусов». Громкие лозунги звучали во время всей предвыборной гонки. Лозунг ХДС «Свобода или социализм!», ХСС выразился еще более четко: «Свободу вместо социализма», СДПГ расхваливала «Образцовую Германию» и положилась на популярность своего лидера Гельмута Шмидта: «Действуй с нами, выбирай Шмидта!» — было написано на плакатах.
Но вовсе не так много избирателей готово было действовать совместно с СДПГ. Коалиция СДПГ/СПГ победила на выборах в бундестаг в октябре 1976 года с очень небольшим перевесом голосов. Результаты выборов потрясли членов коалиции, ведь конкурент Шмидта Гельмут Коль с 48,6 % голосов достиг второго лучшего результата выборов в истории ХДС. СДПГ получила 42,6 % голосов, только уважение к Шмидту не допустило того, чтобы результаты были еще хуже. СПГ набрала 7,9 % голосов.
Настоящее унижение канцлеру пришлось пережить 15 декабря 1976 года, в этот день проходили выборы бундестагом канцлера. Действующий и, скорее всего, будущий канцлер в этот день, как и всегда, сидел в первом ряду зала для пленарных заседаний бундестага ФРГ. Он склонил голову и опустил глаза, это была поза человека, который готовится к тому, чтобы принять удар, а не поза победителя. Результаты выборов показали, что предчувствия не обманули Шмита. Он был переизбран немецким бундестагом, но победу ему принес перевес в… один голос. Это было болезненно. Два депутата его собственной коалиции отказали Шмидту в поддержке: один воздержался, другой проголосовал так, чтобы его голос был недействительным. Согласно протоколу президент бундестага Карл Карсгснс задал после объявления результатов выборов решающий вопрос: «Я спрашиваю депутата Шмидта, Вы согласны с результатом выборов?» Все глаза в зале были направлены на канцлера, который на мгновение заколебался. Обычно такой сильный и волевой, он поднялся медленно, в его жестах не было и следа привычной уверенности и размаха, словно он потерял желание управлять. Он облокотился на стол с каменным лицом. На какой-то момент депутаты от коалиции опасались, что канцлера разозлит сложившаяся ситуация и он ответил своенравным «Нет». Видно было, как Шмидт пытался обрести контроль над собственным голосом: «Господин президент, я согласен с результатом выборов». Практичный борец с кризисами, удачливый политик и «мировой экономист» только что чуть не был повержен. Что же произошло?
Неприятности начались пару недель назад. Гельмут Шмидт за несколько дней до выборов вызвал кризис доверия к своей партии и коалиции. Во время предвыборной кампании на страницах газетой заявил пенсионерам:
«Я гарантирую вам обеспеченную старость». Выступая но телевизору, он пообещал повышение пенсий на 10 % к 1 июля 1977 года. Однако во время сборов пенсионного страхования начались проблемы. Помимо этого выявилась ошибка в расчетах Министерства здравоохранении и социального обеспечения. После выборов, во время коалиционных переговоров с СПГ, стало ясно, что в пенсионной кассе до 1980 года не хватит 84 миллиардов марок — крушение пенсионной реформы стало неизбежным. Чтобы повысить пенсии, работодателям пришлось бы поднять пенсионные взносы, однако Геншер и СПГ были против этой меры. Геншер и Шмидт за неделю до выборов канцлера в бундестаге решили передвинуть повышение пенсий на полгода вперед, без консультаций с собственными партиями.