Союзная политика Радовица во внутригерманских отношениях привела к противостоянию с Австрией. Россия вследствие недоверия к национальной германской политике того же Радовица стала на сторону Австрии, и в результате, как и предсказывал Бисмарк, возникла дилемма: война на фоне неблагоприятных предпосылок или политическое отступление, т. е. отказ от великих намерений и возвращение Пруссии в реставрированный Германский союз при главенствующей роли Австрии. Подписанное 29 ноября 1850 года в Ольмюце предварительное соглашение, которое всеми национальными и либеральными силами Германии рассматривалось как тяжелое поражение Пруссии, являло собой решение в пользу последней из этих двух возможностей. 3 декабря 1850 года Бисмарк произнес в палате депутатов Пруссии речь в оправдание такого решения, приводя, к удивлению своих консервативно настроенных друзей, аргументы, которые следовало понимать не только как отказ от всяких иллюзий национального и либерального толка, но и как явное дистанцирование от консервативной политики. Вот характерный фрагмент этой речи: «Единственной здравой основой крупного государства, и этим оно существенным образом отличается от малого, является государственный эгоизм, а не романтика, и недостойно великой страны вести споры о деле, не входящем в сферу ее собственных интересов. Политику, что в кабинете, что в палате, нетрудно на волне популярных веяний трубить в военные трубы и при этом сидеть в тепле у камина или с этой трибуны произносить грозные речи. Солдат, истекающий кровью на снегу, должен решать, снискала та или иная система взглядов победу и славу, или нет. Это нетрудно, но горе политику, если он не найдет такой причины для начала войны, которая останется веской и после последнего выстрела». Впрочем, произнося эту речь — в свете антиавстрийских настроений, царивших прежде всего среди большинства либералов, она звучала отнюдь не бесспорно и для некоторых консерваторов — Бисмарк отметил и задачи общеевропейского уровня, стоящие перед великой державой Габсбургов. В полном идеологическом соответствии с позицией ультраконсервативной «клики», но в то же время и с оттенком собственного взгляда на политику и власть, дальновидный консерватор заявил: «Для меня прусская честь состоит в том, чтобы Пруссия держалась подальше от любых бесславных связей с демократией, чтобы Пруссия ни в данном, ни в каком-либо другом вопросе не допускала ничего, что происходило бы без ее одобрения, чтобы то, что Пруссия и Австрия на основании совместного независимого выбора считают разумным и политически правильным, было исполнено обеими равноправными державами-хранительницами Германии». После этого Фридрих Вильгельм IV по рекомендации Леопольда фон Герлаха назначил Бисмарка посланником Пруссии при Германском союзе, в бундестаге, вновь заседавшем во Франкфурте. В 1851 году он отправился туда, как сам позже выразился, «в состоянии политической невинности». Это в первую очередь касалось отношения к верховной власти Австрии.
Впрочем, до 1852 года Бисмарк оставался также депутатом прусского ландтага и в этом качестве выступал с резкой критикой конституционной системы. Последним на тот момент ее плодом была навязанная конституция от января 1850 года, предусматривавшая трехступенчатое избирательное право[9] для палаты депутатов. Полемика прусского консерватора с либералами была столь яростной, что в 1852 году дело даже дошло до дуэли с одним из их лидеров, Георгом фон Винке.