С 1950 по 1951 год И. С. Конев — главный инспектор Советской Армии, заместитель военного министра СССР, затем он командует войсками Прикарпатского военного округа.
Это были нелегкие годы в жизни страны. Многого не хватало. Многое нужно было решать немедленно, быстро, квалифицированно, когда над миром вновь начали сгущаться мрачные тучи военной опасности. Фултонская речь Черчилля прозвучала призывом к созданию англо-американского военно-политического блока, направленного, по сути, против Советского Союза.
С марта 1948 года правительство США ограничило поставки американских товаров в СССР и некоторые страны соцлагеря. В 1949 году был образован Североатлантический блок (НАТО). В США разрабатывался план войны против Советского Союза под кодовым наименованием «Дропшот», авторы которого предложили сбросить на СССР 300 атомных и 20 тыс. тонн «обычных» бомб. Через год началась вооруженная интервенция США в Корее. В 1951 году американское правительство в одностороннем порядке денонсировало торговое соглашение с СССР, заключенное в 1937 году, тогда же подписав сепаратный мир с Японией. В 1953 году полноправным членом НАТО стала Западная Германия. В декабре 1954 года сессия Совета Североатлантического союза приняла решение об оснащении вооруженных сил этого блока ядерным оружием…
11 мая 1955 года в Варшаве было созвано совещание европейских государств по обеспечению мира и безопасности в Европе. В нем приняли участие СССР, Албания, Болгария, Венгрия, ГДР, Польша, Румыния и Чехословакия. Все страны были представлены на совещании полномочными делегациями на уровне глав правительств. Все понимали, что одним из факторов, приведших к Второй мировой войне, стало отсутствие коллективной безопасности. В сложившейся обстановке только прочный военно-политический союз мог надежно обеспечить безопасность всех так называемых социалистических стран и каждой страны в отдельности.
14 мая 1955 года главы правительств подписали коллективный союзнический Договор о дружбе, сотрудничестве и взаимной помощи, который вошел в историю как Варшавский Договор. Его сердцевину составляли обязательства стран соцлагеря по совместной обороне, которые вступают в силу в случае, если не удастся ликвидировать угрозу вооруженного нападения и начнется вооруженная агрессия против одного или нескольких государств — участников Договора. Для заблаговременной подготовки к эффективной совместной обороне на случай вооруженного нападения Договаривающиеся Стороны согласились о создании Объединенного командования вооруженных сил. Первым в истории Главнокомандующим Объединенными вооруженными силами Варшавского Договора, председателем Военного совета стал Маршал Советского Союза И. С. Конев, начальником штаба — генерал армии А. И. Антонов, возглавлявший в последний год Великой Отечественной войны советский Генеральный штаб.
На Военный совет Объединенных вооруженных сил с первых дней его создания были возложены ответственные задачи организации боевой подготовки войск и оперативной подготовки руководящего состава. Определялись принципы, формы и методы установления единства в подходе к комплектованию соединений и частей, их технического оснащения, создания систем управления войсками. Вырабатывались взгляды на перспективы развития этого боевого союза, поддержания постоянных и тесных контактов между Объединенными национальными командованиями. Все это требовало творческого поиска, большой организаторской работы со стороны Главнокомандующего и его штаба. Как свидетельствуют сослуживцы Ивана Степановича, маршал работал над решением всех задач самоотверженно, с большим энтузиазмом, сплачивая вокруг себя коллектив, объединяемый единством цели.
Подводя итоги первых трех лет деятельности военной организации Варшавского Договора, И. С. Конев на совещании руководящего состава отметил основные направления развития сотрудничества вооруженных сил государств соцлагеря. Первое — координация планов развития вооруженных сил, проведение единой военно-технической политики, осуществление согласованных мероприятий по совершенствованию боевой подготовки. Второе направление, подчеркивал Главнокомандующий, охватывает совместные мероприятия по боевой, политической и оперативной подготовке, взаимный обмен опытом обучения и воспитания воинов. Третье направление — взаимная помощь в подготовке высококвалифицированных военных кадров, тесное сотрудничество политорганов союзных армий.