В своем первом приказе по Войску польскому от 7 ноября 1949 года Рокоссовский, только что произведенный в маршалы Польши, писал: «Мне выпало на долю в течение многих лет служить делу трудящегося народа в рядах героической Советской Армии. Волею военной судьбы я был командующим тем фронтом, в составе которого героически сражались на славном пути от Ленино через Варшаву, Гданьск, Гдыню, Колобжег, Поморский Вал, вплоть до Берлина солдаты вновь возникшего Войска Польского, солдаты 1-й дивизии, а поздней и 1-й армии… Во исполнение обязанностей, возложенных на меня Страной и Президентом, во исполнение обязанностей перед польскими трудящимися и польским народом, среди которого я вырос и с которым всегда чувствовал себя связанным всем своим сердцем, а также перед братским советским народом, который воспитал меня как солдата и полководца, я принимаю доверенный мне пост, чтобы все свои силы посвятить дальнейшему развитию и укреплению нашего Войска Польского и обороны Речи Посполитой…»
В. И. Кардашов писал в своей биографии маршала:
«С ноября 1949 года Рокоссовский занимает пост министра национальной обороны и заместителя председателя Совета Министров ПНР. Всю свою энергию он обращает на преобразование Войска Польского, на создание современной армии. В ходе демобилизации польской армии в первые послевоенные годы ее численность сократилась с 400 до 200 тысяч. В 1949–1955 годах произошло некоторое ее увеличение — до 280 тысяч человек. Но главные изменения происходили в Войске Польском в связи с его перевооружением и реорганизацией. В эти годы в стране была создана военная промышленность, построены новые предприятия по выпуску артиллерийской, танковой, авиационной и другой техники, не существовавшие ранее или же слабо развитые. Это позволило вооружить польских солдат новой военной техникой. Сила огня польской пехотной дивизии возросла многократно по сравнению с силой огня предвоенной дивизии. Войско Польское располагало теперь танковыми и моторизованными соединениями, способными к быстрому маневру и хорошо обученными для ведения военных действий в новых условиях — в условиях ядерной войны».
Следует отметить, что советские офицеры в Войске польском имелись в значительном количестве еще до назначения Рокоссовского министром национальной обороны. Так, при подготовке так и не состоявшегося судебного процесса по делу бывшего министра национальной обороны, близкого к Гомулке генерала Мариана Спыхальского, тезис о его «враждебности» к советским офицерам и о стремлении к их вытеснению из польской армии был одним из главных пунктов обвинения. Однако до назначения Рокоссовского присутствие советских офицеров в польской армии и динамика изменения их численности были следствием конкретных советско-польских договоренностей. До 1949 года число советских офицеров и генералов в Войске польском неуклонно сокращалось. Так, в беседе с И. В. Сталиным 24 мая 1946 года маршал Михал Роля-Жимерский информировал, что из Войска польского уже откомандированы 11 400 советских офицеров и что численность оставшихся (4600 человек) польское правительство хотело бы сократить до 1500 человек, главным образом поляков по национальности. Советское руководство не сопротивлялось этим намерениям польской стороны. В 1946–1948 годах численность советских генералов в Войске польском сократилась с 44 до 21. Сталина особенно тревожило, что должности, остававшиеся вакантными после отъезда советских офицеров, замещались вернувшимися в страну кадровыми польскими офицерами, ранее воевавшими в армии Андерса вместе с западными союзниками.
При Рокоссовском в 1949–1952 годах доля советских офицеров в польском офицерском корпусе уменьшилась с 6 до 2 процентов. Это произошло прежде всего за счет увеличения численности офицерского корпуса Войска польского. При этом советские генералы занимали все ключевые посты в руководстве польской армии. Всего в Войске польском в разное время служили более 50 советских генералов и более 12 тысяч советских офицеров.
10 мая 1950 года Рокоссовского избрали в политбюро ПОРП, а осенью 1952 года он стал еще и вице-премьером польского правительства.
Маршал А. Е. Голованов говорил Ф. Чуеву, будто впоследствии Рокоссовский рассказывал родным и друзьям, как поляки сразу по приезде дали ему красавицу секретаршу, которая утром пришла в кабинет с бумагами: «А там все по-польски написано, и я пытаюсь говорить по-польски — беру русский корень слова и приделываю к нему шипяшее окончание: „Разобрамшись, докладайте!“ — дескать, разберись, а потом докладывай». Секретарша почему-то покраснела и спросила, хорошо ли пан Рокоссовский знает «польску мову». Оказалось, что маршал сказал ей: «Раздевайтесь и ложитесь!» На самом деле это — типичный лингвистический анекдот, построенный на различном значении одних и тех же слов в русском и польском языках. Молва просто связала его с именем Рокоссовского. Хотя польский язык Константин Константинович к тому времени действительно знал плохо, но только по причине многолетнего отсутствия практики. Приехав в Польшу, он сразу попросил своего адъютанта найти ему хрестоматию польской литературы, по которой школьники изучали родной язык. И очень скоро маршал восстановил навыки польского языка, который для него был родным, и стал вполне свободно говорить по-польски. Причем современники отмечали, что говор у него был тот, который был характерен для Варшавы начала XX века, времен его детства.