И в мирное время перед Советскими Вооруженными Силами вставали серьезные трудности. Они были закономерны: вся страна переживала нелегкий период, приходилось возрождать из пепла города и села, восстанавливать экономику разрушенных и разграбленных врагом областей. Перестройка жизни и учебы войск тоже давалась нелегко. Нужны были новые методы обучения и воспитания солдат и офицеров, новая организация службы. Рокоссовскому приходилось думать о многих вопросах, искать новые решения многих проблем.

Работа в Польше проходила тогда в весьма сложной обстановке. Революционные преобразования в стране в послевоенный период совершались в обстановке ожесточенной классовой борьбы. Остатки эксплуататорских классов стремились восстановить старый, отживший свой век капиталистический строй, не допустить создания социалистического государства. В борьбе против народного государства они не брезговали ничем — убийства и диверсии, шпионаж и заговоры — все шло в ход.

В таких условиях Военный совет, возглавляемый Рокоссовским, сделал все, чтобы установить прочные и широкие связи с правительством, общественными организациями, демократическими партиями Польши, с руководителями Войска Польского. Рокоссовский заботился о том, чтобы советские военные части поддерживали тесную связь с местными правительственными и общественными организациями, чтобы личный состав частей и подразделений помогал братскому народу в восстановлении разрушенного войной и оккупацией народного хозяйства.

Советские офицеры и солдаты делали это с большой готовностью. Вместе с польскими рабочими они пускали в ход бездействовавшие фабрики и заводы, вместе с польскими крестьянами выполняли сельскохозяйственные работы на селе. Осенью 1945 и весной 1946 года советские воины засеяли не менее 750 тысяч гектаров земли. Они очищали поля от мин, ремонтировали брошенные гитлеровцами тракторы, тягачи, автомашины и затем безвозмездно передавали их крестьянским кооперативным организациям.

В то же время политуправление руководимой Рокоссовским группы войск вело большую политико-воспитательную работу среди польского населения. Советские люди разъясняли местным жителям смысл событий, происходивших в Польше, они убеждали их в правильности действий народного правительства. Когда в июне 1948 года было принято решение о выводе части советских войск с территории Польши, Рокоссовский следил за тем, чтобы Войску Польскому были переданы в полной исправности освободившиеся помещения, казармы, склады, лечебные учреждения.

Советское правительство, осуществляя сокращение Вооруженных Сил, руководствовалось идеями сохранения мира и дружбы между народами и надеялось, что его примеру последуют и западные державы. Но этим надеждам не суждено было оправдаться. Правительство США и их союзники начали «холодную войну», одновременно форсируя гонку вооружения и наращивая свои армии. Уже в 1949 году, то есть менее чем через год после завершения демобилизации армии, ввиду резкого обострения международной обстановки Советское правительство было вынуждено в интересах укрепления обороны страны пойти на увеличение численности армии.

Необходимость укрепления оборонной мощи и повышения боеспособности встала и перед народной армией Польши. Советский Союз, столь щедро помогавший Войску Польскому в годы войны и сразу после нее, и в этот период по-прежнему поставлял в Польшу вооружение, содействовал строительству оборонных предприятий. По просьбе польского правительства значительная группа советских военных специалистов, генералов и офицеров была направлена в Польшу и в течение длительного времени находилась на руководящих постах в Войске Польском.

Президент Польши Болеслав Берут неоднократно обращался к Советскому правительству с просьбой направить Константина Константиновича Рокоссовского в распоряжение польского правительства для службы в Войске Польском. Рокоссовский полностью предоставил решение этого вопроса Советскому правительству, и оно согласилось удовлетворить просьбу президента Польской Народной Республики. Рокоссовский был освобожден от военной службы в Советской Армии и выехал в Польшу. Так он надел мундир маршала Польши.

В первом своем приказе по Войску Польскому от 7 ноября 1949 года Рокоссовский писал: «Мне выпало на долю в течение многих лет служить делу трудящегося народа в рядах героической Советской Армии. Волею военной судьбы я был командующим тем фронтом, в составе которого героически сражались на славном пути от Ленино через Варшаву, Гданьск, Гдыню, Колобжег, Поморский Вал, вплоть до Берлина солдаты вновь возникшего Войска Польского, солдаты 1-й дивизии, а поздней и 1-й армии...

Во исполнение обязанностей, возложенных на меня Страной и Президентом, во исполнение обязанностей перед польскими трудящимися и польским народом, среди которого я вырос и с которым всегда чувствовал себя связанным всем своим сердцем, а также перед братским советским народом, который воспитал меня как солдата и полководца, я принимаю доверенный мне пост, чтобы все свои силы посвятить дальнейшему развитию и укреплению нашего Войска Польского и обороны Речи Посполитой...»

С ноября 1949 года Рокоссовский занимает пост министра национальной обороны и заместителя председателя Совета Министров ПНР. Всю свою энергию он обращает на преобразование Войска Польского, на создание современной армии.

В ходе демобилизации польской армии в первые послевоенные годы ее численность сократилась с 400 до 200 тысяч. В 1949—1955 годах произошло некоторое ее увеличение — до 280 тысяч человек. Но главные изменения происходили в Войске Польском в связи с его перевооружением и реорганизацией. В эти годы в стране была создана военная промышленность, построены новые— предприятия по выпуску артиллерийской, танковой, авиационной и другой техники, не существовавшие ранее или же слабо развитые. Это позволило вооружить польских солдат новой военной техникой. Сила огня польской пехотной дивизии возросла многократно по сравнению с силой огня предвоенной дивизии. Войско Польское располагало теперь танковыми и моторизованными соединениями, способными к быстрому маневру и хорошо обученными для ведения военных действий в новых условиях — в условиях ядерной войны.