С началом Первой мировой войны Рокоссовский попросился в один из русских полков, куда его охотно приняли. В 18лет он стал рядовым бойцом русской царской армии, но вскоре его произвели в младшие унтер-офицеры Каргопольского драгунского полка.

Прослужив до октября 1917 года, после Октябрьского вооруженного восстания он переходит на службу в Красную Армию помощником начальника отряда, командиром кавэскадрона и отдельного кавдивизиона. Был отмечен орденом Красного Знамени и позднее командовал кавалерийскими полками, бригадой, дивизией, корпусом.

Окончив Высшие кавалерийские командные курсы К. К. Рокоссовский служил инструктором кавдивизии, создававшейся тогда в Монгольской народной армии. В 1929 году воевал на Китайско-Восточной железной дороге.

В 1937 году его арестовали, обвинив в связях с иностранными разведками, но в 1940 году он был освобождён и восстановлен в правах.

После освобождения К. К. Рокоссовский командует кавалерийским, а с начала Великой Отечественной войны — 9-м механизированным корпусом. В июле 1941 года назначен командующим 4-й армией и переведен на Западный фронт . Ярцевская группа войск, возглавляемая Рокоссовским, останавливает мощный напор фашистов.

Во время наступления немцев на Москву Рокоссовский командует войсками 16-й армии, руководит обороной Яхромского, Солнечногорского и Волоколамского направлений. В решающие дни битвы за столицу организует успешное контрнаступление войск 16-й армии на Солнечногорском и Истринском направлениях. В ходе смелой операции разгромлены ударные группировки врага, пытавшиеся обойти Москву с севера и юга. Противник отброшен на 100–250 км от Москвы. Вермахту нанесено первое крупное поражение в войне, развеян миф о его непобедимости.

В июле 1942 года во время прорыва немцев на Воронеж К. К. Рокоссовский назначается командующим Брянским фронтом. В те дни врагу удалось выйти к большой излучине Дона и создать прямую угрозу Сталинграду и Северному Кавказу. Войска фронта своим правым крылом прикрывали Тульское, а левым — Воронежское направления, имея задачу удержать занимаемый рубеж (северо-западнее Воронежа) и остановить продвижение противника в глубь страны. Контрударом войск фронта Рокоссовский сорвал попытку немцев расширить прорыв на север в сторону Ельца.

Контрнаступление под Сталинградом началось силами Юго-Западного (под командованием Н. Ф. Ватутина) и Донского фронтов (под командованием К. К. Рокоссовского) 19 ноября 1942 года, силами Сталинградского фронта (под командованием А. И. Еременко) — 20 ноября. Задача Юго-Западного и Сталинградского фронтов заключалась в окружении и уничтожении всей фашистской группировки войск на Сталинградском направлении посредством соединения войск обоих фронтов в районе города Калач. Войска Донского фронта К. К. Рокоссовского имели целью окружение совместно с частью сил Сталинградского фронта фашистской группировки в самом Сталинграде и на ближних подступах к нему.

В 1943 году Центральный фронт во главе с Рокоссовским сначала успешно провел оборонительное сражение на Курской дуге, а затем, организовав контрнаступление западнее Курска, разгромил здесь фашистские войска, освободил от оккупантов всю территорию восточнее рек Сож и Днепр от Гомеля до Киева, захватив ряд плацдармов на западном берегу Днепра.

В конце 1943 года и в январе 1944 года, командуя войсками 1-го Белорусского фронта, К. К. Рокоссовский руководит наступательными операциями войск фронта на территории Белоруссии. В результате этих операций завоеван широкий плацдарм западнее реки Днепр, освобождены города Мозырь, Калинковичи, Речица, Гомель, захвачены плацдармы на западном берегу Днепра до реки Друть севернее Рогачева и на реке Березине южнее Рогачева. Это дало возможность приступить к подготовке Бобруйско-Минской операции.

23 июня Рокоссовский, согласно плану Ставки, начал проведение Белорусской стратегической операции «Багратион» (23.06-29.08.). Это была одна из крупнейших операций Второй мировой войны. В результате решительных действий войск 1-го Белорусского фронта при содействии 2-го и 3-го Белорусских фронтов разгромлена одна из наиболее сильных группировок врага — группа армий «Центр». За первые пять суток боевых действий войска фронта прорвали оборону противника на 200-км участке и продвинулись на глубину более 100 км. Полностью уничтожены 17 дивизий и 3 бригады противника, 50 дивизий потеряли более половины своего состава. Глубоко охватив немецкую 4-ю армию с юга, войска фронта вышли на рубежи, выгодные для броска на Минск и развития наступления на Барановичи. За проведение этой очень сложной и талантливо осуществленной стратегической операции К. К. Рокоссовскому было присвоено звание Маршала Советского Союза.

Продолжением стратегической операции 1944 года явилась Минская наступательная операция (29 июня – 4 июля). Она началась без паузы и при отсутствии у противника заранее подготовленной обороны. Уже к исходу 3 июля войска 1-го Белорусского фронта вышли к юго-восточной окраине Минска, где соединились с частями 3-го Белорусского фронта, завершив тем самым окружение основных сил 4-й и отдельных соединений 9-й немецких армий. Успешным действиям Белорусских фронтов помогали части 1-го Прибалтийского фронта. Задача Ставки Верховного Главнокомандования — окружение минской группировки врага и овладение Минском — была выполнена досрочно. Ликвидация окруженной вражеской группировки осуществлена 5–11 июля.

Развивая наступление на запад от Минска, войска 1-го Белорусского фронта в конце июля овладели Брестом, освободили юго-западные области Белоруссии, восточные районы Польши и захватили важные плацдармы на Висле — севернее и южнее Варшавы. И снова награда — 29 июля К. К. Рокоссовскому присвоено звание Героя Советского Союза.

В 1945-м победном году, командуя войсками 2-го Белорусского фронта, Рокоссовский провел три основные наступательные операции:

Первая — Восточно-Прусская операция. В результате ее разгромлена и окружена вся восточно-прусская группировка врага.

Вторая — Померанская операция. Ее итогом стало уничтожение восточно-померанской группировки немецких войск, освобождение крупных портовых городов Гдыня и Данциг.

Третья — Одерская операция, с прорывом обороны немцев на реке Одер. В результате стремительного наступления была разгромлена штеттинская группировка немецких войск, произошла встреча войск фронта с войсками союзников.

Вскоре после окончания Великой Отечественной войны, 24 июня 1945 года на Красной площади Москвы состоялся Парад Победы. Честь принимать парад была доверена маршалу Г. К. Жукову, а командовать — маршалу К. К. Рокоссовскому.

Первые послевоенные годы (1945–1949) К. К. Рокоссовский был главнокомандующим Северной группой советских войск, дислоцированных в Польше. В октябре 1949 года по просьбе правительства Польши и с разрешения советского правительства Рокоссовский назначен министром национальной обороны и заместителем председателя Совета Министров ПНР. Ему было присвоено звание Маршала Польши.

По возвращении в СССР с 1956 года Рокоссовский занимает должность заместителя министра обороны СССР, с июля 1957 года — он главный инспектор — заместитель министра обороны. С октября 1957 года — командующий войсками Закавказского военного округа. В 1958—1962 годах — заместитель министра и главный инспектор Минобороны СССР. С апреля 1962 года — в Группе генеральных инспекторов.

Вот что о Рокоосовском сказал Г. К. Жуков: «Рокоссовский был очень хорошим начальником... Я уже не говорю о его редких душевных качествах — они известны всем, кто хоть немного служил под его командованием... Более обстоятельного, работоспособного, трудолюбивого и по большому счету одаренного человека мне трудно припомнить. Константин Константинович любил жизнь, любил людей».

За боевые подвиги, совершенные в годы Гражданской и Великой Отечественной войн, К. К. Рокоссовский дважды удостоен звания Героя Советского Союза и награжден орденом «Победа», семью орденами Ленина, шестью орденами Красного Знамени, орденами Суворова I степени и Кутузова I степени, а также многими медалями. Удостоен ряда иностранных наград: Польши — ордена «Виртути Милитари» I класса со звездой и Крестом Грюнвальда I класса, Франции — орденом Почетного легиона и Военным Крестом, Великобритании — Рыцарским Командорским Крестом ордена Бани; Монголии — орденом Красного Знамени.

Полководец был трижды ранен: дважды — в годы Гражданской войны и во время Великой Отечественной — один тяжело.

Умер Константин Константинович 3 августа 1968 на 72-м году жизни. Урна с его прахом захоронена на Красной площади в Кремлевской стене.