La familia Rokossovski formaba parte de la antigua nobleza polaca, contando con muchos caballeros en su historia.Sin embargo, el padre de Konstantín, Ksawery Wojciech Rokossowski era un trabajador ferroviario, y su madre Antonina Ovsiánnikova era bielorrusa.Años después, la propaganda comunista alegó que Rokossovski había ayudado a construir un importante puente de Varsovia.Cuando estalló la Primera Guerra Mundial, Rokossovski se alistó en el Ejército Ruso, sirviendo como suboficial en un regimiento de dragones.Sus ideas revolucionarias entraron en conflicto con la de los antiguos jefes militares, entre los que se encontraba Semión Budionni, quien favorecía a la tradicional caballería.Cuando la Alemania Nazi invadió la Unión Soviética en junio de 1941, Rokossovski fue nombrado comandante del 16.º ejército estacionado en Smolensk.[3] Uno de sus ayudantes era el también polaco Świerczewski, conocido como «General Walter» que había combatido en la guerra en España.Esto iba en contra de la doctrina táctica soviética del momento, que consistía siempre en iniciar las ofensivas con un solo ataque.En enero de 1945, Varsovia fue tomada por el Ejército Rojo y Rokossovski transferido al 2.º Frente Bielorruso, que avanzó hasta Prusia oriental y luego cruzó Polonia por el norte hasta la desembocadura del Oder en Stettin (actual Szczecin).Como comandante de dicho ejército introdujo variados métodos cuyo objetivo era reprimir la actividad antisoviética.En 1956, durante las protestas de Poznań contra la ocupación soviética, Rokossovski envió unidades militares a reprimir la revuelta.Cuando comunistas reformistas bajo el liderazgo de Władysław Gomułka intentaron alcanzar el poder en Polonia ese mismo año, Rokossovski viajó a Moscú y pidió a Nikita Jrushchov que usara la fuerza contra este intento.Sin embargo, Gomułka logró llegar a un arreglo con el régimen soviético, y Rokossovski dejó Polonia.
El mariscal Rokossovski es condecorado por el mariscal británico Montgomery en la
Puerta de Brandeburgo
de Berlín en 1945.