За розповідями дружини маршала Казакова, ув'язнений зазнав жорстоких тортур. Рокосовському вибили кілька зубів, зламали три ребра, молотком били на пальцях ніг, а в 1939 році навіть виводили у тюремне подвір'я і ставили до стіни, погрожуючи розстрілом – але щоразу постріл виявлявся неодруженим.
З лютого 1943 Рокосовський командував військами Центрального фронту на Курській дузі. Зумів належним чином підготувати війська до майбутнього літнього наступу супротивника. Відобразивши німецький наступ, війська Центрального фронту перейшли у контрнаступ, звільнивши 5 серпня Орел.
8 березня 1942 року Рокосовський був поранений уламком снаряда.
З 17 серпня 1937-го по 22 березня 1940-го Рокосовський перебував у Внутрішній в'язниці Управління держбезпеки НКВС у Ленінградській області.