러시아 제국의 칼루가 주 스트렐코프카의 가난한 농민 가정에서 태어났다. 어린 시절의 궁핍과 농촌 생활은 군에 들어가기 훨씬 전부터 그의 강인함과 야망을 빚어냈다.

제1차 세계대전 중 제정 러시아군에 징집되어 기병 임무에 배치되었다. 제국이 균열을 보이기 시작한 잔혹한 환경 속에서 전선의 규율과 소부대 지휘를 익혔다.

전투에서의 용기를 인정받아 사병의 용맹을 위한 제정 러시아의 최고 훈장 가운데 하나인 성 게오르기 십자 훈장을 수여받았다. 이 훈장은 그를 유난히 두려움 없는 하급 기병으로 각인시켰다.

혁명과 제국 붕괴 이후 붉은 군대에 입대해 내전에 참전했다. 이 전쟁은 그의 시각을 한층 कठ하게 만들었고, 그의 미래를 볼셰비키 국가와 그 군사 제도에 묶어놓았다.

기병 계급을 꾸준히 올라 초기 소련군에서 지휘 책임을 맡게 되었다. 급속한 군 개혁 속에서 혹독한 훈련, 규율, 실전적 야전 준비태세에 집중했다.

할힌골 강 일대에서 일본군을 상대로 소련과 몽골 연합군을 지휘하며 결정적인 이중 포위를 실행했다. 이 승리는 모스크바에 강한 인상을 남겼고, 이후 기갑전과 공지협동에 대한 소련의 사고에도 영향을 주었다.

일본에 대한 성공 이후 빠르게 진급해 붉은 군대 내 권한을 확대했다. 유럽이 총력전으로 향하고 소련의 방어가 뒤처진 상황에서 그는 최상급 지휘관 반열에 올랐다.

바르바로사 작전이 진행되는 가운데 총참모장으로 복무하며 소련의 참혹한 손실과 마주했다. 그는 후퇴와 예비전력 운용을 두고 스탈린과 격렬히 논쟁하면서 붕괴하는 전선을 안정시키려 했다.

포위된 레닌그라드 주변의 긴급 방어를 조율하고 지친 부대에 질서를 부여하기 위해 파견되었다. 그의 조치는 주요 접근로를 지키는 데 도움이 되었지만, 시민들은 역사상 최악의 포위전 중 하나에서 기아와 포격을 견뎌야 했다.

독일군이 수도에 접근하자 그는 방어선을 조율하고 시베리아 예비병력을 집결시켜 겨울 반격을 준비했다. 12월 공세는 독일군을 후퇴시켜 소련이 생존하고 전략적으로 회복할 수 있음을 입증했다.

최고사령부의 고위 대표로서 스탈린그라드에서 독일 제6군을 포위하는 결과로 이어진 작전들을 조율하는 데 기여했다. 이 승리는 전쟁의 흐름을 바꾸었고, 대규모 작전술을 수행하는 소련의 역량을 과시했다.

독일 기갑 돌파에 대비해 다층 방어, 지뢰밭, 종심 예비전력의 중요성을 강조하며 쿠르스크 준비를 뒷받침했다. 공격이 좌절된 뒤 소련의 역공이 서진의 길을 열었고, 독일의 전략적 주도권을 약화시켰다.

핵심 소련 지휘관 가운데 한 명으로서 독일 중부집단군을 분쇄한 바그라티온 작전을 조율하는 데 중요한 역할을 했다. 이 작전은 벨라루스의 큰 지역을 해방했고, 기획과 보급에서 소련의 압도적 우위를 보여주었다.

최종 공세에서 제1벨로루시 전선을 지휘하며 대규모 포병, 기갑, 보병의 공격을 조정했다. 잔혹한 시가전은 수도에서 나치 지배를 끝내고 유럽 전쟁의 결말을 확정지었다.

연합국 지도자와 군 대표들과 함께 독일의 공식 항복식에서 소련을 대표했다. 이 순간은 그를 승리와 강하게 연결했지만, 동시에 그의 인기에 대한 스탈린의 의심을 키우기도 했다.

전후 스탈린은 그의 영향력을 제한하고 중앙 권력에서 지역 지휘로 옮겼다. 이 조치는 군사적 성과만큼이나 크렘린의 정치 계산을 반영했으며, 전시의 위상에도 불구하고 그의 공개적 역할을 축소시켰다.

스탈린 사후 복권되어 니키타 흐루쇼프가 권력을 공고히 하던 시기에 국방장관으로 최고 지도부에 복귀했다. 그는 현대화를 추진하는 한편, 당의 감독과 전후 군부 내부의 치열한 경쟁을 헤쳐 나가야 했다.

독자적 군사 인물에 대한 우려와 정치적 긴장 속에서 흐루쇼프 지도부는 그를 국방장관직에서 해임했다. 그는 공적 무대에서 밀려났으며, 존경받지만 통제되는 전시 승리의 상징으로 남았다.

모스크바에서 오랜 반공식적 은퇴 생활 끝에 사망했으며, 그의 유산은 소련의 대조국전쟁 서사에 굳게 자리 잡았다. 국가적 추모와 대중의 기억은 나치 독일에 대한 निर्ण적 승리에서의 그의 지휘 역할을 강조했다.