Вскоре после начала 1-й мировой войны Жукова призвали в армию и зачислили в 5-й запасной кавалерийский полк, затем перевели в 10-ю кавалерийскую дивизию, дислоцировавшуюся на Украине. Здесь он был определен в Изюмскую унтер-офицерскую школу. Закончил ее Жуков в августе 1916 г. и в звании унтер-офицера был отправлен в 10-й Драгунский новгородский полк, находившийся в составе Юго-Западного фронта. Ему пришлось участвовать в боях в Быстрицком горном районе. В сентябре Жуков получил Георгиевский крест за то, что взял в плен немецкого офицера, но уже в октябре он был тяжело ранен и без сознания отправлен в тыл — под Харьков. На этом 1-я мировая война для него закончилась. После излечения Жукова определили в маршевый эскадрон в село Лагери Здесь его застала Февральская революция. Вскоре часть, в которой он служил, была расформирована, а солдаты отпущены по домам В родную Стрелковку Жуков вернулся только в декабре 1917 г., но и здесь пробыл не долго и в августе 1918 г. поступил добровольцем в 4-й кавалерийский полк 1-й Московской кавдивизии. Вскоре его дивизия вошла в состав 5-й армии, была отправлена на Восточный фронт против войск Колчака и участвовала в обороне Уфы. В марте 1919 г. Жуков вступил в коммунистическую партию. После ранения под Царицыном его послали на курсы красных командиров в деревню Старожилово Рязанской губернии. Но учеба продолжалась не долго — в июле 1920 г. всех курсантов погрузили в эшелоны и отправили на Южный фронт воевать против Врангеля. Жуков попал в Первую конную армию Буденного. Сначала он командовал взводом, но очень скоро получил эскадрон. В декабре бригаду, в которой он служил, перебросили в Тамбовскую губернию на борьбу с крестьянским восстанием Антонова.
За отвагу, проявленную в одном из боев, Жуков был награжден орденом Красного Знамени.
После Гражданской войны военная карьера Жукова складывалась быстро и успешно. В марте 1923 г. он был назначен командиром 38-го Бузулукского полка Самарской кавалерийской дивизии, расквартированной в Белоруссии В 1926 г. он закончил Кавалерийские курсы усовершенствования командного состава, а в 1929 г его командировали в Москву на курсы по подготовке высшего командного состава при Академии им. Фрунзе По возвращении в свою дивизию Жуков стал командиром 2-й кавалерийской бригады, затем занимал должность помощника инспектора кавалерии РККА. В 1933 г. он вернулся в войска и был назначен командиром 4-й кавалерийской дивизии.
Это назначение сыграло очень важную роль в его судьбе. В годы Гражданской войны 4-я дивизия была ядром Первой конной армии. В 1932 г. ее перебросили из-под Ленинграда в Белорусское захолустье — в район Слуцка, где дивизии пришлось обустраиваться буквально на голом месте. Из-за тяжелых бытовых условий за два года это образцовое прежде подразделение утратило боеспособность и превратилось в рабочую часть. В короткий срок Жукову удалось вновь превратить дивизию в элитное подразделение. Это было отмечено Буденным, и с той поры Жуков попал в поле зрения высших руководителей страны. Его продвижение по служебной лестнице ускорилось. В 1935 г. он был награжден орденом Ленина, в 1937 г. стал командиром 6-го кавалерийского корпуса, через несколько месяцев был переведен в 3-й кавалерийский корпус, а в конце 1938 г. назначен заместителем командующего Белорусским военным округом.
Огромную роль в выдвижении Жукова на первые ступени военной иерархии сыграли события в Монголии. В 1939 г. давно уже тлевший на Дальнем Востоке конфликт между Советским Союзом и Японией перерос в открытые военные действия. Японцы вторглись на монгольскую территорию и подступили к реке Халхин-Гол. В течение следующего месяца они несколько раз пытались прорваться в глубь страны, но каждый раз их останавливали части монгольской армии и советский 57-й особый корпус. Однако напряжение продолжало нарастать. Советское командование искало деятельного генерала, который смог бы возглавить оборону на Халхин-Голе. Выбор пал на Жукова.
В июне он был назначен командующим всей советской группировкой в Монголии.
Вскоре после прибытия Жукова военные действия активизировались. 3 июля около 10 тысяч японцев скрытно форсировали Халхин-Гол и укрепились на горе Баин-Цаган. Далее они планировали ударом с севера опрокинуть и уничтожить советские войска, занимавшие оборону вдоль реки. Жуков сразу ощутил опасность и стремительно отреагировал на нее, бросив против занимавшего плацдарм врага танковую бригаду — 150 танков и мотоброневую бригаду, включавшую в себя столько же бронемашин. Жестокий бой продолжался два дня. Скоростные и маневренные танки БТ-5 и БТ-7 стремительно атаковали японские позиции, раздавили и уничтожили все японские батареи — около 160 орудий. Японцы отбивались отчаянно, но не могли противостоять мощному танковому удару — позиции их были смяты, и почти все переправившиеся погибли. Картина боя являла собой страшное зрелище — землю устилали тысячи трупов, всюду валялись разбитые орудия и пулеметы.