В августе 1963 года назначен помощником командующего войсками Приволжского военного округа по военно-учебным заведениям.
В апреле 1965 года исключён из КПСС за «нарушения социалистической законности и использование служебного положения в личных целях», уволен в отставку.
До конца жизни добивался восстановления в партии, возвращения воинского звания и наград. Не добился. Умер в 1990 году.
Маршал Жуков в течение октября 1957 года Жуков находился с официальными визитами во главе военной делегации в Югославии и Албании «Куйбышев»; тем временем Хрущёв и его партийные единомышленники готовили пленум, который должен был устранить Жукова, который обвинялся в попытках оторвать армию от партии, поставить себя между военнослужащими и Центральным комитетом… Сразу же по возвращении в Москву, 26 октября, Жукова приглашают на заседание Президиума ЦК КПСС.
Постановлением Президиума ЦК КПСС от 26 октября 1957 года Жуков был освобождён от должности министра обороны СССР. 29 октября 1957 года Пленум ЦК КПСС, посвящённый улучшению партийно-политической работы в Советской Армии и Военно-Морском Флоте, постановил, что Г. К. Жуков «нарушал ленинские, партийные принципы руководства Вооружёнными Силами, проводил линию на свёртывание работы партийных организаций, политорганов и Военных советов, на ликвидацию руководства и контроля над армией и Военно-Морским Флотом со стороны партии, её ЦК и Правительства. Пленум ЦК установил, что при личном участии т. Жукова Г. К. в Советской Армии стал насаждаться культ его личности. ‹…› Таким образом т. Жуков Г. К. не оправдал оказанного ему Партией доверия. Он оказался политически несостоятельным деятелем, склонным к авантюризму как в понимании важнейших задач внешней политики Советского Союза, так и в руководстве Министерством обороны.» Этим же постановлением Жуков был выведен из состава Президиума ЦК и ЦК КПСС.
3 ноября 1957 года в печатном органе ЦК КПСС газете «Правда» опубликована статья, подписанная первым заместителем министра обороны маршалом Иваном Коневым, — «Сила Советской Армии и Флота — в руководстве партии, в неразрывной связи с народом». В ней, в частности, утверждалось, что Жуков, «как военный и государственный деятель, неправильно, не по-партийному осуществлял руководство таким сложным организмом, каким являются современные Вооружённые Силы Советского государства, грубо нарушал ленинские принципы руководства Вооружёнными Силами», «незаслуженно приписывает себе особую роль в разработке плана стратегической наступательной операции по разгрому немецко-фашистских войск под Сталинградом», «как человек необычайно тщеславный и не обладающий партийной скромностью, использовал своё положение министра обороны и насаждал в Вооружённых Силах культ своей личности».
Приказом министра обороны СССР Љ 051 от 4 марта 1958 года на основании Постановления Совета министров СССР Љ 240 от 27 февраля 1958 года маршал Жуков уволен из Вооружённых Сил.
К XXII съезду КПСС Г. К. Жукова называют в составе участников антипартийной группы. Жуков был единственным Маршалом Советского Союза, который после отставки не был зачислен в Группу генеральных инспекторов Министерства обороны СССР, куда входили все видные полководцы-герои Великой Отечественной войны, по состоянию здоровья или по выслуге лет оставившие службу.
02 февраля 1986 года
После странного и пугающего разговора с дежурным, который мог быть совсем и не дежурным — их спустили в камеру, но через какое-то время пришёл автозак и их, вместе с операторами и другими задержанными — повезли куда-то. Оператор, Юра был явно избит
— Я ничего не сказал — шепнул он
— Не разговаривать! — прикрикнул конвоир
С улицы — через разбитое, забранное решёткой окно — пахло гарью.
Путь их — закончился в следственном изоляторе, где им пришлось пройти через унизительную процедуру обыска. Потом к ним вышел мужик с буденовскими усами и красной повязкой — ДПНК
— Это ещё кто?
— Московские
— Да у нас норма вдвое превышена!
Приехавшие что-то сказали на грузинском
— Ладно…
— Нас покормить должны — сказал Мазур
— Поумничай тут!
Их разделили и посадили по разным камерам. Мазура посадили в одиночку, глухую и душную — но, только зайдя, он сразу понял, что кто-то в ней уже сидит.
К его удивлению, это был Левон. Он был не в себе, на лице были следы от ударов…
— Вас избили? — побеспокоился Мазур. Ему чем-то стал уже нравиться этот человек… каким-то врождённым благородством что ли?
Левон покачал головой, потом достал ложку, шлемку (так называли посудину для еды) и начал ритмично стучать по ней. Мазур подумал, что его сокамерник сошёл с ума