Когда Андропов стал генеральным секретарем, Черненко получил должность второго секретаря, ответственного за идеологию, т. е. стал фактическим преемником Андропова, при условии, конечно, если ему удастся пережить Юрия Владимировича (Константин Устинович страдал эмфиземой легких).
После смерти Андропова, 13 февраля 1984 года, на пленуме ЦК КПСС, Черненко был выбран генеральным секретарем. Вторым секретарем, отвечавшим за идеологию и председательствовавшим на заседаниях секретариата, по предложению Черненко был избран Михаил Горбачев. Это означало, что он станет преемником Константина Устиновича, который реалистически оценивал состояние своего здоровья и понимал, что долго не протянет. В апреле 1984 года Черненко также стал председателем Президиума Верховного Совета СССР. В 1984 году он получил третью золотую звезду Героя Социалистического Труда.
После избрания генсеком Черненко заявил: «Работать будем по-брежневски, как при Леониде Ильиче».[27] Хотя фактически так работали уже с конца сентября 1983 года, когда оказавшийся в больнице Андропов передал Черненко повседневное управление государством. Константин Устинович прекратил многие из начинаний Андропова и вернул всё в брежневское русло. Была окончательно похоронена борьба за укрепление трудовой дисциплины. Облавы в банях и магазинах не возобновлялись. Кампания по борьбе с коррупцией, наоборот, продолжилась. При Черненко получило дальнейшее развитие «узбекское дело». Бывший министр внутренних дел Николай Щелоков, обвиненный в коррупции, был лишен генеральского звания, звания Героя Социалистического Труда, а также всех государственных наград, кроме тех, которые были получены во время Великой Отечественной войны, и застрелился, когда понял, что его собираются судить. При Черненко был осужден и расстрелян бывший директор Елисеевского гастронома в Москве Юрий Соколов, арестованный еще в последние недели правления Брежнева. Константин Устинович санкционировал возобновление переговоров между СССР и США по ядерным и космическим вооружениям, а также по евроракетам средней дальности. В то же время в 1984 году, в ответ на бойкот летних Олимпийских игр 1980 года в Москве США и их союзниками, СССР бойкотировал Олимпийские игры в Лос-Анджелесе. В правление Черненко продолжилась нормализация отношений с КНР, начатая при Андропове.
В 1984 году при Черненко было принято решение восстановить в партии Вячеслава Михайловича Молотова (Скрябина), в 1930‐е и в первой половине 1940‐х годов бывшего вторым человеком в стране после Сталина и исключенного из партии после того, как он в 1957 году возглавил пытавшуюся свергнуть Хрущева «антипартийную группу». Как вспоминал внук Молотова Вячеслав Никонов, «когда в 1984 г. членство Молотова восстановили, он оказался старейшим членом КПСС. Партбилет вручал ему лично Черненко. Дед довольный вернулся из Кремля и предложил отпраздновать это событие. Первое, что он сказал: “А Константин Устинович совсем плох…” Молотову было 94 года».[28] Однако в печати никаких сообщений о восстановлении Молотова в партии не появилось.
28
Никонов В. Молотов вспоминает. Из домашнего архива // Субботник. 2001. 30 июня. https://web.archive.org/ web/20090309121545/http://saturday.ng.ru/deeds/ 2000–03–04/3_recalls.html