Хотя идеи Лебедя вполне разделялись многими его московскими покровителями, они все же пришлись не ко времени, поэтому его и ряд других известных партийных деятелей-не-украинцев пришлось отозвать из Украины. Их места заняли более послушные и дисциплинированные ставленники Москвы, такие как Лазарь Каганович — украинский еврей, возглавивший партийный аппарат в Украине и готовый беспрекословно проводить курс партии на украинизацию, а также украинцы, искренне заинтересованные в успехах этой политики. Среди них был Влас Чубарь, сменивший Раковского на посту главы украинского советского правительства, Олександр Шумский, народный комиссар просвещения, в прошлом боротьбист, и вездесущий старый большевик Микола Скрипник, ставший народным комиссаром юстиции. Только избавившись от убежденных «русских бюрократов и шовинистов» (как их называл Ленин), правительство советской Украины могло приступить к осуществлению новой политики.
Первоочередной мерой в проведении украинизации стало широкое внедрение украинского языка, в первую очередь в деятельность партийного и государственного аппарата. Необходимость этого была слишком очевидной: в 1922 г. на одного члена компартии Украины, регулярно пользовавшегося украинским языком, приходилось семь русскоязычных, в госаппарате это соотношение было один к трем. В августе 1923 г. с целью ликвидировать это кричащее несоответствие была издана инструкция, обязывавшая партийных и государственных служащих посещать специально созданные курсы украинского языка. Неуспевающим на этих курсах грозило увольнение. К 1925 г. чиновники были обязаны перевести делопроизводство во всех государственных учреждениях на украинский язык. А в 1927 г. Каганович заявил, что на украинский язык перейдет все партийное делопроизводство. Несмотря на заметное отсутствие энтузиазма среди многочисленных русскоязычных чиновников в партии и государственном аппарате, новая политика дала впечатляющие результаты. Если в 1922 г. украиноязычным было только 20 % государственного делопроизводства, то к 1927 г. эта цифра выросла до 70.
Одновременно возрастала численность украинцев в партийно-государственных структурах республики. В 1923 г. только 35 % государственных служащих и 23 % членов партии были украинцами. К 1927 г. их удельный вес увеличился соответственно до 54 и 52 %. Тем не менее украинцы как новички пополняли главным образом нижние звенья партийно-государственного аппарата. В конце 1920-х годов их доля в составе Центрального комитета КП(б)У составляла всего 25 %.
Украинизация проникала во все сферы жизни советской Украины. Наибольший эффект она произвела в области народного просвещения. В противоположность царскому режиму советская власть уделяла большое внимание образованию, и ее достижения действительно впечатляют. Объяснить особую заботу Советов о народном образовании можно несколькими обстоятельствами: поскольку советское общество должно было служить образцом «нового мира», ему следовало стать образованным; кроме того, только образованное население могло повысить производительную силу и мощь государства; наконец, система просвещения была великолепным средством воспитания новых поколений в духе советских идеалов. Особенно успешной стала деятельность Советов по ликвидации безграмотности. Во время революции около 40 % городского населения было грамотным, через 10 лет эта цифра уже достигала 70. На селе за тот же период удельный вес грамотных возрос с 15 до 50 %. Поскольку массовое движение за грамотность осуществлялось на украинском языке, рост грамотности означал и расширение воздействия украинизации на сельскую молодежь.
Вдохновителем и организатором украинизации системы образования был Скрипник, возглавлявший наркомат просвещения с 1927 по 1933 г. Благодаря его самоотверженной работе уже к 1929 г.— в пик украинизации — свыше 80 % общеобразовательных школ, 55 % школ ФЗО и 30 % вузов вели обучение на украинском языке. Свыше 97 % детей-украинцев обучалось на родном языке. Русское и еврейское национальные меньшинства имели возможность учиться на русском, однако предполагалось, что некоторые предметы будут преподаваться на украинском. Накануне революции, когда украинской школы фактически не было, украинофилы могли бы только мечтать о том, что Скрипник всего лишь через каких-нибудь 10 лет превратил в реальность.
Успехи украинизации были особенно ощутимы на фоне сопутствующих ей трудностей, в особенности такой, как недостаток квалифицированных преподавательских кадров. Для украинизации требовалось 100 тыс. учителей, в наличии имелось только 45 тыс. В отчаянных поисках разрешения этой проблемы Скрипник даже попытался ввезти в Украину несколько тысяч учителей из Галичины, однако Советы, опасаясь присутствия галичан с их высокоразвитым национальным самосознанием, не дали на это согласия. Большой проблемой был недостаток украиноязычных учебников и пособий. Наконец, серьезной препоной на пути украинизации, особенно на вузовском уровне, было нежелание многочисленных русскоязычных преподавательских кадров институтов пользоваться «сельским» языком. Типичным примером такого отношения можно считать заявление профессора Толстого из Одессы: «Всех товарищей, перешедших на преподавание на украинском языке, я считаю ренегатами». Тем не менее и в высших учебных заведениях студенты-украинцы вскоре оказались в большинстве. Успехи украинизации образования породили общее настроение национального оптимизма, удачно подмеченное писателем Борисом Антоненко-Давидовичем: «заревом великого возрождения» он назвал «марш миллионов в украинскую школу».