Коли навесні 1923 р. Рада послів великих держав прийняла рішення віддати Польщі тимчасово окуповану нею ще в 1919 р. територію Східної Галичини, то 12 березня 1923 р. уряд УСРР заявив рішучий протест проти таких дій. Сам X. Раковський в одному зі своїх виступів у Харкові заявив, що долю цієї території мають вирішувати люди, які на ній проживають. Він назвав приєднання Східної Галичини до Польщі актом насильства.
Разом з тим в 1919 р. X. Раковський, вважаючи, що Україна не зможе приступити до мирної праці, коли в країнах, що з нею межують, не буде встановлена Радянська влада, був палким прихильником надання військової допомоги Угорській Радянській Республіці (1919 p.), мріяв організувати наступ на Румунію, щоб домогтися повалення існуючого там ладу.
Дипломатичні таланти X. Раковського, не дивлячись на його розбіжності з Й. Сталіним в площині радянського національно-державного будівництва, стали однією з основних причин призначення його в липні 1923 р. повноважним і торговельним представником СРСР в Лондоні. В жовтні 1925 р. він очолив радянське дипломатичне представництво у Франції. Перебуваючи на відповідальних посадах повноважного представника СРСР у Великій Британії та Франції, X. Раковський відіграв важливу роль у міжнародному визнанні цими провідними європейськими державами Союзу РСР
В 1927 р. X. Раковського відкликали з дипломатичної роботи, що в значній мірі пояснювалося його особистими зв'язками з Л. Троцьким та іншими діячами опозиції проти Й. Сталіна. Спроби X. Раковського знайти підтримку діям опозиції в Україні завершилися невдачею. На XIV з'їзді ВКП(б) в 1927 р. він в числі інших 75 активних діячів опозиції був виключений з партії.
У січні 1928 р. X. Раковського висилають до Астрахані, потім – Саратова і Барнаула. Але він не залишає боротьби проти «сталінської фракції» у ВКП(б), пише кілька полум'яних звернень до ЦК партії. В цих документах доводилась неможливість побудови соціалізму в одній країні, критикувалась практика колективізації сільського господарства в СРСР та ін.
Хоч в ті часи X. Раковський вважався одним з найвпертіших опозиціонерів, але на початку 1930-х pp. і він змирився з режимом. В 1934—1935 pp. працював начальником Управління навчальних закладів Наркомату охорони здоров'я РСФРР, головою Всесоюзного товариства Червоного Хреста, взяв участь у роботі XV міжнародного конгресу Червоного Хреста в Токіо (Японія). В 1935 р. X. Раковського було поновлено в членах ВКП(б). У серпні 1936 р. він виступив у газеті «Правда» з приводу судового процесу в справі троцькістсько-зінов'євського терористичного центру із заявою, в якій засудив своїх колишніх товаришів по опозиції.
Але доля X. Раковського вже була вирішена. Наприкінці січня 1937 р. його заарештовують, і в березні 1938 р. він став одним з обвинувачених на процесі «антирадянського правотроцькістського блоку». Лише звернення з-за кордону на ім'я Й. Сталіна врятували йому життя. X. Раковського засудили до 20 років тюремного ув'язнення.
Займаючи відповідальні партійно-державні посади, X. Раковський в 1919—1927 pp. був членом ЦК ВКП(б), делегатом VIII—XIV з'їздів ВКП(б). У 1919—1924 pp. він член ЦК КП(б)У, в 1919—1923 pp. – член Політбюро ЦК КП(б)У, делегат III з'їзду, IV—VII конференцій КП(б)У Обирався членом ЦВК СРСР, ЦВК РСФРР, ВУЦВК, Всеукрревкому.
Коли в перші місяці Великої Вітчизняної війни виникла загроза прориву німецьких військ в центральні райони СРСР, Державний комітет оборони прийняв рішення про негайну ліквідацію 170 політичних в'язнів Орловської в'язниці. 11 вересня 1941 р. X. Раковського в числі інших в'язнів було розстріляно в Медведівському лісі в десяти кілометрах від м. Орел.
4 лютого 1988 р. Пленум Верховного Суду СРСР відмінив вирок по процесу «антирадянського правотроцькістського блоку» (1938 p.), а Комітет партійного контролю при ЦК КПРС 21 червня 1988 р. поновив X. Раковського посмертно в членах партії.
Творча спадщина X. Раковського вивчена недостатньо. Відомо про величезну кількість публікацій в періодичній пресі, кілька книг і брошур російською, болгарською, румунською, німецькою і французькою мовами, якими автор вільно володів.
Праці X. Г. Раковського
Отчет Рабоче-крестьянского правительства Украины IV-му Всеукраинскому съезду Советов рабочих, крестьянских и красноармейских депутатов 16—20 мая 1920 г. – Харьков, 1920.
Ильич и Украина // Летопись революции. – 1925. – № 2.