Сталося так, що очолюючи Раду міністрів УНР, І. Мазепа не міг контролювати всіх кроків, які робились від імені уряду, імені УНР, зокрема Головою Директорії С Петлюрою. Ісаак Прохорович не сприйняв підписаного у квітні 1920 р. Варшавського договору, різко критикував його і, не бажаючи нести відповідальності за наслідки неправомірної і, навіть, ганебної угоди, залишив у травні прем'єрство.
У новому складі уряду, яким з 25 травня 1920 р. став головувати В. Прокопович, перевагу одержали представники правих партій. І. Мазепу умовили зайняти пост міністра земельних справ. Однак його перебування на відповідальній посаді виявилось нетривалим. Уже 18 червня 1920 р. сталася сутичка між міністром земельних справ і міністром фінансів X. Барановським. Останній запропонував негайно розпочати продаж державних, міських та націоналізованих земель. Оскільки С. Петлюра і В. Прокопович, на словах умовляючи І. Мазепу не залишати в тяжких обставинах відповідального поста, пішли на ділі назустріч X. Барановському, І. Мазепа змушений був податися до демісії, пробувши міністром земельних справ всього близько місяця. Передавши справи міністерства Є. Архипенкові, він виїхав 5 липня 1920 р. до Львова на крайову конференцію УСДРП Галичини, а далі – за кордон в еміграцію.
Опинившись поза межами батьківщини, І. Мазепа деякий час не вважав справу Української революції програною остаточно. Він продовжував вірити у майбутнє незалежної України. Не полишав він і соціалістичної платформи. У збірнику «Вільна Україна», виданому ЦК УСДРП у Львові 1921 p., a також у місячнику «Соціалістична думка» І. Мазепа твердо обстоював ідею вільної незалежної УНР і програму демократичного соціалізму. Соціалізм, на його глибоке переконання, міг розвиватися лише на базі демократії; тільки поєднання з демократією робило здійсненними лозунги рівності, свободи, справедливості, народоправства. І. Мазепа гадав, що, йдучи шляхом політичної і господарської демократії, капіталізм поступово й безболісно вростатиме в соціалізм. Такі політичні погляди були «співзвучні» з ідеологічною системою, якою керувався у своїх діях Соціалістичний робітничий Інтернаціонал – міжнародне об'єднання соціал-демократичних партій, створене на Гамбурзькому конгресі 1923 р. Ісаак Прохорович брав участь у цьому, а також у Марсельському (1925) та Брюссельському (1928) конгресах СРІ.
І в Гамбурзі, і в Марселі І. Мазепа настійно проводив думку про те, що нерозв'язність національної проблеми на сході Європи стане постійним джерелом нестабільності на всьому континенті. Одну з гарантій демократичного мирного розвитку всієї Європи він вбачав у створенні незалежної демократичної України. Українській соціал-демократії довелося провести чималу роботу серед соціалістичних організацій Європи, щоб національні проблеми сходу Європи зайняли належне місце на конгресах Соцінтерну.
Весною 1923 р. І. Мазепа переїхав до Праги, пізніше прибули дружина з двома доньками. Працюючи доцентом Української господарської академії в Подебрадах, а пізніше доцентом Українського технічно-господарського інституту, Ісаак Прохорович поряд із заняттями агроботанікою, захоплювався політологією, готував до друку свої мемуари. Його дослідження флори полонин Карпатської України, праці з методики дослідження луків і пасовиськ, курс лекцій з морфології рослин дістали високу оцінку фахівців. Однак, душа дедалі більше тяжіла до суспільствознавства. У 1931 р. він захистив докторську дисертацію при Українському вільному університеті в Празі по факультету права і суспільних наук.
Більшість тогочасних політологічних і публіцистичних праць Мазепи були опубліковані органом УСДРП – журналом «Соціал-демократ». Головна увага в них зосереджувалась на осмисленні ролі української ідеї та уроків революції 1917—1920 pp., аналізі сутності більшовицького режиму, що переміг в Україні, діалектиці диктатури і демократії. Ці ж теми були центральними у книзі «Большевизм і окупація України», яка з'явилася 1922 р. у Львові, а через рік – у німецькому перекладі в Берліні. В 1923 р. англійською і німецькою мовами вийшла книга «Голод на Україні». Це був підготовлений ЦК УСДРП аналітичний матеріал про голод 1921—1922 pp. Основна причина трагедії пов'язувалася з політикою комуністичної парії.