Такі були перші реальні наслідки переходу Мазепи на бік шведів і звязаної з цим переходом політики царя Петра супроти України. Тимчасом військові події розвивались. Карл спішив далі на південь, щоб мати змогу ввійти в контакт із Кримом і Туреччиною. Його агенти вже давно вели переговори з турецьким урядом, стараючися втягнути його в війну з Москвою. Французька дипломатія енергійно піддержувала шведські старання. Але наступала зима й перепинила на деякий час похід. Шведи розложилися в північній Полтавщині. Московське військо ввесь час стежило за ними й старалося тривожити їх дрібними нападами. Зима 1708-9 року була надзвичайно жорстока, й шведи, дарма що вони, як діти півночі, не так боялись холоду, понесли тяжкі втрати від морозів. Кілька тисяч людей загинуло й цим зменшило й без того вже ослаблену шведську армію. На початку 1709 року, саме в люті морози, Карл із своєю кіннотою почав наступ у глиб Слобідської України й так розторощив московську кінноту, що вона на довший час утратила свою боєздатність, але тут несподівано наступила відлига, все вкрилося водою, й операції мусіли припинитись. Тимчасом московські ґенерали почали тривожити залишені на зимових кватирах шведські частини, й Карл повернувся назад. Тероризована москалями Україна держалася пасивно, хоча в тих місцях, де стояли шведи, населення ставилось до них прихильно, тим більше, що шведські війська з наказу короля поводилися з українцями дуже добре. Одинока поміч, яку Карл досі мав від свого українського союзника, це кілька тисяч козаків, яких привів із собою Мазепа. Але ранньою весною 1709 р. на бік шведів перейшло Запорожжя. Ввесь час гетьманування Мазепи запорожці стояли в укритій або навіть у явній до нього опозиції. Але коли настав рішучий момент, вони пішли за гетьманом. Можна думати, що значну ролю в цьому відограв кошовий отаман Костянтин Гордієнко, великий український патріот і ворог Москви. Вже восени 1708 р. запорожці заявили про свою солідарність із гетьманом. Цар Петро поспішив вислати на Січ великі гроші, щоб підкупити запорозьку старшину, але з цього нічого не вийшло, і вже в березні 1709 р. кошовий Гордієнко привів до головної шведської квартири 8.000 запорожців. Це було дуже на руку шведам, бо якраз вони мали велику потребу в кавалерії, яка була в них дуже знищена в часі зимової кампанії. Запорожці за посередництвом гетьмана Мазепи склали з шведським королем формальну умову: король зобовязувався помиритися з царем не інакше як на умові, що Україна й Запорожжя, будуть визволені зпід Москви. В той час, як запорожці вели ці переговори в головній, кватирі короля, відділ запорожців розбив московського генерала Шаумбурґа під містечком Нехворощею. Запорожці привели до короля кілька сот полонених москалів. Це був доказ того, що в запорожцях шведський король здобув собі корисних союзників.
Але приєднання запорожців було останнім успіхом шведів на Україні. Далі справи їх пішли щораз гірше. Переговори з турками посувалися дуже мало вперед, і тільки татари готові були виступити проти москалів по стороні шведів. Дуже добре розуміючи небезпеку з татарського боку, цар Петро вислав весною відділ свого війська, якому вдалося зайти запорожцям у зади, взяти й зруйнувати їх Січ, що була над річкою Чортомликом, а також зруйнувати запорозьку кріпость Переволочну, вище порогів, там, де Ворскла впадає в Дніпро. Тут було знищено всю річну фльотилію запорожців, що мало свої фатальні наслідки, бо унеможливило пізніше шведам переправу через Дніпро. Зруйнування Переволочної було ударом, що був рівний зруйнуванню Батурина. При здобутті Січі й Переволочної повторилися й страхіття Батурина: всіх козаків і загалом усе населення, яке попало в руки москалів, москалі замордували найбільш варварським способом.
В початку травня шведська армія пересунулася далі на південь до лінії Ворскли й тут облягла кріпость Полтаву. Облога тягнулася дуже мляво. Як думають найновіші шведські дослідники, метою Карла було за всяку ціну втягти московську армію в ґенеральний бій: він дуже добре розумів, що в умовах війни на широких східньо-европейських рівнинах не мало значіння ані маневрування, ані захоплення того або іншого пункту, ані опанування якоїсь території; важно було нанести рішучий удар і знищити головні сили ворога. В даному разі це було ще настільки важніще, що в разі успіху зараз же появлялися нові союзники: виступили б проти царя татари й турки, а може й недавно лише втихомирені донські козаки, та й сама Україна після того, як її залишили б москалі, могла вся приєднатися до шведів.
Ці міркування, на думку шведських істориків, і привели Карла до уложення пляну через облогу Полтави притягти московську армію й змусити її до рішучого бою. Цей бій дійсно стався 27 червня 1709 року, один із важніших своїми наслідками боїв не тільки для сходу, але й для цілої Европи. Сили противників були нерівні, по новітнім обрахункам, зробленим шведськими дослідниками, шведи мали всього 18.000 здатного до бою війська з 30 гарматами супроти 40.000 москалів при 72 гарматах. Українські частини, які були в обох таборах, так само й ріжні нерегулярні відділи в московській армії не входять у обрахунок. Високі бойові прикмети шведських військ урівноважували неоднакову чисельність ворожих військ, але в особі царя Петра Карл XII мав собі гідного противника, котрий добре використав увесь попередній досвід, усі свої колишні невдачі: московська армія була вже не та, яку десять років перед тим так легко розгромив Карл під Нарвою. Та нещастям для шведів було те, що сам король не міг командувати військом у день рішучого бою. За десять день перед тим Карл об'їздив місцевість і дуже необережно наблизився до ворожих позицій; його серйозно поранено в ногу, й він уже не міг сам кермувати боєм та здав головну команду ґенералові Реншільдові. А цей наробив фатальних помилок і, не зважаючи на свою хоробрість, шведи програли битву. Хоч вони втратили всього 5.000 людей і могли доволі спокійно відступати до Дніпра, але справа була безповоротно програна. Петро, захоплений своїм успіхом, дав змогу ворогам відступити. Але, дійшовши до Переволочної, шведська армія й українські відділи Мазепи мусіли зупинитись, бо всі засоби для переправи були знищені москалями ще раніше. Тимчасом наспіла погоня. Шведські генерали умовили Карла переправитися через Дніпро й тікати до Туреччини. Разом із ним тікав і Мазепа. Виснажена шведська армія капітулювала, а українці, яким пощастило втекти від московської помсти, разом із своїм гетьманом знайшли притулок на турецькій території.
Мазепа не довго пережив полтавський погром. Агенти царя ввесь час старалися підкупити за величезні гроші турецьких правителів, щоб вони видали Мазепу цареві. Турки залишилися вірні заповітові свого Корана — не видавали втікачів, які шукають у них охорони, й не видали старого гетьмана на люту, помсту жорстокого царя. Але сили його не витримали, й він помер 22 серпня 1709 року в Бендерах. Тіло його було поховане в православному манастирі в Галаці. Одначе з смертю Мазепи справа його ще не закінчилася. В нього знайшлися енерґійні наслідники.
За Мазепою пішло багато козацької старшини. Спочатку вся ґенеральна старшина й майже всі полковники опинилися в його таборі. Згодом, коли показалося, що справа успіху шведів дуже сумнівна, дехто покинув Мазепу й явився до царя, прохаючи амнестії. Цар усіх приймав охоче й залишав на їх посадах, не вживаючи ніякої кари аж до самої полтавської битви. Після неї, коли Петро почув себе нарешті міцно, він почав арештовувати всіх тих, хто являвся тепер до нього й судити за «зраду». Одначе найліпші люди пішли за Мазепою на вигнання. За Мазепою пішли на еміґрацію: ґенеральний обозний Іван Ломиковський, ґенеральний бунчужний Федір Мирович, ґенеральний осавул Григорій Герцик, полковник прилуцький Дмитро Горленко, ґенеральний бунчужний Іван Максимович, старшини Клим Довгополенко, Нахимовський, Третяк та інші. Вони рішили продовжувати акцію, шукаючи опертя на татарську й на турецьку поміч, якої добивався для себе також і король Швеції. Реальною силою українських емігрантів було запорозьке військо, кілька тисяч людей, яким татарський хан дав місце в своїх володіннях, але число його все збільшувалося втікачами з України. На чолі української еміграції стояв ґенеральний писар, себто канцлер Мазепи й його найближчий співробітник Пилип Орлик.