Если бы немецкая колонизация ограничилась первой спонтанной волной, германизация края закончилась бы к западу от низовьев Вислы. Но одно почти случайное событие, которому суждено было иметь непредвиденные последствия, позволило распространить колонизацию дальше на восток. Таким событием стало завоевание Пруссии рыцарями Тевтонского ордена.
Пруссы, балтийское племя, долгое время сохраняли верность своим богам. Хотя Восточное Поморье (Помереллия) и Данциг, расположенные на левом берегу Вислы, перешли в христианство уже в XI в., все попытки польских миссионеров обратить в христианство племена, жившие на правом берегу Вислы, оказывались тщетными. В 1222 г. там вспыхнуло восстание, и все достижения были сведены на нет. Епископ Пруссии, назначенный Иннокентием III, попал в плен. С тех пор пруссы участили свои опустошительные набеги на христианские земли. Наконец правитель Мазовии, вассал короля Польши, в отчаянии обратился к Герману фон Зальца, великому магистру Тевтонского ордена. Герман искал для своих рыцарей новое поле деятельности после того, так как орден вытеснили с Востока. После продолжительных переговоров в 1230 г. заключили соглашение. Тевтонский орден получал округ Кульм и все территории, которые тот отвоюет у пруссов, на правах независимой и автономной собственности.
Так были заложены основы еще одного германского государства, которое еще укрепилось после 1236 г., когда были приобретены сначала Ливония, а затем Эстония. В тех краях Тевтонский орден обладал почти абсолютной властью, если не считать определенных прав, переданных епископам. Однако понадобилось более полувека военных действий, чтобы обеспечить безопасность границ и окончательно подчинить пруссов, которые с помощью литовцев оказывали ожесточенное сопротивление. Из-за этого завоевание в тех краях проводилось гораздо более жестко, чем в других местах. Прежних обитателей по большей части убили или депортировали.
Одновременно с замирением Пруссии Тевтонский орден более систематически, чем другие правители, занимался колонизацией сельских и городских районов Пруссии. Поселенцев привлекали по большей части из Силезии и Центральной Германии, откуда в первую очередь вербовались сами рыцари, а позже – из различных частей на севере Германии.
С началом колонизации на правом берегу Вислы заложили два города, Торн (Торунь) и Кульм, под охраной замков. В 1233 г. Герман фон Зальца дал им грамоту (Kulmer Handfeste), на основании которой позже предоставлялись льготы другим прусским городам. Кроме того, новые города получали обширные земельные владения, часть доходов от отправления правосудия, магдебургское городское право и определенную степень административной автономии. При этом Тевтонский орден сохранял контроль над укреплениями и переложил на плечи горожан тяжкое бремя воинской повинности. Судьба двух городов складывалась по-разному. Великий магистр рассчитывал, что Кульм станет столицей Пруссии. Он сделал Кульм резиденцией епископа и местом заседаний апелляционного суда. Однако его планам не суждено было сбыться, и Кульм оставался второстепенным городком. Зато Торн, который находился на границе с королевством Польским, быстро рос и преуспевал благодаря товаропотоку по Висле. В XIV в. Торну предстояло стать самым влиятельным прусским городом после Данцига.
Хотя Любек в тех краях не играл почти никакой роли, он принимал активное участие в возникновении прибрежных городов. Любекские корабли поддерживали экспедиции Тевтонского ордена, а его купцы внесли существенный вклад в основание Эльбинга (1237) на восточном рукаве Вислы, неподалеку от древнего поселения Трусо; в результате в городе, единственном во всей Пруссии, действовало любекское право. Вплоть до середины XIV в., когда функции Эльбинга взял на себя Данциг, Эльбинг считался главным прусским портом. В 1337 г. он был расширен благодаря новому поселению, которое объединилось со старым лишь в 1478 г. Наконец, на Земландском или Самбийском полуострове, последнем регионе, завоеванном Тевтонским орденом, на реке Прегель заложили Кёнигсберг, который, судя по всему, получил свое название в честь короля Оттокара Богемского, участника Крестового похода 1255 г. Кёнигсберг возник на месте трех городских поселений; в одном жили рыцари Тевтонского ордена, в другом находилась резиденция епископа, а в третьем селились купцы. Поселения объединились лишь в 1724 г.