Власть Ордена тевтонских рыцарей распространялось прежде всего на территории, где он крепко закрепился на берегах Балтийского моря, от Нижней Вислы до Финского залива и Чудского озера. Здесь находились владения ордена, названные «боевыми провинциями» из-за постоянной угрозы, исходящей от литовских и польских соседей, что вынуждало орден держать крепостные гарнизоны в постоянной боеготовности.
Эти две боевые провинции первоначально были Пруссией, усмиренной и покоренной после семидесяти пяти лет непрерывной борьбы, где орден построил многочисленные города и населенные пункты. Тысячи немцев обосновались там, сначала в городах, затем, в основном после 1280 г., в сельских местностях, что способствовало широкой германизации страны, которая закончилась в конце XIV столетия.
Вторая из этих провинций была Ливония, соединенная с Пруссией узкой прибрежной полосой, которая постоянно находилась под угрозой вторжения литовских племен жемайтов. Эта территория в конечном счете будет подчинена ордену в 1397 г. В отличие от того, что происходило в Пруссии, власть ордена распространялась только на ту часть Ливонии, которая прежде принадлежала рыцарям-меченосцам до их слияния с Тевтонским орденом в 1237 г. Эта часть Ливонии состояла из Курляндии, Земгалии и северной части Ливонии с городами Феллин и Вольмар. К этому надобно добавить герцогство Эстония, купленное Тевтонским орденом у короля Дании в 1346-1347 гг. Остальная часть Ливонии подчинялась архиепископу Риги, который постоянно конфликтовал с Тевтонским орденом и епископом Дерпта (Тарту).
Помимо двух боевых провинций орден владел отдельными командорствами, объединенными с провинциями так называемыми «мирными» договорами. В конце XIV столетия, помимо Пруссии и Ливонии, во владении ордена было семь провинций, командорства в Германии, Австрии, Богемии, Венгрии, Эльзас-Лотарингии, Бургундии, Италии и Померании. С XIII столетия орден владел многочисленными землями и движимым имуществом, полученными в дар от западных рыцарей по возвращении их из крестовых походов, которые этим засвидетельствовали свое признание за те услуги, которые получали в тевтонских госпиталях в Святой земле во время крестового похода под предводительством Людовика Святого. Эти земли находились в основном в Шартре, Невере и Труа. Они были проданы в 1501 г. аббатству Клерво командором провинции Лотарингия Жаном Ланжелланом с согласия магистра ордена в Германии и Италии Хартмана фон Солтенома. Причиной, оправдывающей эту продажу — по цене, впрочем, весьма низкой, — называют то, что эти земли были значительно удалены друг от друга, что затрудняло управление ими; кроме того, эти епархии были практически в развалинах вследствие разрушений, причиненных во время Столетней войны, а приводить их в порядок было для ордена чересчур накладно.
Дабы управлять столь разбросанной и обширной империей, орден тевтонских рыцарей создал эффективную организацию с централизованными и четко регламентированными учреждениями, деятельность которых подчинялась уставу. Устав ордена состоял из правил, законов и ритуалов, которые постоянно дополнялись с учетом обстоятельств и требований текущего момента. Первоначально Орден Святой Марии Немецкой в Иерусалиме подчинялся правилам, заимствованным в большой степени у госпитальеров, что касается религиозной миссии, и у тамплиеров, что касается воинских обязанностей. Но вскоре, особенно с приходом Германа фон Зальца, Тевтонский орден постепенно отошел от духовной подчиненности двум другим орденам и стал жить по Уставу, утвержденному папской буллой от 9 января 1221 г. и тридцатью четырьмя другими от 15—21 января того же года, направленными папой Гонорием III Герману фон Зальца. Разрешение папы Иннокентия IV от 9 февраля 1244 г. и новые уставы, принятые в 1297 г. во время съезда ордена в Венеции, составили основные положения Устава тевтонских рыцарей.
Во главе ордена стоял магистр (magister), который в начале XIII столетия стал называться «великим магистром» (magister generalis — Hochmetster), чья власть постоянно расширялась. Великий магистр на основании устава 1297 г. становился властелином, пользующимся абсолютной властью как над орденом, так над людьми, живущими на территориях ордена, и их имуществом. Единственно, что ограничивало всемогущество магистра, так это положения устава ордена.