Так как попытки разрешить эту проблему в рамках прежней системы не давали успеха, то император Диоклетиан попытался найти новое решение. Исходя из огромных размеров Римской империи и сложности организации связи между Римом и пограничными армиями, он решил разделить военное командование между четырьмя большими регионами. Была создана «коллегия» правителей. Она состояла из двух старших императоров — «августов», Диоклетиана на Востоке и Максимиана на Западе; их помощниками стали два младших правителя, «цезаря» — соответственно, Галерий и Констанций. Цезари должны были сменить августов после окончания их правления и также назначить себе в помощь двух цезарей.
Эта тетрархия — власть четырех — первоначально показала свою эффективность; однако новая система расстроилась после того, как Диоклетиан отрекся в 305 г., принудив отречься и своего соправителя, августа Максимиана. Диоклетиан лично определял все основные направления государственной политики, а поскольку тетрархия касалась только военной власти (гражданская оставалась пока единой), то после его отречения склоки между преемниками привели к новой гражданской войне. Сыновья Максимиана, бывшего августа Запада и его цезаря Констанция, были обойдены при назначении новых цезарей. Выбор пал на любимцев Галерия: Севера, назначенного цезарем на Запад к Констанцию, и Максимина Дайя, которого назначил своим цезарем на Востоке сам Галерий. После кончины Констанция находившиеся в Йорке войска провозгласили императором его сына Константина. Но одновременно появился и второй претендент на трон — Максенций, сын Максимиана, поддержанный своим вернувшимся к власти отцом. Ему удалось низложить и казнить Севера. После этого Максенций провозгласил себя августом.
За этим последовали ссора Максенция с Максимианом, союз последнего с Константином, назначение цезарем на Западе Лициния (человека Галерия) и повторное отречение Максимиана. В итоге к 310 г. в империи правили не менее пяти августов. Через два года Константин вступил в союз с Лицинием и разгромил войско Максенция в знаменитой битве у Мальвийского моста, в которой его воины несли на щитах монограмму, состоявшую из первых двух букв имени Христа. Константин считал, что его победа явилась следствием покровительства Христа. Заняв Рим, он разоружил преторианскую гвардию и в 313 г. заключил с Лицинием договор о праве для христиан отныне свободно исповедовать свою религию и о возвращении им собственности, конфискованной во время репрессий при Диоклетиане и Максимине. В том же году Миланский эдикт узаконил этот договор. Однако мир между Константином и Лицинием оказался непрочным. В 323 г. разразилась новая война, но через год Константин одержал победу, низложил Лициния и стал единовластным императором. Империя оставалась единой до конца столетия.
Константин понимал, что реально управлять империей из Рима более невозможно. Он перенес столицу на восток, в старую греческую колонию Византий, назвав его Константинополем. Его стратегическое положение было выгодным, поскольку из новой резиденции император мог держать под контролем и западные, и восточные провинции. Сенат и другие римские центральные государственные институты были перенесены в Константинополь. Город был значительно расширен и обновлен, соорудили новые городские стены, Константин предпринял дорогостоящую реконструкцию новой столицы. Эта реконструкция была начата в 326 г., а в 330 г. было торжественно объявлено об основании нового города.
Константин инициировал ряд важных реформ военной и гражданской структур империи. Прежня налоговая система была разрушена, и для укрепления финансовой системы государства начали чеканить солид, новую золотую монету, что способствовало стабилизации государственных финансов. Было проведено разделение военных и гражданских властей и восстановлена центральная администрация. На высшие должности назначили сановников, непосредственно ответственных перед императором. В армии выделены были два основных рода войск — пограничные войска и несколько мобильных боевых армий, находившихся в распоряжении императорского двора и готовых к отражению внешней агрессии. Провинции были разбиты на административные округа для большего удобства административного и фискального управления. К этому следует добавить, что официальное признание христианства и содействие церкви со стороны императорской власти со временем способствовали превращению церкви в могущественную социально-политическую силу Восточной Римской империи. Однако, при всех усилиях императора Константина, обширные размеры империи и значительные различия интересов Востока и Запада объективно способствовали разделению государства. Восток и Запад фактически управлялись разными правителями, хотя система тетрархии уже не возрождалась.