Здесь же, в Майнце, Барбаросса, учитывая печальный опыт похода 1147 года, сделал важнейшие распоряжения относительно нового крестового похода. Его участниками могли стать лишь опытные в военном деле, имеющие полное боевое снаряжение и средства содержать себя в течение двух лет рыцари. Многие из них вынуждены были занимать деньги у церкви, отдавая ей в залог свою землю. Этот крестовый поход должен был стать исключительно делом обеспеченных рыцарей, их оруженосцев и слуг. Император лично вникал во все мелочи, связанные с подготовкой, вплоть до цен на продовольствие и фураж.
Тогда как английские крестоносцы под командованием наследника престола Ричарда Львиное Сердце и французские во главе со своим королем Филиппом II Августом решили добираться морским путем, Фридрих выбрал долгий и трудный маршрут через Венгрию, Сербию, византийские провинции, Иконийский султанат, Армению и Киликию, поскольку не хотел допустить раздробления своего войска, что было бы неизбежно при морском путешествии. Ходили слухи, что он предпочел путь по суше, узнав о пророчестве, будто ему суждено утонуть во время этого крестового похода… В Тире, на западном побережье Палестины, все крестоносные отряды должны были соединиться и под общим командованием Барбароссы двинуться на Иерусалим.
Готфрид Вюрцбургский и многие другие из окружения императора также рекомендовали морской путь как более легкий. На кельнских верфях уже были построены четыре больших судна, способных доставить в Святую землю несколько сот людей, лошадей, оружие и провиант. В целом путь по морю потребовал бы меньших финансовых затрат. Однако с кельнцами, от которых зависело обеспечение крестоносцев флотом, у императора были натянутые отношения; они отправились отдельно от Фридриха, присоединившись к участникам с Нижнего Рейна и из Бремена. Кроме того, император полагался на собственное знание сухопутного маршрута и способов преодоления связанных с ним трудностей. Лучше будет, рассуждал он, сделать ставку на свои силы и осмотрительность, нежели подвергаться непредсказуемому риску морского путешествия. Высказывалось также и опасение, что к моменту прибытия флота в Сирию все портовые города уже могут быть захвачены сельджуками. Крестоносное войско должно было выступить в поход из Регенсбурга 23 апреля 1189 года, в День святого Георгия, считавшегося покровителем крестоносцев.
Фридрих отвел целый год на приготовления, включавшие в себя широкую дипломатическую подготовку крестового похода, дабы избежать нежелательных трений и потерь на пути в Святую землю. Было отправлено несколько посольств. По рыцарскому обычаю, от султана Саладина сперва потребовали освободить Святую землю, возвратить захваченное в качестве трофея копье Христа (Священное копье) и выпустить из неволи захваченных в плен христиан. Если он откажется выполнить предъявленные требования, то ему объявлялась война. С этой целью к Саладину был направлен во главе посольства граф Генрих фон Диц. Прямо с Майнцского хофтага архиепископ Конрад Майнцский отправился к королю Венгрии Беле, чтобы вести с ним переговоры о мирном прохождении через его владения и договориться о снабжении крестоносцев. Король дружески принял посольство, пообещав крестоносцам всяческую поддержку. Фридрих, очевидно, знал о натянутых отношениях между Саладином и правителем Иконийского султаната Килич Арсланом, поскольку ко двору последнего также отправилось посольство для ведения переговоров о мирном прохождении и снабжении. Тогда же был установлен контакт и с Леоном II, правителем армянского государства в горах Тавра. Предметом переговоров было оказание поддержки крестоносцам. Сам папа Климент III обратился к Леону II и армянскому патриарху Григорию VII с просьбой о помощи святому воинству.