Через пять лет после пребывания в северной Сирии, посещения приграничной области ал-Авасим, Масуди решил познакомиться с городами, историческими памятниками и природой Палестины. Возможно, что эта поездка путешественника началась с города Тивериады (по-арабски Табарии), стоящего на берегу Тивериадского озера. Масуди, любителю древностей, здесь было на что посмотреть. В Табарии сохранились остатки античного дворца, древние городские стены, переделанный в христианскую церковь языческий храм, возведенный при императоре Адриане. Масуди посетил также могилу, в которой, по преданию, был похоронен библейский пророк Иисус Навин. В Тивериаде он встретился с неким мавлой (клиентом, зависимым человеком) свергнутого халифского рода Омейядов, у которого видел сочинение по истории этой династии. Этот труд, до нашего времени не дошедший и по другим источникам не известный, видимо, сослужил Масуди хорошую службу, так как из него он почерпнул многие важные сведения по ранней истории Халифата.
Несколько южнее Табарии, в долине, окруженной горами, находится древний палестинский город Назарет, называемый арабами ан-Насира, где, по преданию, Христос жил с родителями до тридцатилетнего возраста. Столько знавший о развитии христианства в Византии, знакомый со многими христианскими деятелями Ближнего Востока и их сочинениями, Масуди не мог обойти стороной этот город. По его свидетельству, он посетил в Назарете некую весьма почитаемую церковь. Возможно, что это была построенная еще византийцами церковь святой Марии. Сообщая о своем пребывании в Назарете, путешественник отмечает, что от арабского варианта транскрипции его названия произошло одно из наименований христианства, распространенных в Халифате, — ан-насраниййа. Побывал Масуди и на родине Христа — в небольшом городке Вифлееме (Бейт Лахме).
Из Назарета Масуди попал в Наблус, получивший это название по стоявшему некогда на его месте римскому городу Неаполису. В X в. Наблус был населен последователями иудейской секты самаритян, с учением которой Масуди постарался познакомиться прямо на месте. Двигаясь дальше на юг, Масуди прибыл в Рамлу, небольшой город, где любили отдыхать и охотиться омейядские халифы. Многое для Масуди здесь было связано с омейядским халифом Сулайманом, который его и основал, будучи наместником Палестины при своем брате Валиде ибн Абд ал-Малике. Сделавшись халифом, Сулайман не оставил насиженного места и бывал в Рамле гораздо чаще, нежели в столице — Дамаске. По приказу Сулаймана сириец- христианин ал-Батрик ибн ан-Нака построил дворец и Белую мечеть (ал-Масджид ал-Абйад), которая была расширена при преемнике Сулаймана Омаре ибн Абд ал-Азизе. Во времена Масуди считалось, что ниша, указывающая направление на Мекку (михраб), Белой мечети является самой большой во всем мусульманском мире. В городе существовала система водоснабжения. Вода в дома жителей поступала из особого хранилища Унайзии, построенного в 789 г. во время правления Харуна ар-Рашида. Арабо-мусульманские историки рисовали Сулаймана, основателя Рамлы, обжорой и франтом. Масуди сообщает, что вечно голодный Сулайман имел привычку хватать горячие куски жареных кур, завернув руки в длинные рукава дорогих кафтанов, отчего испорченные жиром одеяния приходилось часто менять. Эти засаленные кафтаны, по свидетельству Масуди, хранились еще в казне Харуна ар-Рашида, и один из них халиф подарил филологу Асмаи за то, что тот сумел объяснить ему происхождение пятен на них.
Покинув Рамлу, Масуди дня через два прибыл к цели своего путешествия — в столицу Палестины, священный город христианства, иудаизма и ислама — Иерусалим.
Этот древний город арабо-мусульманские географы, в том числе и Масуди, называли Кудс («Святость») или Байт ал-Мукаддас («Дом Священного») в память о том, что здесь в глубокой древности обитал библейский патриарх Мелхиседек. В римскую эпоху при императоре Адриане (117—138) на месте Иерусалима был построен новый город — Элия Капитолина. Масуди была известна древняя история этого города, однако в большей степени его интересовали мусульманские и христианские памятники, имеющиеся здесь в изобилии, ибо с течением времени Иерусалим стал священным городом также христианства и ислама. Перестройка Иерусалима в христианском духе началась при императоре Константине. В этом участвовала его мать Елена, на средства которой был воздвигнут главный христианский храм города — храм Воскресения, о чем Масуди пишет в «Книге указания и наблюдения». Став хозяевами положения в Римской империи, христиане принялись активно искать в Иерусалиме материальные свидетельства жизни и мученичества Христа. Вскоре ими были обнаружены остатки креста, на котором Он был распят.
В этой связи в среде христиан-сирийцев возникла легенда о том, как еще до принятия христианства Константином некая знатная женщина по имени Протоника стала христианкой и совершила паломничество в Иерусалим, где обнаружила кресты, на которых были распяты Христос и два разбойника, казненные вместе с ним. Когда Протонику и ее детей ввели в подземелье, где находились кресты, ее дочь внезапно упала замертво. Решив, что эта смерть является божественным знамением, спутники Протоники стали поочередно прикладывать кресты к бездыханному телу девушки, и когда к ней приложили крест, на котором был распят Христос, она тотчас же воскресла. Так и был идентифицирован тот самый священный чудотворный крест. Этот легендарный рассказ был известен Масуди, который, правда, не приводит его целиком, а просто сообщает о факте нахождения креста римлянкой, которую он называет женой римского царя, а имя ее передает как Фрутуника. Скорее всего, наш автор считал, что в основе легенды о Протонике лежит некий исторический факт, и не желал осложнять его изложение фантастическими деталями, в истинность которых верили христиане. Сам же Масуди, будучи мусульманином, относился к христианству с большим интересом и известной долей уважения, однако без особого доверия. Упоминание же им имени Протоники свидетельствует о том, насколько тщательно и широко подбирал он материалы в тех местах, где ему доводилось бывать.
Из Иерусалима Масуди совершил поездку в район Мертвого моря. Он отмечает высочайшую концентрацию соли в этом водоеме, в котором нет живых существ и на поверхности которого можно лежать без движения, не погружаясь в воду. Описывает Масуди и течение реки Иордан, впадающей в этот водоем.
В следующем, 927 г. наш путешественник совершил поездку по городам центральной Сирии. Возможно, что исходным пунктом маршрута являлся город Харран, лежавший на границе между Сирией и Ираком и бывший в средние века центром языческой секты сабиев, доктрина которой сложилась в результате смешения древнегреческих религиозных воззрений, принесенных на Ближний Восток в результате завоеваний Александра Македонского, с местными древними культами. Сабии почитали двух главных философов-пророков — Азимуна и древнегреческого Гермеса, которого они отождествляли с египетским богом Сетом. Одним из сабейских пророков считался мифический певец Орфей. Мир, согласно учению последователей этой секты, создан неким священным всеведающим Творцом, к нему человек может приблизиться через посредство бесплотных духов, ступенью ниже которых стоят духи, управляющие планетами, Солнцем и Луной и обитающие в построенных для них храмах.
Культ духов планет объясняет то, почему у сабиев была столь сильно развита астрономия. Масуди даже полагал, что именно обитатели Харрана разработали систему измерения орбит планет и в соответствии с этим стали называть жрецов по степеням. Система духовных чинов была, по его мнению, впоследствии перенята у сабиев христианами.
Знакомясь с верованиями харранской секты на основе собственного опыта, Масуди осмотрел главный их храм, который, по преданию, был построен Эзрой, отцом библейского Авраама (у арабов — Ибрахима). На дверях другого молитвенного дома сабиев путешественник видел надпись на сирийском языке, который был священным языком секты: «Кто познает себя, тот приобщится к Божеству». Сабии полагали, что это изречение принадлежит древнегреческому философу Платону.