Дикая безлюдная пустыня полна была всяких страхований, и преподобный Мартирий картинно описывает это в своих записках. «В этой пустыне принял я великие страхования от бесов. Приходили они ко мне и страшили около наружных дверей хижины моей, говоря между собою: "Спит он". Один бес вошел в хижину и, подойдя, намеревался коснуться меня и даже удавить. Бесы, стоящие за дверями, побуждали его напасть на меня, но я молился, и бесы были посрамлены». В один праздничный день пустынник чувствовал себя нездоровым, с трудом отпел он дневные службы, через силу приготовил обед и поставил на стол, но ни к чему не прикоснулся, вкусил только сухариков и воды. После того он отписал своему отцу духовному, прося его благословения на пустынный подвиг. Но благословения на это не было дано. Духовный отец писал: «Иди жить в общежительном монастыре». Преподобный Мартирий, не дерзая преслушаться опытного учителя, но вместе размышляя о необходимости исполнить ранее данный обет, направился к Смоленску для поклонения чудотворной иконе Божией Матери, преподобным Аврамию и Ефрему, которых со слезами молил наставить его: что делать, как уготовать себе мир по Бозе. Преподобные Аврамий и Ефрем, представ Мартирию в сонном видении, успокоили его возвещением, что ему назначено жить в пустыне: «Где Бог благословит и Пресвятая Богородица наставит». Тогда, вспомнив бывшее ему прежде явление светозарного столпа и иконы над Тихвином, преподобный Мартирий уразумел значение этого указания и направился к этой обители, уверенный несомненно, что там Господь разрешит окончательно всякое его недоумение.
Найдя в Тихвинском монастыре ученика своего Аврамия, Мартирий поместился в одной с ним келлии и со смирением и покорностью истинного подвижника начал проходить тяжкие в общежительстве послушания, неотступно памятуя Господа, пришедшего в мир, «да не послужат Ему, но да послужит другим».
О своем приходе в Тихвинский монастырь и пребывании там преподобный Мартирий повествует так: «Когда я пришел из Лук Великих на Тихвину к Пречистой Богородице, был там ученик мой Аврамий пономарем, пришедший ранее меня. Я начал жить с ним в одной келлии. Рассказал я Аврамию о пустынном жительстве и прибавил: "Брат Аврамий, я хотел только приучить себя к пустынножительству, чтобы идти в Поморье и быть вдали от людей, незнаемый ими". Аврамий не одобрил этого: "Не ходи, отче, ни в Поморье, ни куда еще, но иди в ту пустыню и в то место, о которых я скажу тебе. Шел я раз из церкви с книгой по монастырю темной ночью, направляясь к трапезе, посмотрел на небо в ту сторону, где та пустыня, и увидел на небе крест сияющий, как луч, усажен весь звездами, над тем самым пустынным местом. Место это я знаю, оно непроходимо, стоит во мху. Иди на него и не ищи другого. Живи там, пока Бог повелит тебе. Будет с тобою Бог в том месте и Божие милосердие". Вот что рассказал мне про святое место Аврамий, ученик мой. Потом я поселился в эту пустыню, называемую Зеленой».
Какие же побуждения были у преподобного Мартирия идти в уединение из людного Тихвинского монастыря?
Подвижническая жизнь двух братий о Христе не могла не привлечь к ним всеобщего уважения; известность о них распространялась более и более, в то время как многолюдство богомольцев в знаменитой чудотворною иконою обители постоянно усиливалось. Мог ли терпеть это искавший полнейшей безвестности Мартирий? Неотложно он вознамерился уклониться в какую-либо глухую пустыню. Рассказ Аврамия решил для преподобного, куда ему идти. С этой минуты сердце Мартирия только и жаждало посетить пустыню, указанную Богом Аврамию. С неустрашимым рвением стал он молиться Царице Небесной, да управит его путь, и решился просить благословения на свой подвиг от настоятеля. Оно было дано, и Мартирий, изготовив две малые одинаковой меры иконы, одну — Живоначальной Троицы, другую — Пресвятой Богородицы Тихвинской, списанную с иконы чудотворной, отправился по данному указанию. На пути к пустыне около пяти верст не доходя до нее, находилось селение Бабурино. Здесь Мартирий сведал от одного из поселян по имени Иосиф о месте, к которому направлялся, и просил его провести туда. Едва заметной тропой миновав обширные, опасные и топкие мхи, Мартирий с проводником достиг пустыни, возвышавшейся красивым зеленым островом среди лесистой топи и за этой труднопроницаемой оградой как бы нарочно укрытой для иноческого безмолвия. Мартирий убедился, что воистину Сам Бог привел его сюда и не напрасно со слезами благодарности повторял слова пророка: Се удалихся бегая и водворихся в пустыне, чаях Бога, спасающаго мя (Пс. 54, 8–9). Преподобный здесь и остался. Крестьянин Иосиф, указав место, где должны были начаться иноческие подвиги Мартирия, думал уже удалиться, но преподобный, отпуская его, объявил по внушению Духа, открывающего безвестная и тайная, что его ожидают испытания, что в его отсутствие из дома дочь его утонула в колодце при черпании воды, и кроме того погиб вол, приподнятый, как вилами, сучьями высокого дерева. Таким образом при самом вступлении в пустыню, когда Мартирий призывался освятить своею жизнью и нетлением в ней, ему дарована была благодать прозорливости, о которой, конечно, не мог уже не разглашать при всяком случае крестьянин Иосиф. Сам Иосиф время от времени приносил Мартирию пищу. Раз Иосиф, будучи болен, решил дать на помин о себе ржи преподобному Мартирию. Но выздоровел и забыл о своем решении. Тогда во сне он увидел огненный столп над Зеленецкой пустыней, из него простертую руку, рассыпающую на землю огненные искры. Видение устрашило Иосифа, он пришел к преподобному с раскаянием и привез рожь. Но пустынник не имел жернова, не был в состоянии превратить ее в муку, а затем в хлеб, и попросил Иосифа продолжить свою милость — смолоть рожь и печь из муки хлебы, что тот и исполнил. Жестоко, многоболезненно было житие Мартирия в этой дикой и угрюмой пустыне. Однако ни дикость места и суровость холодных здесь испарений, ни лишения в самонужнейшем, ни дикие звери этой местности, ни козни врага не могли поколебать доблестного воина Христова, в котором не было ни робости, ни уныния. Ископав себе сперва малую ямину, а вскоре поставив и часовенку в прославление и благодарение Господа и Пресвятой Богородицы, Мартирий беспрерывным славословием стал оглашать и освящать пустыню, которая безжизненностью своей доселе пугала народ. Здесь он удостоился снова видеть во сне образ Богоматери. Ему представилось море, а на нем плавает икона Богоматери, подобная явившейся ему. Посмотрел он на правую сторону и увидел близ иконы Архангела со скипетром, как пишется Гавриил на иконе «Благовещения Пресвятой Богородицы». Архангел приглашает подвижника приложиться к образу, и он после колебаний вступил в воду. Образ стал тотчас погружаться в море и на поверхности осталась только ножка Спасителя. Преподобный взял ножку обеими руками и начал плакать со слезами: «Милостивый Светодавче, если и придется потонуть, пусть это будет с Тобою». И тот же час как бы некоторая буря перенесла образ через море, поставила подвижника на берегу, и образ скрылся.