По смерти своего учителя, преподобного Пафнутия, игуменом монастыря стал преподобный Иосиф. Он хотел ввести более строгий устав, который для братии оказался непосильным. Тогда Иосиф оставил Боровскую обитель и решил основать новую, со строгим уставом, на безлюдном и нетронутом месте. Место такое вскоре нашлось недалеко от прежней родовой отчины подвижника в Волоколамском княжестве. Князь Волоколамский Борис Васильевич, родной брат государя Иоанна III, благоволил к святому и стал покровителем нового монастыря. Вот как описывает устройство этой обители церковный историк М. В. Толстой:
"По правилу преподобного Иосифа, у братии должно быть все общее: одежда, обувь, пища, питие; никто из братии без благословения настоятеля не мог взять в келью ни малейшей вещи; не должен был ничего ни есть, ни пить отдельно от других; хмельные напитки не только не позволялось держать в монастыре, но запрещалось привозить приезжающим и в гостиницу. К божественной службе должно было являться по первому благовесту и занимать в храме определенное для каждого место; переходить с места на место или разговаривать во время службы запрещалось. После литургии все должны были идти в трапезную, вкушать пищу безмолвно и внимать чтению. В свободное от службы время братия должны были участвовать в общих работах или, сидя по кельям, заниматься рукоделием. После повечерия не позволялось останавливаться в монастыре или сходиться, но каждый должен был идти в свою келью и с наступлением вечера исповедоваться отцу своему духовному – в чем кто согрешил в течение дня. Женщинам и детям запрещен был вход в монастырь, а братии – всякая беседа с ними. Без благословения никто не мог выходить за ворота. Для управления монастырем был совет из старцев.
Под руководством преподобного Иосифа братия усердно подвизалась на поприще иноческой жизни. Все время было посвящено или молитве, или трудам телесным. Пища была самая простая, все носили худые одежды, обувь из лыка, терпели зной и холод с благодушием; не было между ними смеха и празднословия, но видны были постоянные слезы сокрушения сердечного. В кельях своих братия ничего не имели, кроме икон, книг божественных и худых риз, а потому у дверей келий и не было запоров. Кроме обыкновенного правила монашеского, иной полагал еще по тысяче, другой и по две и по три тысячи поклонов в день. Для большего самоумервщления иной носил железную броню, другой – тяжелые вериги, третий – острую власяницу. Большая часть ночи проходила в молитве. Сну предавались на короткое время, иной стоя, иной сидя. И все такие подвиги предпринимались не самовольно, но с благословения настоятеля. Таким образом послушание освящало их, а любовь увенчивала. Каждый готов был помочь душевным и телесным нуждам своего брата. Знаменитость происхождения, мирская слава и богатство за вратами были забываемы. Приходил ли в монастырь нищий или богач, они равны были: на каждого возлагались одинаковые труды, и почесть отдаваема была только тем, которые более подвизались и преуспевали на поприще иноческих подвигов.
Сам Иосиф во всем был примером для братии. Прежде всех приходил он в храм Божий, пел и читал на клиросе, говорил поучения и после всех выходил из храма. Была ли общая работа для братии, он спешил и здесь предварить всех, трудился, как, последний из братии; носил такую убогую одежду, что часто его не узнавали, изнурял себя постом и бдением, вкушая пищу большей частью через день и проводя ночи в молитве. Но не видали его никогда дряхлым или изнемогающим; всегда лицо его было светло, отражая душевную чистоту. С любовью помогал он братии во всех их нуждах; особенное внимание обращал на душевное состояние каждого, подавал мудрые советы и силу слова подкреплял усердной молитвой к Богу о спасении вверенных ему душ. Когда кто из братий боялся или стыдился открывать ему свои помыслы, опытный старец, провидя внутренние помышления, сам заводил беседу о них и подавал нужные советы. Ночью тайно обходил он кельи, чтобы видеть, кто чем занимается, и если слышал где разговор после повечерия, то ударял в окно, показывая свой надзор. Во время одного из таких обозрений заметил он, что кто-то крадет жито из монастырской житницы. Увидя Иосифа, вор хотел бежать, но Иосиф остановил его, сам насыпал ему мешок жита и отпустил с миром, обещая впредь снабжать его хлебом.