В 1515 году московский великий князь Василий Иванович задумал перевести на русский язык греческие книги, бывшие в великокняжеской библиотеке. Великий князь был наслышан, что на Афоне есть ученый монах и искусный переводчик — старец Савва, и обратился к настоятелю Афонского монастыря с просьбой отпустить Савву на Русь. Однако Савва был уже очень стар и, убоявшись дальнего пути, отказался. Тогда братия решила отправить на Русь Максима, обладавшего обширными познаниями и блестящими способностями. Хотя Максим не знал русского языка, монахи в послании к великому князю выражали полную уверенность, что он «русскому языку борзо навыкнет».
Максим Грек прибыл в Москву в марте 1518 года. Великий князь и митрополит приняли его с большим почетом, приезжего поселили в кремлевском Чудове монастыре близ царского дворца и назначили хорошее содержание от казны. Приезд ученого грека, которому предстояла большая и серьезная работа, стал важным событием в культурной жизни Москвы. Иван Федоров был в то время ребенком, но и он мог услышать от кого-нибудь и запомнить имя Максима Грека.
Когда Максим познакомился с книжным собранием великого князя, то был поражен обилием редких греческих книг, которых он не видел даже в самой Греции. Максим составил список книг, не переведенных на русский язык, и приступил к переводу первой из них — Псалтыри. Но поскольку русского языка он еще не знал, в помощь ему были даны двое толмачей из Посольского приказа — Дмитрий Герасимов и Влас Игнатов. Максим Грек переводил с греческого языка на латынь, толмачи — с латыни на славянский. Переписывали перевод набело писцы Михаил Медоварцев и монах Троице-Сергиева монастыря Силуан. Дмитрий Герасимов в письме приятелю так описывает их совместную работу: «Максим Грек переводит Псалтырь с греческого <…>, а мы с Власом у него сидим переменяясь: он сказывает по латыни, а мы сказываем по-русски писарям».
Псалтырь была переведена за год и пять месяцев и представлена великому князю и митрополиту, которые торжественно одобрили перевод. Максим Грек, получивший за работу «сугубую мзду» от князя, продолжал трудиться над переводами.
К тому времени он уже в совершенстве освоил русский язык, великий князь поручил ему сверить с греческими оригиналами существующие переводы целого ряда богослужебных книг — Триоди, Часослова, праздничной Минеи, «Апостола». Ученому монаху сразу бросились в глаза многочисленные ошибки, допущенные прежними переводчиками и переписчиками, и он рьяно принялся за их исправление. «Ины богодуховные книги овых убо переведох, овых же исправив много перепорченных бывших от переписующих», — рассказывал он впоследствии. Однако сама мысль об исправлении текстов, долгое время считавшихся каноническими, у многих вызывала недоумение и неодобрение. Даже помощник Максима Грека, Михаил Медоварцев, признавался, что, когда он вносил в книги поправки, его «дрожь великая объяла, и ужас напал». Многие представители церкви обвиняли Максима Грека в том, что он «портит» древние книги, по которым «спаслись Святые Отцы Российские». Началась жаркая полемика между книжными людьми. Максима Грека поддержали нестяжатели. Вассиан Косой писал: «а до Максима мы по тем книгам Бога хулили, а не славили, не молили, а ныне мы Бога познали Максимом и его учением».
Не только по вопросу о богослужебных книгах разошелся Максим Грек со значительной частью русского духовенства. Человек строгих нравственных правил, Максим Грек открыто осуждал образ жизни многих духовных лиц и монахов. Невежество, лихоимство, распутство, суеверия вызывали у него искреннее негодование. В полемике между нестяжателями и иосифлянами Максим Грек безоговорочно принял сторону нестяжателей. Единомышленники Максима Грека стали видеть в нем учителя, преклоняясь перед его нравственным и научным авторитетом, иосифляне же видели в нем опасного противника.
Однако покровительство митрополита и великого князя служило Максиму надежной защитой, и до поры до времени он продолжал спокойно жить и работать.