Обрадованное таким превращением революционера тюремное начальство даже предлагало Ювачеву постричься в монахи, однако он ответил отказом, ссылаясь на то, что не считает себя достойным этой стези.
Весной 1887 года Ивана Павловича отправляют в Москву, а оттуда в Одессу. Летом в трюме парохода «Нижний Новгород» его везут для отбывания каторги на остров Сахалин, куда он прибывает в сентябре.
Надо сказать, что, хотя по приговору ему были определены каторжные работы, на Сахалине каторги как таковой не существовало. Сахалин стал местом отбывания наказания каторжных всего 12 лет назад, по закону 1875 года, — и был фактически территорией ссылки, поскольку никаких тяжелых работ на острове не имелось. Сразу же, в сентябре 1887 года, Ювачева определили в селение Рыковское, где он сначала был плотником, а затем — с 1888 года — фактическим заведующим метеостанцией. В этом качестве он занимался обследованием берегов Татарского пролива, составил морскую карту западного берега Сахалина. Именно в Рыковском Ювачев встретился с прибывшим на Сахалин А. П. Чеховым. Впоследствии в десятой главе книги «Остров Сахалин» Чехов напишет о нем теплые строки: «В Рыковском есть школа, телеграф, больница и метеорологическая станция имени М. Н. Галкина-Враского, которою неофициально заведует привилегированный ссыльный, бывший мичман, человек замечательно трудолюбивый и добрый; он исправляет еще также должность церковного старосты». Ювачев имел возможность публиковать свои метеорологические наблюдения; так, к примеру, был издан «Краткий обзор погоды в селении Рыковском на острове Сахалине в 1894 г.», а в таганрогском музее Чехова имеется работа «Свод метеорологических наблюдений в сел. Рыковское на о. Сахалине» (1894) с дарственной надписью: «Многоуважаемому автору книги „Остров Сахалин“ Антону Павловичу Чехову от Ив. П. Ювачева». В 1893 году Чехов сделал Ювачева прототипом революционера — героя своего «Рассказа неизвестного человека».
Надо сказать, что обычно ссыльнокаторжным не разрешали встречаться с людьми, приезжавшими на Сахалин из столиц, но для Ювачева было сделано исключение из-за его «примерного поведения», которым он отличался еще в Шлиссельбурге. По этой же причине ему разрешили работать по специальности. В конце концов, «каторжная» жизнь Ювачева на острове сложилась так, что в 1891 году он стал капитаном первого сахалинского парохода «Князь Шаховской», на котором также проводил научные изыскания.
Там же, на Сахалине, Ювачев влюбился в Марию Антоновну Кржижевскую, приехавшую добровольно работать на остров и желавшую «умереть с каторжными». Она работала акушеркой и фельдшерицей, а затем стала официальной заведующей метеорологической станцией, на которой Ювачев работал. «Мне кажется, я любил ее и любил искренно, даже страстно», — записал он вскоре после того, как она скончалась от чахотки.
В 1895 году ему разрешили уехать с острова — это был первый случай освобождения с Сахалина политического заключенного. Ювачев переезжает во Владивосток, где живет два года. В 1897 году он возвращается в Европейскую Россию, живет сначала в Любани, затем получает разрешение переехать в Санкт-Петербург. В 1899 году ему окончательно возвращают все гражданские права.
С 1897 года Ювачев начал сотрудничать в журнале «Исторический вестник». В первых семи книгах этого журнала за 1900 год публикуются его воспоминания «Восемь лет на Сахалине» (в 1901 году книга вышла отдельным изданием). Побывал он и в паломничестве в Палестине, очерки о котором публикуются в «Историческом вестнике» в 1902 году (отдельное издание — 1904 год). За свои научные труды И. П. Ювачев был избран членом-корреспондентом Главной физической обсерватории Академии наук.
И. П. Ювачев был человеком чрезвычайно интересным, притягивавшим к себе людей. В январе 1901 года, когда он находился в Ташкенте, с ним познакомился путешествующий Максимилиан Волошин. Восхищенный личностью Ювачева, Волошин 17 января пишет матери: «Он какой-то совсем удивительный человек — примиренный, ровный — в типе Достоевского и религиозный. Статьи его очень стоит прочесть. Он тут тоже „техником“ и на изысканиях. Мы с ним видимся почти каждый день и ведем бесконечные разговоры». 4 февраля он снова пишет матери о Ювачеве: «Я приеду с Ювачевым и он остановится на несколько дней в Москве, и я вас тогда непременно познакомлю с ним. Он удивительно интересный и удивительно хороший человек. В нем какая-то удивительная уравновешенность и примиренность, которая особенно поражает после его рассказов о тех ужасах, которые он переиспытал за 4 года в Шлиссельбурге и за 8 лет на каторге. Положим, он сам не любит это говорить и говорит очень редко об этом. Он глубоко религиозен, до экстаза, но и это в нем как-то очень уравновешенно и не поражает. Вообще это очень интересный и симпатичный человек во всех отношениях, и мне ужасно интересно, какое впечатление произведет он на вас».