Через несколько месяцев умер бездетным четвертый брат - Андрей Меньшой, остававшийся на стороне старшего брата во время восстания средних; задолжав великому князю 30000 рублей за ордынские выходы, Андрей отказал ему весь свой удел, остальным же двум братьям дал только по селу. На этот раз Андрей Большой и Борис не могли выставить никаких требований; завещание собственника должно было иметь полную силу.
Гораздо больше влияния на отношения между старшим и младшими братьями имела смерть матери их, последовавшая в 1484 году, ибо этим событием разрывался самый крепкий узел между князьями: мы знаем, какую сильную защитницу имел Андрей Большой в матери, горячо его любившей. В 1486 году великий князь уже счел нужным заключить с братьями новые договоры, в которых они обязались не вступаться в принадлежавшие великому князю волости умерших братьев - Юрия и Андрея Меньшого, ни в удел Верейский, ни в области Новгородскую и Псковскую, ни в примысл великого князя - Тверь и Кашин; также не сноситься ни с Казимиром, ни с изгнанным великим князем тверским, ни с князьями или панами литовскими, ни с Новгородом, ни с Псковом. Обстоятельства заставляли предугадывать печальную развязку: Андрей боялся и видел в бегстве единственное средство спасения. В 1488 году боярин Андреев Образец объявил своему князю, бывшему тогда в Москве, что старший брат хочет схватить его. Андрей испугался, хотел уже тайно бежать из Москвы, но потом одумался и послал к могущественному тогда вельможе, князю Ивану Юрьевичу Патрикееву, с просьбой, чтоб тот доведался у великого князя, за что он хочет схватить его. Но Патрикеев отказался от этого опасного поручения; тогда Андрей сам пошел к старшему брату и рассказал ему все; Иоанн поклялся ему небом и землею и богом сильным, творцом всея твари, что у него и в мыслях не бывало ничего подобного. Начали искать, откуда пошел слух; оказалось, что великокняжеский сын боярский, Мунт Татищев, в шутку сказал об этом Образцу, а тот поверил и сказал князю Андрею, желая прислужиться, потому что прежде князь держал его в немилости. Татищеву Иоанн велел дать торговую казнь, хотел велеть даже отрезать ему язык, но митрополит упросил не делать этого. Для нас любопытно, впрочем, здесь то, что подобное известие уже могло быть тогда содержанием шутки и шутку могли принимать за правду. Года через два после этого (1491) Иоанн, узнав, что на союзника его, крымского хана Менгли-Гирея, идут татары с востока, выслал свои полки к нему на помощь; велел и братьям отправить также своих воевод, на что имел полное право по договорным грамотам. Борис послал свои полки вместе с великокняжескими, но Андрей не послал. Это было в мае, в сентябре Андрей приехал в Москву и был принят вечером очень почетно и ласково старшим братом. На другой день явился к нему посол с приглашением на обед к великому князю; Андрей поехал немедленно, чтоб ударить челом за честь; Иоанн принял его в комнате, называвшейся западней, посидел с ним, поговорил немного и вышел в другую комнату, повалушу, приказавши Андрею подождать, а боярам его идти в столовую гридню, но как скоро вошли туда, так были схвачены и разведены по разным местам. В то же время в западню к Андрею вошел князь Семен Ряполовский с многими другими князьями и боярами и, обливаясь слезами, едва мог промолвить Андрею: "Государь князь Андрей Васильевич! Пойман ты богом да государем великим князем Иваном Васильевичем всея Руси, братом твоим старшим". Андрей встал и отвечал: "Волен бог да государь, брат мой старший, князь великий Иван Васильевич; а суд мне с ним перед богом, что берет меня неповинно". С первого часа дня до вечерен сидел Андрей во дворце; потом свели его на казенный двор и приставили стражу из многих князей и бояр. В то же время послали в Углич схватить сыновей Андреевых, Ивана и Димитрия, которых посадили в железах в Переяславле, дочерей не тронули.
Есть известие, что Иоанн так отвечал митрополиту, когда тот просил его об освобождении Андрея: "Жаль мне очень брата, и я не хочу погубить его, а на себя положить упрек; но освободить его не могу, потому что не раз замышлял он на меня зло; потом каялся, а теперь опять начал зло замышлять и людей моих к себе притягивать. Да это бы еще ничего; но когда я умру, то он будет искать великого княжения под внуком моим, и если сам не добудет, то смутит детей моих, и станут они воевать друг с другом, а татары будут Русскую землю губить, жечь и пленить и дань опять наложат, и кровь христианская опять будет литься, как прежде, и все мои труды останутся напрасны, и вы будете рабами татар". Андрей умер в конце 1494 года; есть известие, что Иоанн, узнав о смерти брата, приносил слезное покаяние духовенству, которое не скоро простило его, но это известие заподозривается тем, что сыновья Андреевы оставались в заключении, следовательно, Иоанн не раскаивался в своей мере.
Бориса Волоцкого не тронули, он также скоро умер, оставя удел двоим сыновьям - Феодору и Ивану. В 1497 году они били челом великому князю чрез митрополита Симона о вымене их сел, рассеянных в областях великокняжеских и доставшихся их отцу от прабабушки Марии Голтяевой, на тверские волости, ближайшие к их уделу, именно Буйгород и Колпь. В конце 1503 года меньшой из волоцких князей, Иван, умер; в духовной своей он завещает брату несколько сел, а удел свой - Рузу и половину Ржева, равно как служивую рухлядь, доспехи и коней, передает великому князю, которого называет Государем.
Так восстания удельных князей, имевшие следствием кровавые явления в правление Темного, при сыне его благодаря окончательным распоряжениям отца кончились одним страхом для московского народонаселения и грабежом некоторых пограничных волостей. Истощенная Орда, не могший справиться с собственными или ближайшими, по его мнению, делами на западе Казимир, трепетавший в предсмертных движениях Новгород не могли дать удельным князьям продолжительной опоры; страх, и то страх мнимый, пред могуществом Ахмата заставил Иоанна уступить Андрею Можайск, но эта уступка была последняя и ненадолго. Не знаем, на сколько мы должны верить приведенному выше известию, будто Иоанн оправдывал заключение брата опасением, что Андрей по смерти его станет ссорить внука его и сыновей: действительно, отношения в самой семье великокняжеской, как они были одно время, могли подать удельным князьям надежду более крепкую, чем подавали им прежде Орда, Литва и Новгород.
Мы видели, что Иоанн еще в очень молодых летах, при жизни отцовской, по обстоятельствам политическим женился на Марии Борисовне, дочери великого князя тверского. Иоанн недолго жил с ней: в 1467 году Мария скончалась; тело ее так распухло, что покров, который прежде был велик, висел по краям, теперь уже не мог прикрывать покойницы; начали толковать, что княгиня была отравлена; дознались, что одна из женщин ее, Наталья, жена Алексея Полуехтова, посылала пояс к ворожее; великий князь рассердился и на мужа, и на жену и шесть лет потом не пускал Полуехтова к себе на глаза. От этой первой жены Иоанн имел сына, именем также Иоанна, для отличия называемого Молодым, которого по примеру отцовскому назвал великим князем, чтоб отнять у братьев предлог к предъявлению старых прав старшинства пред племянником, и вследствие этого мы видели, что грамоты писались от имени двоих великих князей, посольства отправлялись также к двоим, и ответ на них давали от двоих. Но не прошло еще двух лет по смерти Марии, как началось знаменитое сватовство великого князя на царевне греческой. После падения Византии брат павшего на ее стенах императора Константина, Фома Палеолог, нашел с семейством убежище в Риме; после него осталось здесь двое сыновей и дочь София; эту-то дочь папа Павел II через известного кардинала Виссариона, одного из греческих митрополитов, подписавших Флорентийское соединение, и предложил в супружество московскому великому князю, без сомнения желая воспользоваться случаем завязать сношения с Москвою и утвердить здесь свою власть посредством Софии, которую по самому воспитанию ее не мог подозревать в отчуждении от католицизма. В феврале 1469 года грек Юрий приехал к великому князю с письмом от Виссариона, в котором кардинал предлагал Иоанну руку греческой царевны, отказавшей будто бы из преданности к отцовской вере двум женихам - королю французскому и герцогу медиоланскому. Великий князь взял эти слова в мысль, говорит летописец, и, подумавши с митрополитом, матерью, боярами, в следующем же месяце отправил в Рим своего посла, выезжего италианца, монетного мастера Ивана Фрязина. Фрязин возвратился с порретом царевны и с пропускными (опасными) грамотами от папы для проезда послов московских с Софией по всем землям католическим. Тот же Фрязин отправился опять в Рим представлять лицо жениха при обручении. Папе хотелось выдать Софию за московского князя, восстановить Флорентийское соединение, приобресть могущественного союзника против страшных турок, и потому ему легко и приятно было верить всему, что ни говорил посол московский; а Фрязин, отказавшийся от латинства в Москве, но равнодушный к различию исповеданий, рассказывал то, чего не было, обещал то, чего быть не могло, лишь бы уладить поскорее дело, желанное и в Москве не менее, чем в Риме.