И поначалу московские власти не спешили их разочаровывать. К Ивану перешли князья Трубецкие – Андрей, Иван, Федор Семеновичи и Иван Юрьевич с сыном Семеном. Вся эта компания потомков Гедемина к 1499 г. совместно владела небольшим городком Трубчевском. Им он был и оставлен до конца XVI века. От них пошел род князей Трубецких.
Меньше повезло Василию Шемячичу. Он несколько лет верой и правдой служил Ивану III, а затем Василию III. Шемячич проявил себя талантливым полководцем и участвовал во многих походах на Литву и крымских татар. Но московским великим князьям не нужны были сильные князья – вассалы, а только холопы. И вот в 1522 г. Василий III вызывает Василия Шемячича в Москву. Тот, видимо, заподозрил неладное и попросил охранную грамоту, скрепленную «клятвою государя и митрополита». Митрополит Варлаам не согласился пойти на клятвопреступление и в конце 1521 г. оставил митрополичий престол. Его место занял более податливый Даниил, который согласился дать «крестоцеловальную запись» с тем, чтобы выманить «запазушного врага» в столицу.
18 апреля 1523 г. Шемячич прибыл в Москву, с почетом был принят Василием III, но вскоре был схвачен и брошен в тюрьму. По мнению посла германского императора Герберштейна, один Шемячич оставался на Руси крупным властителем, и «чтобы тем легче изгнать его и безопаснее властвовать, выдумано было обвинение в вероломстве, которое должно было устранить его». Сын Василия Шемячича Иван, жена и двое дочерей были насильно пострижены в монахи и сосланы в Каргополь, сам Василий умер в заточении 10 августа 1529 г.
Та же участь ждала Ивана Ивановича Белевского. Он стал известным московским воеводой, но в 30-х гг. XVI века был сослан в заточение в Вологду, а Белевский удел прекратил свое существование. Почти так же кончили и все остальные удельные князья.
Но, повторяю, князья, переходив к Ивану III, мечтали совсем о другом. Понятно, что литовский князь Александр не стал спокойно взирать на переход чуть ли не четверти своего княжества к Москве, и вновь началась война.
Основная часть московских войск шла под командованием служилого татарского хана Магмет-Аминя и воеводы Якова Захарьевича Кошкина. Эта рать заняла города Мценск, Серпейск, Мосальск, Брянск и Путивль. Князья северские Можайский и Шемячич были приведены к присяге Ивану III.
Сын Ивана III Дмитрий Жилка осадил Смоленск. Московское войско окружило город, вокруг были возведены осадные батареи, которые даже и ночью обстреливали Смоленск. Одновременно русские овладели Оршей.
На выручку Смоленску великий князь литовский Александр послал из Минска войско во главе с трокским старостой Станиславом Яновским. Литовцы форсировали Днепр и Оршу, и направились к Смоленску. Русские были вынуждены снять осаду с города и отойти без сражения.
15 июля 1502 г. Иван III отправил к Смоленску своего сына Дмитрия Ивановича. В августе москвичи осадили Смоленск и начал обстреливать его из осадных орудий. 16 сентября русские пошли на штурм, но были отбиты, при этом разорвалась большая пушка осаждающих. 17 сентября Дмитрию Ивановичу пришлось снять осаду и возвратиться в Москву, куда рать и прибыла 23 октября. В русской летописи об этом походе сказано коротко и неясно: «…землю Литовскую повоева и поплени, а града Смоленска не взял, понеже крепок бе».
25 марта 1503 г. в Москве был подписан русско-литовский «перемирный» договор, то есть перемирие сроком на шесть лет. Перемирная грамота была написана от имени великого князя Ивана, государя всея Руси, сына его великого князя Василия и остальных детей. Великий князь литовский Александр обязался не трогать земель московских, новгородских, псковских, рязанских, пронских, уступил землю князя Семена Стародубского (Можайского), Василия Шемячича, князя Семена Бельского, князей Трубецких и Мосальских, города Чернигов, Стародуб, Путивль, Рыльск, Новгород Северский, Гомель, Любеч, Почеп, Трубчевск, Радогощ, Брянск, Мценск, Любутск, Серпейск, Мосальск, Дорогобуж, Белую, Торопец, Острей, всего 19 городов, 70 волостей, 22 городища и 13 сел.
27 октября 1505 г. на 67-м году от рождения и на 44-м году княжения умер Иван III. Московский престол перешел к его сыну Василию III (1479–1533). Польский король и великий князь литовский Александр пережил своего тестя менее чем на год и умер в августе 1506 г. Его место на литовском престоле занял брат Сигизмунд, который с 24 января 1507 г. стал и королем Польши.