При Василии присоединены к Москве последние удельные княжества и вечевой город Псков. С 1508 по 1509 г наместником в Пскове был князь Репня-Оболенский, которого псковичи недружелюбно встретили с самого его приезда, потому что он прибыл к ним не по обычаю, не будучи прошен и объявлен, духовенство не выходило к нему навстречу с крестным ходом, как всегда делалось. В 1509 г великий князь поехал в Новгород, куда Репня-Оболенский прислал жалобу на псковичей, а вслед за тем явились к Василию псковские бояре и посадники с жалобами на самого наместника. Великий князь отпустил жалобщиков и послал в Псков доверенных людей разобрать дело и помирить псковичей с наместником; но примирения не последовало. Тогда великий князь вызвал посадников и бояр в Новгород; однако не выслушал их, а велел всем жалобщикам собраться в Новгород к Крещенью, чтобы всех рассудить разом. Когда жалобщиков собралось весьма значительное число, то им сказали: «Пойманы вы Богом и великим князем Василием Иоанновичем всея Руси». Великий князь обещал им оказать милость, если они снимут вечевой колокол, чтобы вечу впредь не быть, а в Пскове и пригородах править только наместникам. Дьяк Третьяк-Далматов послан был в Псков, чтобы передать псковичам волю великого князя. 19 января 1510 г. сняли вечевой колокол у Святой Троицы. 24 января в Псков приехал Василий. Бояре, посадники и житые люди, триста семей, высланы в Москву, а в Пскове введены московские порядки.
Василий домогался избрания в великие князья литовские. Когда в 1506 г., умер его зять Александр, то Василий писал к сестре своей Елене, вдове Александра, чтобы она уговорила панов выбрать его в великие князья, обещая не стеснять католической веры, о том же он наказывал через послов князю Войтеху, епископу Виленскому, пану Николаю Радзивиллу и всей раде; но Александр уже назначил себе преемника, брата своего Сигизмунда.
Не получив литовского престола, Василий задумал воспользоваться смутой, которая по смерти Александра возникла между литовскими панами. Виновником этой смуты был князь Михаил Глинский, потомок татарского мурзы, выехавшего в Литву при Витовте. Михаил Глинский, любимец Александра, был человек образованный, много путешествовавший по Европе, отличный полководец, особенно прославившийся победой над крымским ханом; при образовании и военной славе ему придавало значение и его богатство, ибо он был богаче всех литовских панов - почти половина Литовского княжества принадлежала ему. Князь пользовался громадным влиянием среди русского населения великого княжества, а потому литовские паны боялись, что он овладеет престолом и перенесёт столицу в Русь. Сигизмунд имел неосторожность оскорбить этого сильного человека, чем и воспользовался Василий, предложив Глинскому перейти к нему на службу.
Переход Глинского к московскому великому князю вызвал войну с Литвой. Сначала эта война ознаменовалась большой удачей. 1 августа 1514 г. Василий, при содействии Глинского, взял Смоленск, но 8 сентября того же года московские полки были разбиты князем Острожским при Орше. После поражения при Орше война, тянувшаяся до 1522 г., не представляла ничего замечательного. При посредстве императора Максимилиана! мирные переговоры начались ещё в 1517 г. Представителем императора был барон Герберштейн, оставивший записки о Московском государстве - лучшее из иностранных сочинений о России. При всём дипломатическом искусстве Герберштейна переговоры были вскоре прерваны, ибо Сигизмунд требовал возвращения Смоленска; а Василий со своей стороны настаивал, чтобы не только Смоленск остался за Россией, но чтобы возвращены были России Киев, Витебск, Полоцк и другие города, принадлежавшие князьям от племени св. Владимира. При таких притязаниях противников только в 1522 г. заключено было перемирие. Смоленск остался за Москвою. Перемирие это подтверждено в 1526 г. при посредстве того же Герберштейна, вторично приехавшего в Москву послом от Карла V.
В продолжение войны с Литвой Василий покончил с последними уделами: Рязанью и Северскими княжествами. Рязанский князь Иван, говорили в Москве, задумал возвратить самостоятельность своему княжеству при помощи крымского хана Махмет-Гирея, на дочери которого он намерен был жениться. Василий позвал князя Ивана в Москву, где засадил под стражу, а мать его, Агриппину, заключил в монастырь. Рязань была присоединена к Москве; рязанцев же целыми толпами переселили в московские волости. В Северской земле было два князя: Василий Иванович, внук Шемяки, князь новгород-северский, и Василий Семёнович, князь стародубский, внук Ивана Можайского. Оба эти князя постоянно доносили друг на друга; Василий допустил Шемячича изгнать стародубского князя из его владения, которое присоединено было к Москве, а через несколько лет заключил и Шемячича под стражу, удел же его в 1523 г. также присоединён был к Москве. Ещё ранее присоединён был Волоцкий удел, где последний князь, Фёдор Борисович, умер бездетным.