С конца 1929 г. истребитель И-3 начал поступать на вооружение частей Московского, Белорусского, Киевского военных. кругов, а с 1930 г. он стал основным истребителем ВВС СССР. По состоянию на 1 января 1931 г. в составе ВВС РККА насчитывалось 258 исправных истребителей И-3, 21 неисправный, всего 279 машин. В начале 1932 г. на вооружении ВВС находилось 297 самолетов данного типа. В эксплуатации И-3 зарекомендовал себя как прочный, надежный истребитель. Срок военной службы самолета оказался недолгим, и в конце 1934 г. последовал приказ о снятии его со снабжения ВВС РККА. Некоторое количество И-3 использовалось затем в летных школах.
В авиации ВМФ И-3 практически не использовался, так как там основным истребителем являлся И-4.
И-3 послужил основой для создания ряда модификаций.
Еще до завершения постройки первого опытного экземпляра в конце 1927 г. руководство ВВС выразило пожелание рассмотреть вопрос о возможности установки под нижним крылом И-3 двух дополнительных пулеметов. Указание УВВС завод № 25 выполнил в 1928 г. на одном из первых экземпляров И-3. Пулеметные установки были пристреляны в тире, после чего машину предъявили НТК. Однако серийно этот вариант УВВС решило не строить.
После окончания испытаний опытного экземпляра И-3 Авиатрест выдал задание на разработку на его основе морского поплавкового истребителя МИ3-БМВ6. В плане работ КБ завода № 25 на 1928/29 операционный год предписывалось начать его проектирование с 1 октября 1928 г. Затем последовал неизбежный процесс оформления задания, согласования технических характеристик. Было принято решение использовать на самолете мотор М -17. 9 мая 1929 г. в письме в Авиатрест за номером 761 Николай Николаевич в числе успешно выполняемых плановых работ отметил «И-3 на поплавках», т. е. МИ3-М17. Тем не менее проектирование проводилось медленными темпами минимальным числом конструкторов. Поликарпов, занимаясь созданием нового семейства перспективных истребителей, не считал это задание достаточно приоритетным. Все же к сентябрю 1929 г. предварительный эскизный проект был завершен. После отстранения Николая Николаевича от активной конструкторской деятельности в октябре 1929 г. все работы над ним прекратились.
Появление других модификаций И-3 было связано с попытками установить на него более мощные моторы.
Наиболее быстро и просто реализуемой оказалась идея замены мотора БМВ-VI (500/600 л.с.) на БМВ-VIZ мощностью 500/730 л.с. с картером из электрона. Истребитель И-3 с ним был построен и испытан. Вес пустого самолета увеличился до 1387,5 кг, а взлетный — до 1832 к г.
На заводских испытаниях в отдельных полетах истребитель развивал у земли скорость до 300 км/ч, а высоту 5000 м набирал за 10 минут. На испытаниях в НИИ зафиксированы следующие характеристики: максимальная скорость у земли 290 км/ч, 275 км/ч — на высоте 3000 м, высоту 5000 м самолет набирал за 12,3 мин. Практический потолок по сравнению с «классическим» И-3 уменьшился на 160 м.
Пилотажные характеристики также улучшились. Особенно это касалось штопорных свойств самолета. В отчете о летных испытаниях И-3 с двигателем БМВ-VIZ, которые проходили в 1929 г., в частности, говорилось: «…Правый и левый штопор получаются только при вводе с виража при полной потере скорости. Штопор крутой, нормальный. При малейшем отпускании ручки вправо или от себя самолет переходит в крутую спираль».
Продолжения эта работа не имела. Двигателей БМВ-VIZ было закуплено мало, постройка по лицензии не предполагалась, но опыт изучения его конструкции оказался полезным при создании форсированного мотора М-17Ф с увеличенной до 730 л.с. мощностью на взлетном режиме.
Поликарпов понимал, что от схемы можно взять гораздо больше и с установкой более мощного, но одновременно и легкого двигателя характеристики, несомненно, повысятся. Еще при разработке эскизного проекта он считал более подходящими двигателями для И-3 моторы «Испано-Сюи-за» 600 л.с. и «Нэпир» 550 л.с. Но за границей эти двигатели закупить не удалось. Отечественное моторостроение в то время находилось на этапе становления. Лишь после начала переговоров о поставках в СССР американских двигателей «Паккард» 2А-1500 мощностью 600 л.с. ситуация, казалось, сдвинулась с мертвой точки. В конце 1928 г. в планы работ КБ завода № 25 был вписан пункт о проектировании варианта И-3 с этим двигателем. Дальше предварительных прорисовок дело не пошло, так как завод № 25 не получил ни одного экземпляра мотора данного типа.
В 1930 г. И-3 хотели оснастить новым мотором М-34, но уже в конце того же года руководством ВВС было принято решение о прекращении выпуска И-3, поэтому разработка варианта И-3 с М-34 так и не была завершена.