Звание генерал-майора Поляков получил в 1974 году. Это обеспечило ему доступ к материалам, выходящим за рамки его прямых обязанностей. Например, к перечню военных технологий, которые закупались или добывались разведывательным путем на Западе. По признанию помощника министра обороны США при президенте Рейгане Ричарда Перла, у него захватило дух, когда он узнал о существовании 5000 советских программ, использовавших западную технологию для наращивания военного потенциала. Перечень, представленный Поляковым, помог Перлу убедить президента Рейгана добиться ужесточения контроля над продажей военной технологии.
Работа Полякова в качестве агента ЦРУ отличалась дерзостью и фантастическим везением. В Москве он выкрал со склада ГРУ специальную самозасвечивающуюся фотопленку «Микрат 93 Щит», которую использовал для фотографирования секретных документов. Для передачи информации он украл поддельные полые камни, которые оставлял в определенных местах, где их подбирали оперативники ЦРУ. Чтобы дать сигнал о закладке тайника, Поляков, проезжая на общественном транспорте мимо посольства США в Москве, приводил в действие миниатюрный передатчик, спрятанный в кармане. Во время нахождения за границей Поляков предпочитал передавать информацию из рук в руки. После 1970 года ЦРУ, стремясь наиболее полно обеспечить безопасность Полякова, снабдило его специально сконструированным портативным импульсным передатчиком, с помощью которого можно было напечатать информацию, затем зашифровать и передать на приемное устройство в американское посольство за 2,6 секунды. Такие передачи Поляков вел из разных мест Москвы: от кафе «Ингури», магазина «Ванда», Краснопресненских бань, Центрального дома туриста, с улицы Чайковского и т.д.
К концу 1970-х годов сотрудники ЦРУ, по их словам, уже относились к Полякову скорее как к учителю, чем как к агенту и информатору. Они оставляли за ним выбор места и время встреч и закладки тайников. Впрочем, у них не было другого выбора, так как ошибок Поляков им не прощал. Так, в 1972 году американцы без согласия Полякова пригласили его на официальный прием в посольство США в Москве, что фактически поставило его под угрозу провала. Руководство ГРУ дало разрешение, и
Полякову пришлось туда идти. Во время приема ему тайно передали записку, которую он уничтожил не читая. Более того, он на длительный срок прекратил все контакты с ЦРУ, пока не убедился, что не попал под подозрение контрразведки КГБ.
В конце 70-х годов Полякова вновь направляют в Индию в качестве резидента ГРУ. Он находился там до июня 1980 года, когда его отозвали в Москву. Впрочем, это досрочное возвращение не было связано с возможными подозрениями против него. Просто очередная медицинская комиссия запретила работать ему в странах с жарким климатом. Однако американцы забеспокоились и предложили Полякову выехать в США. Но он отказался. По словам сотрудника ЦРУ в Дели, в ответ на пожелание приехать в Америку в случае опасности, где его ждут с распростертыми объятиями, Поляков ответил: «Не ждите меня. Я никогда не приеду в США. Я делаю это не для вас. Я делаю это для своей страны. Я родился русским и умру русским». А на вопрос, что его ждет в случае разоблачения, он ответил: «Братская могила»77.
Поляков как в воду смотрел. Его фантастической удаче и карьере агента ЦРУ пришел конец в 1985 году, когда в резидентуру ПГУ КГБ в Вашингтоне пришел кадровый сотрудник ЦРУ Олдрич Эймс и предложил свои услуги. Среди названных Эймсом сотрудников КГБ и ГРУ, работавших на ЦРУ, был и Поляков.
Арестовали Полякова в конце 1986 года. Во время обыска, произведенного на его квартире, на даче и в доме его матери были обнаружены вещественные доказательства его шпионской деятельности. Среди них: листы тайнописной копирки, изготовленные типографским способом и вделанные в конверты для грампластинок, шифроблокноты, закамуфлированные в обложку дорожного несессера, две приставки к малогабаритному фотоаппарату «Тессина» для вертикальной и горизонтальной съемки, несколько катушек фотопленки «Кодак», рассчитанной на специальное проявление, шариковая ручка, головка зажима которой предназначалась для нанесения тайнописного текста, а также негативы с условиями связи с сотрудниками ЦРУ в Москве и инструкции по контактам с ними за рубежом.