Т-35 никоим образом не соответствовал новым требованиям, предъявляемым к бронированию тяжелых танков. Дальнейшее увеличение толщины брони этого гиганта доводило его вес до запредельной величины, поэтому весной 1938 года ХПЗ, на котором велось изготовление Т-35, было поручено разработать проект нового тяжелого танка. Но уже упоминавшиеся ограниченные возможности харьковского КБ и его перегруженность работой над средними танками заставили подключить к выполнению этого задания конструкторов ленинградских заводов — Кировского и № 185 имени С. М. Кирова.
Харьковчане так и не сумели предложить ничего реального, поэтому ленинградцы соперничали только друг с другом. Вначале требования военных предусматривали три башни, потом для сохранения массы и габаритов танка в разумных пределах их число сократили до двух. Неожиданно в конкурс вмешался третий танк, однобашенный. Его эскизный проект разработали в качестве своей дипломной работы выпускники ВАММ, первоначально прибывшие на Кировский завод в учебных целях. Их замысел оказался настолько удачен, что завоевал себе путевку в жизнь. На его основе были разработаны рабочие чертежи, а 31 августа 1939 года закончена постройка первого экземпляра нового танка, названного в честь тогдашнего наркома обороны КВ («Клим Ворошилов»).
Однобашенная компоновка позволила существенно уменьшить размеры и вес танка по сравнению с его двухбашенными конкурентами, которых он к тому же заметно превосходил в бронировании. КВ был защищен со всех сторон 75-мм броней, которая делала его непробиваемым для всех противотанковых и танковых пушек того времени. Его подвеска была индивидуальной торсионной, что снизило ее уязвимость и улучшило плавность хода.
Еще до окончания заводских испытаний танк попал на фронт. Вместе с опытными образцами двухбашенных тяжелых танков СМК («Сергей Миронович Киров») и Т-100 его послали на проверку огнем в ходе «Зимней войны» с Финляндией. В первом же бою 18 декабря 1939 года КВ получил 9 попаданий 37-мм бронебойных снарядов, которые нанесли ему только поверхностные повреждения. Самым серьезным из них была большая вмятина на стволе пушки. Танк не только не вышел из строя, но и сумел под огнем вытащить с поля боя подбитый Т-28. Назавтра об этом доложили в Москву, и вечером того же дня постановлением Комитета Обороны КВ был принят на вооружение РККА. Его производство развернулось на ЛКЗ вместо Т-28.
Поспешность с проектированием и принятием КВ на вооружение без соответствующих испытаний и доводок привела к тому, что танк имел множество «детских болезней». Особенно ненадежно работали его двигатель и трансмиссия, система охлаждения, воздушный фильтр и механизм поворота башни. Для решения всех этих проблем требовалось замедлить его выпуск, но пойти на это никто не решался. В условиях острой нехватки тяжелых танков для оснащения новых мехкорпусов на их низкое качество приходилось смотреть сквозь пальцы. К тому же в начале осени 1941 года КВ-1 планировалось заменить в производстве на гораздо более мощный КВ-3, поэтому все работы по его улучшению за месяц до начала войны были свернуты. Всего за довоенный период было выпущено 424 танка КВ-1, 25 из них построил Челябинский тракторный завод, который еще с осени 1940 года начали готовить на роль дублера ленинградцев.
Тяжелые и кровопролитные бои во время многочисленных бесплодных попыток штурма линии Маннергейма зимой 1939–1940 годов заставили советское командование срочно искать новые средства прорыва обороны. Для уничтожения ДОТов лучше всего подходили тяжелые орудия, бьющие по ним прямой наводкой. Но доставить их на достаточно близкую к ДОТу дистанцию зачастую очень не просто, а орудийные расчеты при этом несут большие потери от огня противника. Поэтому естественным решением было оснастить неуязвимый по тем временам танк КВ мощным 152-мм орудием. Именно о таком танке писал Д. Г. Павлов в приведенном выше письме в январе 1938 года.
Работы по вооружению КВ 122-мм гаубицей начались еще до начала Финской войны, в сентябре 1939 года, но по требованиям военных ее заменили на 152-мм, для которой имелся бетонобойный снаряд. До окончания войны 4 танка КВ были спешно оснащены таким орудием и немедленно отправлены на фронт. Однако линия Маннергейма к тому времени была уже прорвана, и этим танкам представилась возможность пострелять только по брошенным финским ДОТам. Воевать им довелось с обычными полевыми укреплениями финнов. Испытания танков начались уже после окончания боевых действий. Вначале их называли «КВ с большой башней», а обычный КВ, вооруженный 76-мм пушкой, именовали «КВ с малой башней». В 1941 году первому присвоили индекс КВ-2, а второму — КВ-1. КВ-2 имел те же самые недостатки, что и его предшественник, но они были усугублены его большим весом, поэтому он имел худшую проходимость и надежность. До войны были построены 213 этих танков, причем все — на Л КЗ.