Проектирование Ту-144 Андрей Николаевич решил поручить отделению «К», занимавшемуся до этого беспилотной техникой и имевшему достаточный опыт в области освоения длительного полета со скоростями, превышающими 2M (ударный беспилотный самолет Ту-121, беспилотные самолеты-разведчики — серийный Ту-123 и опытный Ту-139). Главным конструктором и руководителем работ по теме Ту-144, при активной поддержке министра обороны Д. Ф. Устинова и министра авиационной промышленности П. В. Дементьева, Андрей Николаевич назначил своего сына — Алексея Андреевича Туполева. Это решение вызвало недовольство некоторых старых помощников Андрея Николаевича, прежде всего С. М. Егера.
Именно под руководством Алексея Андреевича, с привлечением лучших сил отечественной авиационной науки и техники, в отделении «К» рождалась идеология и будущий облик Ту-144.
В дальнейшем, после смерти А. Н. Туполева и назначения А. А. Туполева руководителем предприятия, темой Ту-144 руководили Ю. Н. Попов и Б. А. Ганцевский. СПС Ту-144 был одной из главных и наиболее престижных тем в деятельности ОКБ имени Туполева и всего Министерства авиационной промышленности в течение полутора десятилетий.
В ходе проработки аэродинамической компоновки Ту-144 в ОКБ и в ЦАГИ рассматривалось несколько десятков возможных вариантов. Изучалась «нормальная» схема с горизонтальным оперением в хвостовой части фюзеляжа, от нее отказались. Отказались и от схемы «утка», оценив проблему влияния дестабилизатора на основное крыло. Остановились на схеме низкоплана — «бесхвостки» с крылом, образованным двумя плоскостями: треугольника, переходящего в трапецию, с углом стреловидности по передней кромке 78 градусов — для передней наплывной части и 55 градусов — для задней части. Самолет нес четыре ДТРДФ, размещенных под крылом, оснащался вертикальным оперением, расположенным на продольной оси самолета, трехопорным убирающимся шасси.
В конструкции планера машины главным образом использовались традиционные алюминиевые сплавы. Крыло образовывалось из симметричных профилей и имело сложную крутку в двух направлениях: в продольном и поперечном. Этим достигалось наилучшее обтекание поверхности крыла на сверхзвуковом режиме, кроме того, подобная крутка содействовала улучшению продольной балансировки на этом режиме. Конструкция крыла многолонжеронная, с мощной работающей обшивкой из сплошных плит, выполненных из алюминиевых сплавов, центральная часть крыла и элевоны изготовлялись из титановых сплавов. Аэродинамическая форма фюзеляжа выбиралась из условий получения минимального сопротивления на сверхзвуковом режиме. Добиваясь этого, пошли даже на некоторое усложнение конструкции самолета. Характерной особенностью Ту-144 была опускающаяся при взлете и посадке остекленная носовая часть фюзеляжа перед пилотской кабиной, что обеспечивало хороший обзор на больших взлетно-посадочных углах атаки, присущих самолету с крылом малого удлинения.
Четыре ДТРДФ HК-144 разместили под крылом близко друг к другу. Каждый двигатель имел свой воздухозаборник, причем два соседних воздухозаборника объединялись в общий блок. Работа каждого воздухозаборника обеспечивалась автоматической системой управления, которая изменяла положение панелей клина распределения и створки перепуска в зависимости от режима работы двигателя НК-144. Длина мотогондол определялась размерами двигателей и выработанными требованиями ЦАГИ и ЦИАМ к обеспечению необходимой длины каналов воздухозаборников для оптимальной работы двигателей.