К началу войны, 12 апреля 1877 г., пароход был готов, и Макаров с нетерпением ждал возможности выхода; но местное начальство, несмотря на объявление войны, медлило с разрешением, и только через 2 недели Макаров мог выйти в море. Первые 2 похода к Поти и Батуму не дали результатов; при третьем – к Сулинскому гирлу – катерами был поврежден корвет «Иджалие». В июне, при крейсерстве у Анатолийского берега, миной пущен ко дну купеческий бриг и потоплено 3 парусных судна; в июле у входа в Босфор уничтожено 5 коммерческих судов; в августе, благодаря счастливому стечению обстоятельств, Макаров отвлек огонь турецкого броненосца от отряда полковника Шелковникова и в том же месяце произвел атаку Сухумского рейда. В сентябре «Великий Князь Константин» нес транспортную службу, которая с перерывами продолжалась до средины декабря. В ночь на 16 декабря произведена атака Батумского рейда, и, наконец, в ночь на 13 января 1878 г. на том же рейде утоплен авизо «Интибах». Таковы в кратких чертах военные действия Макарова в кампанию 1877 г.; за свои подвиги менее чем в год молодой лейтенант получил 6 наград: золотое оружие, ордена святого Владимира 4-й степени с мечами, святого Георгия 4-й степени, чины капитан-лейтенанта, капитана 2-го ранга и звание флигель-адъютанта. Так скоро исполнились слова одного из командиров кадета Макарова, что «Макаров будет одним из лучших морских офицеров молодого поколения».
Окончание войны с Турцией не остановило деятельности Макарова; он занялся эвакуацией войск, во время которой познакомился с М. Д. Скобелевым. Последний предложил Макарову в начале 1880 г. место своего помощника по морской части в Ахалтекинской экспедиции. Следует отметить, что всего за 5 месяцев до своего отбытия на новый театр военных действий Макаров женился на К. И. Якимовской. Новое поручение возложено было на Макарова в конце марта, и 7 апреля он отбыл из Санкт-Петербурга; отряд моряков вышел за ним, и уже 21 мая «морская» батарея выступила в степь. Сам Макаров в боевых действиях не участвовал; он находился в тылу армии и занимался, как выразился Скобелев, «черной работой» – организацией подвозки грузов и припасов из Астрахани в Красноводск, где временно исполнял и обязанности по управлению Закаспийским округом. Скобелев был чрезвычайно доволен действиями моряков и их начальника и в знак особого расположения к Макарову обменялся с ним Георгиевскими крестами; со скобелевским крестом Макаров и погиб под Порт-Артуром.
В конце 1881 г. Макаров был назначен командиром парохода «Тамань», стоявшего стационером в Константинополе; на этом спокойном месте Макаров завоевал себе новую славу выдающегося исследователя физических свойств моря. Сейчас же по прибытии на место Макаров начал исследования течений Босфора; убедившись в существовании на глубине обратного течения, Макаров определил его границы, скорость и прочие свойства; провел систематизацию этого материала, получился целый трактат «Об обмене вод Черного и Средиземного морей», удостоенный Академией наук неполной Макарьевской премией и который, по словам известного гидролога, барона Ф. Врангеля, «остается и поныне самым полным и законченным решением вопроса о течениях в проливах». Вместе с тем Макаров занялся изучением Босфора как объекта будущих военных действий России, и в 1883 г. подал обстоятельную записку, в которой предлагал ряд мер, могущих обеспечить разрешение этой задачи.
1 января 1882 г. Макаров был произведен в капитаны 1-го ранга и летом состоял флаг-капитаном шхерного отряда при контр-адмирале Шмидте, а в 1883 г. – при контр-адмирале Чихачеве в практической эскадре Балтийского моря; к этому времени относится проект макаровского способа быстрой разводки пара, при котором через 7 ½ минут от зажигания котлов можно дать ход, а в дальнейшие 4 минуты довести его до полного. Как многое другое, и эта мера не была осуществлена во флоте, и только в 1904 г., уже во время войны, Макаров как командующий флотом ввел этот способ на судах эскадры Тихого океана.
Лето 1885 г. Макаров командовал фрегатом «Князь Пожарский» и после кампании, ввиду ожидавшегося столкновения с Англией, представил проект «мобилизации корабля». При этом он писал: «Если не вырабатывать мобилизацию в мирное время, то в случай войны произойдет сумбур». Но и это предложение Макарова подверглось только критике.
В сентябре 1885 г. Макаров был назначен командующим корветом «Витязь», готовившегося к кругосветному плаванию; корвет еще строился и был принят только в середине 1886 г. Ко времени постройки «Витязя» относится замечательный, но малоизвестный труд Макарова, вышедший без подписи: «В защиту старых броненосцев и новых усовершенствований» («Морской сборник» 1886 г.). В этой работе в легкой литературной форме Макаров изложил свой взгляд на необходимость переделки старых броненосцев согласно новым усовершенствованиям и доказывал это результатом сражения флотов 2 фантастических республик, Белой и Синей, оканчивающегося в пользу «качества», а не «количества» судов. Статья эта, явившаяся и протестом против увлечения морского министерства одним судостроением, рисует идеальные типы морских вождей, как они представлялись в то время будущему адмиралу, и к достижению образа которых он, несомненно, стремился тогда и впослдствии. «Секрет, которым обладал адмирал X, – пишет Макаров, – заключался в том, что он умел выбирать своих командиров», а «создав командиров, адмирал X мог уже делать с эскадрою такие маневры, о которых другой адмирал не мог бы и думать… Успех дела зависит от единства, а единство достигается только продолжительными плаваниями и упражнениями».