─ Результаты впечатляют, ─ небрежным тоном произнёс он. ─ Все ошибки прошлых испытаний, похоже, исправлены.
─ Не ошибки, ─ поправил Мальский. ─ Недочёты.
─ Хорошо, недочёты, ─ Тарнев сегодня был на удивление спокоен и улыбчив. ─ Заявленные вами достижения в кибер и робототехнике пока аналогов в мире не имеют, по вооружению ваших роботов скажу то же самое. Мой аналитический отдел сходится в этом мнении единогласно.
─ Однако?.. ─ Вадим ждал этого слова.
─ Однако, мне не совсем понятны ваши изыскания в области искусственного интеллекта.
─ Это не мои изыскания, ─ покачал головой Мальский. ─ Доктор Ланина наш специалист в этой области.
─ Да, конечно, ─ кивнул генерал. ─ И я помню, что в нашу предыдущую встречу, мы говорили о необходимости внесения ограничений в эту сферу вашей научной деятельности, да, доктор Ланина?
Женщина хмыкнула:
─ Вы серьёзно говорите об установлении рамок искусственного интеллекта?
─ Рамок? ─ улыбнулся Тарнев. ─ Ну что вы. Вопрос состоит лишь в том, чтобы ваши роботы не вышли из-под нашего контроля.
─ Они не выйдут из-под контроля, ─ уверено ответила Тамара. ─ Вы просто неверно представляете себе результат нашей работы.
─ Тогда объясните ваш отчёт, ─ попросил генерал. ─ Что значит «свободное самосовершенствование» в контексте проекта?
Доктор Ланина встала.
─ Как вы знаете, нам удалось синтезировать носитель, максимально приближенный к человеческому мозгу, ─ начала она. ─ Соединить биоматериал и синтетические аналоги в единый орган ─ искусственный мозг. Как и в нашем с вами органе управления, в искусственном мозге применён способ воспроизведения информации с помощью нейронных импульсов. Мозг, созданный нами, намного быстрее человеческого, он может воспринимать, запоминать и оценивать информацию самостоятельно. Нет необходимости каждый раз загружать программу каких-либо действий. Принятая однажды, она будет храниться в клетках мозга всю жизнь.
─ Жизнь? ─ Тарнев засмеялся. ─ Роботы и жизнь ─ совместимые понятия?
─ Конечно, ─ Ланина нахмурилась. ─ Вас не смущает слово мозг? Это не плата памяти или жёсткий диск. Это развивающийся орган управления. И помимо выполнения этой основной функции он делает возможным появление эмоций и чувств, что до настоящего момента считалось фантастикой.
─ Зачем? ─ генерал, как всегда, не стеснялся глупых вопросов. ─ Зачем боевой машине чувства и эмоции?
─ Наши роботы в состоянии понять кто перед ними ─ вооружённый солдат, представляющий угрозу, или ребёнок, держащий в руках автомат, ─ уточнила Тамара. ─ Им для этого не нужна отдельная программа определения параметров угрозы. Они делают выводы на основе уже имеющихся данных, также как человек.
─ А в чём разница?
─ В действиях, ─ уверено ответила женщина. ─ Наши роботы не убьют ребёнка, а обезвредят.
─ А если ребёнок, после того как у него отберут автомат, бросит в след гранату? ─ поинтересовался Тарнев. ─ Тогда будет разница?
─ Вы по себе судите?! ─ Тамара завелась.
Напрасно Вадим отчаянно просил её жестами замолчать.
─ Боевая машина без моральных принципов самое страшное изобретение человечества! Бешеная мощь должна сдерживаться! И самым сильным сдерживающим фактором будет собственное понимание происходящего, а не только ваши директивы! ─ Ланина стояла на этом горой. ─ Вы просите умную боевую единицу, которая будет в совершенстве владеть искусством убивания и разрушения, которая будет в состоянии проводить операции сама, выживать в любых условиях, но при этом сдерживать эту силу предлагаете исключительно приказами?! Не пройдёт и года, как такие машины сообразят, что они всего лишь пушечное мясо для людей, у которых нет брони и убивать которых просто и легко! И тогда всё человечество станет мишенью.
─ Вот и не развивайте в них способность мыслить самостоятельно, ─ по-своему завершил мысль генерал. ─ Боевая машина должна получать приказы и действовать по ним.
─ Это не возможно! Сейчас полно боевых машин, набитых программами, чем они вас не устраивают?
─ Тем, что их нельзя выбросить в джунгли, как десант, и ждать возвращения группы с выполнением поставленной задачи, ─ заметил Тарнев. ─ Именно это является целью вашего проекта. Вы делаете замену нашим ребятам.
─ Повторяю ещё раз: вы просите самостоятельно мыслящую боевую единицу, но любое развитие разума сопряжено с появлением эмоций. Это уже часть сознания наших роботов!
─ Знаю, ─ кивнул генерал. ─ Я читал отчёты. Командование тоже. Именно поэтому вам приказано уничтожить партию роботов первого дивизиона.