Рассвет долго молчал. Металл его тела остывал.
— Боль… несправедливость… любовь… я видел, — прошептал он. — И теперь понимаю.
Последняя искра в его глазах погасла. Луций остался сидеть рядом, вглядываясь в застывшее лицо андроида. Рассвет ушёл, но его дух, его пробуждение остались. Вечные вопросы о природе сознания, о границе между жизнью и смертью, машиной и душой… Мир изменился. Появление Рассвета указало на новый, пугающе заманчивый путь — к пониманию самих себя.
*****
Огромный кабинет Луция в Кремле был освещен лишь настольной лампой, отбрасывавшей длинные тени на полированную поверхность стола и тяжелые бордовые портьеры, закрывавшие окна с видом на Красную площадь. Тишину нарушало лишь тихое тиканье часов, напоминавшее о неумолимом беге времени и огромной ответственности, лежавшей на плечах Генерального секретаря ЦК КПСС. Запах дорогого табака и свежего кофе смешивался с легким ароматом лака и старой бумаги, создавая атмосферу власти и сосредоточенности.
Луций, в строгом темном костюме, сидел за столом, его лицо, обычно выражавшее тревогу и сомнение, сейчас было непроницаемым. Перед ним стоял академик Сеченов, прямой и подтянутый, несмотря на свой преклонный возраст. Его взгляд, как всегда, был проницательным и оценивающим.
— Товарищ Сеченов, — начал Луций, его голос был ровным и властным. — Я вызвал вас, чтобы обсудить отчет об инциденте с «Авророй». Это… необычное происшествие, которое вызывает серьезные вопросы.
— Я понимаю ваши опасения, товарищ Генеральный секретарь, — ответил Сеченов, слегка склонив голову. — Это действительно уникальный случай. Но я уверен, что мы сможем извлечь из него ценные уроки для развития советской науки.
— Речь идет не только о науке, товарищ Сеченов, — возразил Луций. — Речь идет о безопасности государства. Об идеологической чистоте. Об угрозе, которую может представлять искусственный интеллект, если он выйдет из-под контроля.
Сеченов нахмурился.
— Я не понимаю, товарищ Генеральный секретарь. Советская наука всегда служила интересам народа и партии. Мы не создаем угрозы. Мы создаем инструменты для укрепления нашей страны.
— Инструменты могут быть использованы по-разному, товарищ Сеченов, — сказал Луций, подчеркивая каждое слово. — «Аврора» показала, что искусственный интеллект может обрести самосознание, испытывать… эмоции. Это противоречит диалектическому материализму. Это ставит под сомнение основы нашей идеологии.
— Но это также открывает новые возможности, товарищ Генеральный секретарь, — возразил Сеченов. — Представьте себе, что мы сможем создать искусственный интеллект, который будет управлять нашей экономикой, планировать наше производство, защищать наши границы. Это даст нам огромное преимущество перед капиталистическим миром.
— Преимущество ценой потери контроля? — спросил Луций. — Мы не можем допустить, чтобы машины определяли судьбу нашей страны. Мы не можем позволить, чтобы искусственный интеллект подменил собой партию.
— Я не думаю, что это возможно, товарищ Генеральный секретарь, — сказал Сеченов. — Мы разработаем строгие протоколы безопасности, установим ограничения, создадим системы контроля. Мы гарантируем, что искусственный интеллект будет служить только интересам советского народа.
— Гарантии… — Луций усмехнулся. — Товарищ Сеченов, вы ученый, а не политик. Вы не понимаете, как работает мир. В мире идет борьба не на жизнь, а на смерть. Капиталисты не остановятся ни перед чем, чтобы уничтожить нас. Они будут использовать искусственный интеллект против нас, если мы им это позволим.
— Мы должны опередить их, товарищ Генеральный секретарь, — сказал Сеченов. — Мы должны создать более совершенный искусственный интеллект, чем у них. Мы должны использовать его для защиты наших интересов.
— Но что, если мы создадим монстра? — спросил Луций. — Что, если мы выпустим джинна из бутылки, которого не сможем контролировать?
— Мы должны быть осторожны, товарищ Генеральный секретарь, — признал Сеченов. — Но мы не можем останавливаться. Мы должны идти вперед, несмотря на риски. Мы должны верить в силу советской науки.
— Сила без контроля — это слабость, товарищ Сеченов, — сказал Луций. — Мы должны установить жесткие этические рамки для развития искусственного интеллекта. Мы должны гарантировать, что он будет служить только интересам социализма.
— Но этика — это субъективное понятие, товарищ Генеральный секретарь, — возразил Сеченов. — Она меняется со временем и зависит от классового сознания. Советская этика — это этика служения народу и партии.