– Интересно… – Марк снова встал с кресла, сделал несколько шагов по кабинету, не куда-то конкретно, а чтобы чуть скинуть напряжение, размять ноги, разогнать кровь. – А как с семьей?
– Никак, – спокойно ответил Денис. – Я не общаюсь с женой и сыном. Не в смысле бойкота, ссоры или чего-то такого. Просто не хочу. Нет общих тем. Нет, неправда, скорее, будто бы нет желания искать общие темы. Незачем тратить на это силы. Я не получу от этого общения никакого удовольствия.
– О, кстати, – Марк уловил еще одно возможное направление анализа и вернулся к креслу. – А что тебе доставляет удовольствие? Как ты его вообще понимаешь?
– Движение к цели. Результаты.
– К какой цели? – уточнил Марк.
– Победа над альцгеймером.
– Неважно, идет ли речь о поддерживающей терапии и ремиссии или о лекарстве?
– Неважно, – кивнул Денис. – Я пошел на сделку…
– Расскажи еще раз об аварии, – перебил Марк.
– Эмм… Я плохо помню детали, что-то случилось с машиной, и в итоге я улетел со скалы…
– А потом тебя нашли и отвезли в твою клинику?
– Ну да.
– Или сначала в местную больницу?
– Сначала в больницу, да, – подтвердил Денис.
– А потом уже жена настояла на переводе в другую больницу?
– Верно.
– Или она настояла на том, чтобы тебя отвезли именно в твою клинику?
– Замечаешь, да? – усмехнулся Денис. – Это ведь еще одна черта, присущая нейронкам.
– Немножко сыпешься в мелких деталях, как минимум отчасти в угоду собеседнику, – хмыкнул Марк. – Это тоже не показатель сам по себе.
– Проведешь тест на идиотизм нейронки?
– Ну, я полагаю, ты его проводил и можно просто спросить у тебя результат.
– Я заговариваюсь, – подтвердил предположение Марка Денис. – Как и любая нейросетка, имеющая хотя бы минимальный параметр услужливости, я могу зачем-то выдумать какую-то ерунду, просто чтобы ответить на вопрос.
– Особенно, если задать подряд несколько вопросов из одной и той же области?
– Угу.
Марк задумался, снова рассмотрел Дениса. Возможно, перед ним сидит чудо.
– Что думаешь? – прервал тишину Денис.
– Похоже, например, на энцефалопатию. Либо манифестацию психопатии. А триггером, как понимаешь, стала авария. Тормозящая система может по миллиону причин отвалиться. Надо разбираться, проводить тесты, сдавать анализы, смотреть динамику.
– Я думал об этом, – кивнул Денис. – Но должны же были быть какие-то другие проявления? Предположим, я был очень хорошо компенсирован, ну хоть что-то за десять лет брака, а? Мы жили душа в душу, все было хорошо, а потом… Да и… Нет времени на дополнительные исследования. Нужно принимать решение сейчас. Буквально.
– Ладно, допустим, – вздохнул Марк. – Предположим, есть основания полагать, что в твоей башке нейросеть. Зачем ты пришел?
– Чтобы…
– Нет, я не о причинах, а о противоречии, – перебил Марк. – Ты нейросеть. Для тебя существует только цель – победа над альцгеймером. Ты получаешь удовольствие только от результатов в этой области. Ты забил на семью, на этику, на закон, работаешь с пропагандистами и готов ставить опыты на людях. Машина! Все ради цели. Так зачем подвергать себя риску, приходя ко мне? Зачем останавливаться в шаге от достижения цели?
Марк увидел, как изменились глаза Дениса. Что-то в них появилось, что-то, наконец-то, живое или… непонятно, но что-то есть. Денис подался вперед и поманил Марка рукой к себе. Марк наклонился ближе к нему.
– Потому что я лишусь смысла жизни, – сказал он шепотом.
– Логично, – хмыкнул Марк и откинулся на спинку кресла, все так же пристально глядя на Дениса.
Система вознаграждения нейросети вознаграждает ее за приближение к поставленной задаче. Только, в отличие от человека, нейронка не может получить удовольствие от чего-то еще. Человек может забить на свою цель, пить, трахаться, принимать наркотики, заглушать собственное недовольство. А машина? Может она себя обмануть? Сомнительно. Только один путь – к цели. Все остальное – боль и страдания, просто потому что отсутствие удовольствия и есть боль и страдания. Шаг к цели – удовольствие, еще шаг – еще удовольствие, цель выполнена – еще удовольствие, и все. Больше нет источника удовольствия. Наверное, возможно перепрограммирование или что-то такое, но прямо в моменте нейронке выгоднее остановиться в шаге от окончательного выполнения задания.
– Ты хочешь, чтобы я тебя остановил? – прямо спросил Марк.
– Я… Не знаю… – пробормотал Денис. – Но это… Было бы вполне ожидаемо от ученого, который активно критикует мои проекты и…