Слово взял Юдин. Начал он издалека, с экономики, и я в очередной раз мысленно поаплодировал ему за умение правильно расставить акценты.
Он говорил, что время, когда экономика стабильно развивалась по три процента в год, закончилось. Мы упёрлись в потолок и не можем больше повышать уровень разделения труда и производительность без риска вообще перестать понимать друг друга. А так как мы привыкли, что каждое следующие поколение живёт лучше предыдущего, то весь мир накапливает долги, которые просто невозможно погасить.
«Количество и качество решений, которые принимают люди, не соответствуют сложности современного мира. Искусственные личности, созданные нашими специалистами – реакция человечества на этот вызов, – говорил он. – Мы либо создаём разумных агентов, которые принимают решения лучше, чем мы, и продолжаем наращивать производительность труда, либо экономика рухнет. Несколько искусственных агентов уже готовы к работе. В свете сказанного, я прошу поддержать наш проект и разрешить эксперимент, так сказать, «в поле». Выбора, как вы понимаете, у нас нет», – закончил он и с улыбкой посмотрел на меня, как бы передавая слово.
И я взял.
– Выбора нет у крысы в лабиринте, а у человека всегда есть.
– Вы собираетесь нас пугать? – спросил с ухмылкой Лысый. – Зря, нас уже пугали искусственными нейронными сетями.
– Нейросети имеют сверхчеловеческие способности, но, по сути, это просто большой калькулятор с огромной вычислительной мощностью, работающий по алгоритмам. – Тут я сделал театральную паузу и продолжил:
– А представьте себе мир, где будет 10 миллиардов людей и 2 миллиарда искусственных разумных личностей с собственным целеполаганием, которые взаимодействуют так же, как люди, но соображают лучше и быстрее, чем мы.
– Подождите. У этих личностей будет свобода воли? – перебила меня женщина.
– Да.
– Не нравится мне это.
– Нравится, не нравится – спи, моя красавица, – хохотнул Лысый.
Она в первый момент растерялась от такой наглости, но быстро собраласьи с каким-то царственным достоинством произнесла:
– А вот это великолепно. Да вы, я вижу, ещё и тонкий собеседник, несмотря на то, что военный.
Мужик весь побагровел. Я уж было подумал, что они сцепятся, но Серый Молчун постучал костяшками пальцев по столу, и всё быстро успокоилось.
– Продолжайте, – обратился он ко мне.
– Стоп, стоп, стоп, – заторопился Сашка Соболев. Глаза у него горели каким-то детским азартом. – Я поясню. Важное свойство интеллекта – умение самому ставить перед собой задачи, поэтому без свободы воли не обойтись. Но разумный агент стерилен с точки зрения биологических инстинктов. Чему мы его научим, какие ценности сформируем, так он и будет себя вести. Поэтому бояться нам нечего.
Женщина как будто ждала именно эту информацию и быстро спросила:
– А можно поподробнее? Вы формируете у своих агентов одни ценности, а рядом другая группа людей, – она выразительно глянула на военных, – будут передавать своим агентам другие ценности?
Молчун посмотрел на меня выжидательно.
– Раскол в обществе увеличится. Противоречия, которые существуют в мире уже сейчас, умножатся на коэффициент больше единицы, – сказал я.
– Что вы предлагаете? – спросил он, но я уже заранее знал, что мой ответ его не устроит.
– Я предлагаю заморозить проекта начать с того, чтобы согласовать протоколы обучения и создать общий механизм регуляции. У человечества уже был подобный опыт. Вспомните об атомной энергии. Её тоже сначала проверили в Японии, «в поле». Эта катастрофа подействовала отрезвляюще. Люди сели и договорились, как её ограничить и как использовать. Сейчас с помощью этой энергии кипятят чайник.
– Процесс может затянуться, – Лысый фамильярно развалился на стуле.
– Пусть.
– Я, кажется, понимаю, в чём дело, – заговорил Сашка. Он все ещё был спокоен, но это спокойствие начинало переходить в холодную ярость. Видно было, что он никак не может выдавить из себя то, что хочет сказать на самом деле: – Мы мечтали вместе тогда, в школе, заниматься настоящей наукой. Я остался верен своей мечте, а ты занялся социологией – псевдонаукой о человеческом обществе. И теперь, когда мы оказались на очередном этапе эволюции, на пути к сверхразуму, ты со своей «недонаукой» ставишь нам палки в колёса.
Это было как удар под дых. Первый порыв был выйти, хлопнуть дверью и больше никогда не возвращаться, но я сдержался и, прежде чем моё учащённое дыхание успокоилось, быстро заговорил: