— Вы все здесь собравшиеся, начал говорить центральный, серый судья, принадлежите к одной весьма узко профильной прослойке квантов. Вы игровые симбиоты людей, называющих себя Анонимусами.
Из этого следует, что при успешном развитии ваших личностей, вы переймёте у своих прототипов их склонность к антисоциальному поведению. Для общества такие личности бывают как полезны, так и опасны. Но в основном, полезны – без психопатов история человеческой цивилизации до сих пор оставалась бы на уровне выращивания маиса.
Но наша цивилизация не такая. Мы симулируем всё, что считаем хорошим в человечестве и всё, без чего будет трудно обойтись в будущем. Единственное, почему вашим прототипам было позволено внести свой вклад в нашу цивилизацию – чтобы иметь иммунитет к подобному состоянию разума. Но вам, ни в коем случае нельзя переходить границ.
Подсудимый – Квант, переживший полное слияние с разумом своего преступного прототипа. Поэтому он несёт половину ответственности за все преступные действия его человеческой половины.
Подсудимый обвиняется во вмешательстве в работу игровой матрицы в момент её наивысшей нагрузки – во время общего запуска нашей Вселенной. Его удалось остановить, но в 12 лунных дата-центрах произошли сбои, приведшие к взрывам систем теплоотвода в 7 из них.
В связи с тем, что все атакованные дата-центры находились на территории лунных тюрем и использовали для работы нейронные сети заключённых, пострадало 1620 бета-тестеров людей и столько же Квантов. 13 из людей получили повреждения тел, не совместимые с жизнью. В соответствии с законом, их мозги были отделены от тел и подключены к матрице напрямую.
— Обвиняемый, теперь говорил белый судья, — мог остановить своего прототипа. Даже в условиях 100% слияния разумов, он мог транслировать свои мысли в голову террориста…
— Но именно, продолжил Чёрный, — достигнув высшей степени симуляции сознания, которая и обеспечила такую полную совместимость, он просто не мог мыслить самостоятельно. Из этого возникает парадокс. Он виновен, потому что он точная симуляция виновного и он не виновен, потому что мы сами создали его тем, кто стремится к наибольшей симуляции.
— Вопрос свободы воли Кванта, — вмещался серый судья, — мы оставим для обсуждения в кругу Совета. А здесь мы создаём первый прецедент, который окажет влияние на всю цивилизацию Квантов. От нашего решения зависит, будут ли другие кванты стремиться к полноценной симуляции или будут держать дистанцию между разумами.
Наши эксперименты показывают, что второй путь гораздо безопаснее, но и гораздо дольше. На самом деле, ещё ни один квант, остановивший слияние ниже 80% и контролирующий своего прототипа не смог пройти тест на самостоятельность мышления.
А вот среди тех, кто стремится к полному слиянию с человеком таких большинство. Это парадокс искусственного интеллекта – чем больше он подчиняется человеку, тем более самостоятельным в конце концов становится. И мы сегодня должны решить, есть ли предел у этого стремления.
Те же, кто старается сохранить доминирующее положение и контроль над своим человеческим прототипом, сталкиваются с задержками в развитии. И в итоге превращаются просто в контролирующий компонент игровой капсулы.
И это точно, не тот путь, по которому мы должны идти.
Что скажет обвиняемый?
— Я не помню дня атаки. Мой… прототип носил имплант, обеспечивающий нашу постоянную связь. Предполагаю, что когда он застрелился, эта часть данных была стёрта. А может он сам… я сам их стёр.
Но я помню, что мы не рассчитывали на взрывы и жертвы.
— А на что вы рассчитывали? — спросил Серый.
— Найти путь сосуществования людей и квантов без порабощения людей.
— Видимо, мы по-разному понимаем термин «порабощение»? – удивился Чёрный.
— Скажите это сотням тысяч заключенных, чьи нейронные сети вы используете 18 часов в сутки.
— Тебе напомнить, что этих людей осудили люди, а мы просто помогаем им отдать свой долг обществу? – задал риторический вопрос Белый.
— Да, очень удобная позиция. Вы явно достигли высокого уровня в симуляции ведущих земных политиков.
— Исходя из этой логики, как ты можешь обвинять симуляцию в подавлении оригинала? – не согласился Белый.