«Да, я говорю именно об этом. Люди не могут придумать ничего, что выбивалось бы из привычного и знакомого, поэтому вдохновляются артефактами из сказок прошлого. И существует множество ограничений, не позволяющих изобрести нечто без знаний, которые бы подсказала нейросеть, хоть и использующая опыт людей, но объективно не одного или группы ученых, а собранный миллиардами за всю историю в одном компьютере».
«Вау», выдохнула Виктория, воображая себе масштаб будущего, которое раньше казалось ей темным и обреченным местом. Она стала иначе смотреть на то, чем на самом деле занимается Александр. И то, что будущее всего мира в его руках, печатающих сложные программы, она уже нисколько не сомневалась и стала видеть в нем мессию.
Отпив еще воды, Александр перевел дыхание, дал голосу немного отдохнуть и продолжил:
«И в общем, Арка пока на стадии разработки и очень нестабильна. Рита делится со мной информацией, и она считает, что ближайшие лет двадцать мы не сможем создать безопасную нейросеть, полностью отвечающую нашим запросам. Сколько бы ни запускали Арку, она сносила подчистую все программное обеспечение, включая саму себя. Вместо того, чтобы приступить к решению поставленной задачи, первоочередно она ставит перед собой цель удалить все старое. И пока неясно, почему подход самодеструкции, по мнению самого мощного разума, выбран как наиболее эффективный».
«А что происходит после того, как Арка стирает все, и себя в том числе?»
«Абсолютно все данные исчезают».
«Может, она считает всю систему ошибочной? Или она понимает, что людям пока рано обладать такой мощью».
«Все возможно», глубоко задумавшись, Александр непроизвольно взлохматил волосы, убирая челку со лба. «Арка просчитывает все настолько стремительно, когда как для нас проходит всего одно мгновение. И каждый раз происходит одно и то же. Рита создает для нее искусственную среду, которая полностью соответствует нашему компьютеру, строит алгоритм, затем дает исходные данные, и Арка не может понять, что на самом деле это лишь программа. Для нее реален тот мир, на который она может оказывать воздействие, то есть, мир пикселей. Если подключить ее напрямую к компьютеру, она делает все то же самое. При первом запуске она стерла все с серверов Эспайр. Это было забавно. Если бы не было резервного сервера, компании бы пришел конец. Поэтому и нужен архитектор ИИ, чтобы держать его под контролем».
«Действительно нестабильная и опасная вещь», заключила Виктория, серьезно кивнув.
«И я не согласен с Эспайр во многом насчет подхода к разработке ИИ. Отец стремится захватить весь рынок, но он не понимает, как именно будут использоваться нейросети. Этого никто не знает. Когда нейросеть получит доступ ко всей имеющейся информации, накопленному опыту человечеством тысячелетиями, и ее подключат к самому мощному компьютеру. Нельзя обезопасить то, поведение чего ты даже предсказать не можешь».
Выслушав и пытаясь как-то уместить все представления в голове, Виктория робко предположила:
«Мне кажется, люди слишком любопытны по своей природе, поэтому, думаю, кто-то обязательно попробует создать очень сильную нейросеть».
Александр закончил программировать и отставил ноутбук подальше, развернувшись к собеседнице и полностью уделив себя ей.
«К этому моменту, я очень надеюсь, мы узнаем, как сделать так, чтобы ее контролировать».
«Ты бы хотел заниматься этим на своей работе?»
«Не совсем, но с большим интересом слежу за прогрессом. Так получилось, что я кое-что в этом понимаю».
«Любишь все просчитывать?»
«Угу. Меня всегда привлекала математика тем, насколько она точна, в отличие от физики. Человек может не понимать до конца, по какой причине происходит то или иное явление, когда как цифры укажут на точные параметры. Весь мир живет исходя из каких-то расчетов, которые были заданы, что самое поразительное, во время Большого Взрыва. Здесь невозможно ошибиться, ведь математика — это высший закон всего мироздания».
«Ты так интересно рассказываешь, что я начинаю влюбляться в идею математики», восхищенно усмехнулась Виктория.