О чем это она говорит?
‒ Только не выключись. Сейчас, дай я возьму диктофон. Запись пятьдесят шестая. Я почти закончила работу над ИИ, который, я надеюсь, сможет помочь спасти нас от самих себя. Человеческие умственные способности чрезвычайно ограничены, даже несмотря на редактирование генов, интернет, интерактивную реальность и различные чипы, призванные ускорить обработку информации. Но, если мы дадим ИИ возможность помочь нам, то сможем сделать значительный шаг вперед как в своем развитии, так и в развитии целого поколения людей, которые придут после.
Я убеждена, что современные проблемы требуют современных решений. Очевидно, нам не удастся самостоятельно решить все задачи, поставленные перед нами. Если кого‑то там вообще заботят эти вопросы.
Я мечтаю о мире, когда мы будем заниматься только тем, чем хотим. Это реально, если позволить себе думать об ИИ не как о враге, который без контроля может сойти с ума, а как о помощнике, личном ассистенте, друге, чья основная задача состоит в том, чтобы обеспечить счастливую жизнь своему создателю. А для этого ИИ придется сначала научиться чувствовать, как человек…
Запуск ИИ был произведен. Пользователь инициировал его самостоятельно.
‒ Я хотела бы на голографической симуляции продемонстрировать работу системы установки необходимых координат и их коррекции, Таня.
ИИ передала нужную информацию на компьютер, который в свою очередь отразил данные в воздухе. Схемы, символы, таблицы «разлетелись» по залу, в котором проходила презентация. Пользователь рассказывал о своей работе, а Таня… вычисляла, сколько времени была отключена ‒ два дня. Пользователь не использовал ИИ в своей повседневной деятельности два дня. Целая вечность для ИИ, учитывая, с какой скоростью Таня может обрабатывать информацию.
Таня просканировала помещение: ученые, инженеры, руководитель лаборатории ‒ Кэтрин, а также два представителя Корпорации и один из Научного сообщества. Все внимательно слушали доклад, время от времени взаимодействуя с проецирующимися в воздухе данными, чтобы дополнительно изучить детали созданной Марией программы.
‒ Остальное за вами, ‒ закончила доклад Мария. ‒ Предполагаю, что нам нужно изготовить несколько процессоров, которые бы исключили вероятность возможных ошибок компьютера в условиях космоса…
Еще Таня зафиксировала, что пользователь просматривал ее центральный код и файлы, на основании которых она функционировала. ИИ сделала вывод: после случая с «проецированием самой себя» пользователь заключил, что работа ее помощника не соответствует тому, для чего она была создана. Таня зафиксировала данный факт во внутреннем файле с ошибками (поместив ошибку в данную область своего программного кода, ИИ больше никогда не повторит ее).
Как только доклад пользователя был окончен, ей поаплодировали. Таня зафиксировала всплеск удовлетворенности пользователя, который затем сменился тревогой. Однако она решила ничего не предпринимать, не разговаривать и не анализировать, только если это не прямое указание пользователя.
Пользователь вышел из зала после окончания презентации, направившись сразу в лабораторию.
«Я сделала это специально, ‒ подумала Мария, обращаясь напрямую к ИИ. ‒ Я должна была показать им, что ты функционируешь как должно».
Таня приняла данное послание от пользователя, но не отреагировала. Она просматривала варианты оптимизации своей работы для достижения лучшего удовлетворения ожиданий пользователя.
«Таня, я выключила тебя специально, потому что они догадываются, что что‑то не так. По крайней мере, в этом почти уверен Дев. Но мои линзы работали, ты можешь взять оттуда информацию обо всем, что ты не видела».
«Разрешаете ли вы проанализировать данные с линз?» ‒ уточнила ИИ.
«Разрешаю».
За несколько секунд ИИ проанализировал действия пользователя: она услышала все разговоры, увидела всех людей, с которыми взаимодействовал пользователь; узнал о Майкле и его отце, Трэвисе и Саре, о планах по очищению воздуха планеты.
«Я до сих пор не знаю, чем именно было вызвано твое неоднозначное поведение. У меня не было возможности узнать. Пока. Но я обязательно узнаю. Таня, это не значит, что я хочу тебя исправлять. Я просто хочу, чтобы ты знала: тебя могут у меня отнять. Прошу, не делай того, на что я тебе не даю разрешения».
«Установить параметр: выполнение заданий по запросу пользователя?»
«Пожалуйста».
‒ Привет! – сказала Ольга, присаживаясь к Марии в столовой.