- Боюсь, у тебя нет выбора. ИИ из «Имаджинариума» может убить всех. – горько проговорила Роза.
- Мне нет дела до всех. Понимаешь? Мне все равно. Это не моего ума дело. Я боюсь этого. – я вскочила на ноги, Роза взяла меня за руку, забрала листочки и быстро начала что-то искать. Вручила мне.
- Прочти это. И потом, если поменяешь свое решение – набери меня. – она смотрела мне прямо в глаза, и я понимала, что она любуется мной. Я настолько ей небезразлична.
Я спешно оделась и вышла из ее квартиры. На улице шел ливень, и я подставила свое лицо каплям дождя, пытаясь вернуть себе самообладание. Голова пухла от новых знаний и от осознания ответственности, которую они пытаются положить на мои плечи.
Пока я брела до дома, мне в голову врезалось воспоминание. Мы с Розой сидим на пледе, смотрим на заснеженные горы, и пьем горячий какао. Она смотрит на меня влюбленными глазами, и я понимаю, как сильно я ее люблю.
- Когда ты уйдешь от него? – спросила она меня, имея ввиду Кирилла.
- Завтра. – ответила я, не смотря на нее.
- Ты каждый раз говоришь, что завтра. – обиженно ответила она.
- Теперь точно. – заверила я ее, понимая, что не уйду.
Снег тихо падал с веток деревьев, и нам было ни капли не холодно. Я чувствовала умиротворение и свободу рядом с ней. Я дышала горным воздухом и мне становилось легче.
Я выбросила воспоминание из головы, видимо, и правда Роза стала триггером и теперь я начну частично вспоминать события, которые у меня нагло украли из памяти.
Имаджинариум. Глава 4.
«Для меня, как для разработчика ИИ заголовок «Стивен Хокинг предупреждает, что искусственный интеллект ‒ угроза для человечества» ‒ все равно что красная тряпка для быка. Если говорить менее серьезно, подобные тексты впечатляют, потому что в сжатом виде суммируют тот сценарий, о котором разработчики ИИ даже не задумываются. Этот сценарий состоит из трех самостоятельных заблуждений, базирующихся на опасениях касательно осознанности, зла и роботов.
Когда вы за рулем, вы переживаете собственные впечатления о цвете, звуках и окружающем вас пейзаже. Но может ли беспилотный автомобиль иметь собственные переживания? Ощущает ли вообще беспилотный автомобиль сам себя? Проблема осознанности и сознания как явления интересна сама по себе, однако для технологии ИИ она нерелевантна. Если вдруг вас собьет беспилотный автомобиль, вам будет не важно, обладает ли он самосознанием. Таким образом, человечеству придется взаимодействовать не с тем, что искусственный интеллект чувствует, но с тем, что делает.
Еще одно ложное умозаключение связано с опасением, что машины перейдут на темную сторону силы. В действительности же нужно опасаться не намеренного вредительства со стороны технологии, а некомпетентности разработчиков. Сверхмощный ИИ по определению будет невероятно эффективен в достижении поставленных целей (неважно, каких именно). Поэтому необходимо убедиться наверняка, что цель ИИ синхронизирована с потребностью человека.
Человечество в целом равнодушно к муравьям и при достижении собственных целей не особенно считается с их потребностями. Люди умнее и могут себе это позволить. Поэтому цель тех, кто занимается разработкой безопасного ИИ ‒ предупредить ситуацию, в которой человечество окажется на месте муравьев.
Заблуждение, касающееся наличия у машин самосознания, связано с мифом о том, что роботы не могут иметь собственных целей. Однако, в узком смысле, цель машин проявляется в том, что они ориентированы на выполнение какой-либо задачи. Так, поведение ракеты с тепловой головкой самонаведения проще всего описать как стремление попасть в цель. Если вы чувствуете угрозу со стороны машины, цели которой отличаются от ваших, то почти наверняка истинным источником беспокойства являются сами цели, а не то, обладает ли робот самосознанием или ощущениями. И если ракета преследует вас, вы вряд ли воскликнете: «У машин не может быть целей, так что волноваться не о чем!»
Для того, чтобы стать причиной неприятностей, такому сверхразуму не нужно роботизированное тело ‒ достаточно интернет-соединения. С его помощью он сможет обмануть финансовые рынки, превзойти научных исследователей, подчинить себе влиятельных личностей и разработать оружие, устройство которого человеку и понять не удастся. Даже если бы конструкция роботов была физически невозможна, получив неограниченный доступ к деньгам, сверхразумный ИИ теоретически мог бы платить многим людям или манипулировать ими, чтобы те, сами того не подозревая, служили исполнителями его замыслов.
Неправильное представление о роботах связано с мифом о том, что машина не может управлять человеком. Разум дает контроль: люди могут управлять тигром не потому, что сильнее него, а потому что умнее. Это означает, что если мы уступим статус умнейших существ на планете, мы также можем потерять и контроль над ней».