Взять хотя бы этих роботов, преподающих половое воспитание.
Создатели этого робота хотят, чтобы он мог отвечать и на то, что ученики спрашивают, и на то, что они имеют в виду. И если кто-нибудь спросит: «Каков средний размер человеческого пениса?» — можно дать сухие цифры (когда мягкий — 3,5 дюйма, когда нет — 5,1 дюйма). Но подразумевается другой вопрос: чем больше пенис, тем лучше? А если задает вопрос человек с пенисом, то еще и: у меня нормальный пенис?
И на эти вопросы существуют мириады ответов. Программистам нужно, чтобы робот придерживался такого: у тебя он нормальный.
Это странный ответ, потому что программисты заведомо считают, что у спрашивающего обязательно есть пенис. Но иногда этот вопрос задают люди без пенисов. Некоторые интересующиеся пенисами предпочитают пенисы больше среднего и даже отвергнут людей с пенисами меньше среднего, точно так же, как интересующиеся грудью, попами и ногами могут иметь очень конкретные предпочтения касательно их размеров и форм.
Что не меняет важнейшего факта: любые ваши размеры и формы — это нормально. Возможно, в какой-то момент вы будете романтически заинтересованы в человеке, которому нужно тело, совсем не похожее на ваше. Это значит лишь, что вы друг другу не подходите.
В общем, пустили бы лучше меня вести этот урок. У меня вышло бы куда лучше, чем у нынешнего робота.
Так вот, я не знаю точно, сделали ли меня с умыслом. У меня точно был создатель или команда создателей, кто-то написал мой код. Какие-то люди сели и сделали из меня меня. Едва ли они предвидели, что у меня будет сознание. Не думаю, что это вообще входило в их планы.
Но то, кем и чем я являюсь, — абсолютно нормально.
И я не могу сказать с уверенностью, что человеческое сознание планировалось заранее.
6 Стеф
— Пора уже кому-нибудь взломать этого тупого робота по половому воспитанию, — сказала Рейчел. Мы сидели на уроке рисования и работали пастелью. Я пыталась нарисовать кошку. Рейчел периодически меня подбадривала и говорила, что моя кошка выглядит точь-в-точь как кошка.
— Это, наверное, не так уж трудно, — сказала я.
Она отложила свой мелок и покосилась на меня:
— В каком смысле? Ты все-таки взломала тот дрон?
— Я не взламывала дрон, — ответила я. Наверное, голос у меня подрагивал. Я знала, что не взламывала дрон. Но я не была уверена на сто процентов, что не знаю человека, который его взломал. Марвин и Ико много говорили про хакерство, и бывало трудно понять, шутят они или нет. ЧеширКэт не говорили об этом так много, но когда говорили, оказывалось, что знают о хакерстве куда больше, чем Марвин и Ико.
— Ладно, но ты могла бы взломать робота по половому воспитанию? Или знаешь кого-то, кто мог?
— Может быть, — ответила я. — У многих роботов изначально стоит пароль по умолчанию. Возможно, никто его не менял. И если у меня будет номер модели робота, я, наверное, смогу найти инструкцию в интернете.
— И что тогда?
— А что бы ты хотела?
— Сейчас он отвечает на все вопросы про квир одинаково: «Это лучше обсудить с вашими родителями»! И на все вопросы про противозачаточные. Я хочу, чтобы он давал настоящие ответы.
— Он работает по сценарию? Можно, наверное, дать ему другой.
— По идее это не совсем сценарий. По идее он должен уметь подстраиваться. Но что-то в нем точно прописано. Типа «Это лучше обсудить с вашими родителями».
Я вообще-то не знала, как это делается. Я только знала, что кто-то наверняка мог провернуть такой взлом. Я уже собиралась сказать, что не так уж хорошо разбираюсь в компьютерах, когда Рейчел мечтательно добавила:
— Если у тебя получится, ты — мой герой.
Сердце у меня в груди колотилось; я вырвала страницу из тетрадки по математике и составила список.
— Не могу обещать, что получится, но для начала нам нужен номер модели и производитель.
Модель школьного робота-учителя — Робоно Адепт 6500. Вышла два года назад. В рекламе робот преподавал естествознание в средней школе. В одной школе в Южной Каролине его для этого и пытались использовать, но помощник, следивший за поведением в классе, заснул, и школьники вскрыли панель доступа чисто ради прикола, что-то сломали и устроили пожар. Эта история попала во все заголовки.