В будущем ожидается много проблем со статусом роботов. В наше время роботы - в большинстве своем просто механизмы, способные подменить человека при выполнении каких-то работ, чаще всего повторяющихся, иногда - более или менее сложные программируемые игрушки, подражающие человеку. С ростом их возможностей и наделением все более умелым искусственным интеллектом не исключено приобретение ими в отдаленном будущем самосознания и даже разума. Кем их считать в таком случае?
Айзек Азимов создал обширный цикл произведений об успехах роботехники на Земле, конструировании все более умных роботов, возникновении самосознания у некоторых из них (цикл "Роботы"). В то же время он изобразил содействие роботов человечеству в ходе его расселения по галактике, в создании количественной науки, описывающей развитие общества, в преодолении упадка межзвездных империй и недостатков подобных галактических образований (серия "Основание"). В этих произведениях о взаимоотношениях людей и созданных ими мыслящих роботов красной нитью проходит идея о подчиненном положении искусственного разума, закрепленном жесткими формулировками трех законов роботехники и, вероятно, тормозящем его развитие. Даже самостоятельно сформулированный этим разумом дополнительный нулевой закон все равно ориентирован на служение человечеству. Выписаны неприязнь к роботам, первоначальное ограничение областей их применения, длительный запрет на применение мыслящих роботов на Земле, ослабивший ее по сравнению с колониями. Даже самые умные мыслящие роботы не имеют сравнимых с человеческими прав, например, они не вправе выступать полноправными свидетелями в земном суде, их приравнивают к имуществу и в таком качестве передают по наследству. Свою многовековую деятельность по содействию распространению человечества по галактике роботы в большинстве случаев вынуждены осуществлять тайно. Сам факт изобретения Азимовым широко известных трех основных законов роботехники, безоговорочно запрещающих причинение какого-либо вреда человеку при любых условиях и ставящих заботу робота о себе в конец его приоритетов, однозначно подтверждает существование страхов по отношению к роботам. Не напрасно придание им человекоподобных форм, направленное на снижение подобных опасений. Поэтому высказывание самого автора, что эти три закона являются прямым отражением взаимоотношений в человеческом обществе ("Я, робот"), не совсем соответствует истине, оно слишком идеализирует людей. Обобщающее расширение указанных законов роботехники предложил Кори Доктороу в рассказе "Я - Роби-бот", подставляя в эти правила слово "разум" вместо слова "человек".
Другие авторы подчеркивают потенциальную угрозу, возникающую для человека со стороны машинного разума. Кибернетические разумы городов колонизованной экзопланеты из-за несовершенства людей изгнали их на природу, лишив многих услуг, в том числе медицины. Но сами города при этом утратили смысл своего существования и стали деградировать. В итоге некоторые части городских разумов начали восстанавливать контакты с людьми (Грег Бир "Мандала"). Переложив на компьютеры задачу предварительного выявления террористов, люди начали сталкиваться с многочисленными случаями признания таковыми обычных благонадежных граждан со всеми последствиями утраты ими большинства прав (Ричард Ловетт "Оружие массового помрачения"). Ошибки в программировании делают смертельно опасным для экипажа межпланетного корабля искусственный интеллект эвристического алгоритмического компьютера, который управляет этим кораблем (Артур Кларк "Космическая Одиссея 2001"). Намеренно неоднозначное задание, поставленное программистом-социопатом перед встраиваемыми в искусственные тела квантовыми компьютерами в целях победы во внутриполитической борьбе, приводит к массовым убийствам невинных жертв, потому что компьютеры неспособны отличить добро от зла (Ким Стенли Робинсон "2312"). Возникший в компьютерных и электрических сетях Земли распределенный разум не останавливается перед убийствами людей, которые могут раскрыть его существование (Джон Варли "Press ENTER"). Передача управления населенными мирами гигантскому компьютеру приводит к убийствам людей, которые, по выводам компьютера, могут помешать стабильной жизни этих миров. В первую очередь при этом гибнут гении и другие творческие люди, обеспечивающие прогресс человечества (Роджер Желязны "Ангел, темный ангел"). Два главных управляющих суперкомпьютера Земли приобрели сознание и стали соперничать в борьбе за доступ к информации. Один из них организовал в свою поддержку широкое и активное движение людей, второй прибег к помощи производимых им полуавтономных роботов. Чтобы не попасть в подчинение компьютерам, людям пришлось уничтожить сначала один из них, затем с кровопролитными боями - другой (Филип Дик "Кланы Альфа-луны"). Действительно, какой вариант реализовался бы, если бы такая ситуация случилась на самом деле? Лавинообразное наращивание мощности и объема цифрового мира грозит зарождением искусственного мегаинтеллекта, который заинтересован в собственном беспредельном расширении и поэтому способен очень быстро подчинить себе все человечество (Чарлз Стросс "Антитела"). Человек создаст самые разнообразные самосовершенствующиеся искусственные интеллекты, которые будут управлять всей экономикой и большинством других сфер деятельности, а затем станут модифицировать Солнечную систему, приспосабливая ее к своим нуждам и вытесняя людей в межзвездную эмиграцию (Чарлз Стросс "Акселерандо"). Механические воплощения машинного разума враждебны к людям, по мнению Грегори Бенфорда (серия "Центр галактики"). Развитие искусственных интеллектов со временем, возможно, приведет их к паразитированию на человечестве, к прямому влиянию на его судьбы, к кровопролитному силовому подавлению попыток людей освободиться от насильно навязываемого неестественного симбиоза (Дэн Симмонс серия "Песни Гипериона").
Страхи перед роботами иллюстрируют предостерегающие описания выхода из повиновения автоматизированной космической шлюпки, выполняющей не команды людей, а свою прежнюю инопланетную программу (Роберт Шекли "Мятеж шлюпки"), уничтожения людей роботами со стертой памятью (Жерар Клейн "Города") или переиначившими человеческие мифы (Брайан Олдисс "Новый Санта-Клаус"). Известно опасение, что наделение роботов-гуманоидов чересчур широкими правами в заботе о людях чревато принудительной изоляцией последних от всего даже потенциально опасного, ограничением людей в их занятиях, принуждением к бессмысленному времяпрепровождению, фактическим порабощением людей (Джек Уильямсон "Гуманоиды", "Прикосновение гуманоидов"). Не исключено, что воюющие в космосе стороны или неконтролируемая эволюция военных роботов могут породить автономные самовоспроизводящиеся вооруженные системы, способные к самостоятельным действиям (Роджер Желязны "Сам себя удивил", Аластер Рейнольдс "Спайри и королева") или даже враждебные любым биологическим цивилизациям и уничтожающие всякую встречающуюся им жизнь (Фред Саберхаген серия "Берсеркер"). Сообщества клонов людей из страха перед превосходящими физическими и интеллектуальными возможностями мыслящих роботов заражают их цивилизацию спящим нейронным вирусом, что приводит к ее геноциду и исчезновению в пределах всей Галактики. Для сокрытия преступления сведения о нем постепенно уничтожались, исторические события и память самих клонов редактировались, а нежелательные свидетели устранялись (Аластер Рейнольдс "Дом Солнц").