Малка армия от философи и теолози обаче обявява, че е невъзможно да бъдат създадени истински роботи, които могат да мислят като нас. Философът от Калифорнийския университет в Бъркли Джон Сърл предлага въвеждането на „теста с китайската стая“, за да докаже, че AI не е възможен. По същество Сърл твърди, че макар и роботите да могат да издържат някакви форми на теста на Тюринг, те постигат това само защото боравят наслуки със символи, без да разбират ни най-малко какво означават те.
Представете си, че седите в кутията и не разбирате и дума китайски. Допуснете, че разполагате с книга, която ви позволява да превеждате бързо от китайски, като размествате йероглифите. Ако един човек ви зададе въпрос на китайски, вие просто размествате бързо тези странни на вид знаци, без да разбирате какво означават те, и давате правдоподобен отговор.
Същността на неговата критика се свежда до разликата между синтаксис и семантика. Роботите могат да усвоят синтаксиса на един език (например да боравят с граматиката, формалната структура и т.н.), но не и неговата истинска семантика (например какво означават думите). Роботите могат да боравят с думи, без да разбират какво означават те. (Това е подобно донякъде на разговора по телефона с машина, която изпраща автоматично гласови съобщения, в който случай трябва да натискате бутона „едно“, „две“ и т.н. за всеки отговор. Гласът от другия край е напълно способен да разпознае вашите цифрови отговори, но му липсва каквото и да е разбиране на смисъла, вложен в тях.)
Физикът Роджър Пенроуз от Оксфорд също е убеден, че изкуственият интелект е невъзможен. Механичните същества, които могат да мислят и да притежават човешко съзнание, са невъзможни според законите на квантовата теория. Той твърди, че човешкият мозък е толкова далеч от каквото и да е възпроизвеждане в лабораторни условия, че създаването на човекоподобни роботи е експеримент, който е обречен на провал. (Аргументите му са, че по същия начин, по който Гьоделовата теорема за непълнотата е доказала, че аритметиката е незавършена, и принципът на неопределеността на Хайзенберг ще докаже, че машините са неспособни да извършват интелектуални операции като човешката мисъл.)
Обаче много физици и инженери са на мнение, че в законите на физиката няма нищо, което би възпрепятствало създаването на един истински робот. Например на Клод Шанън, наричан често бащата на информационната теория, веднъж задали въпроса: „Могат ли машините да мислят?“ Отговорът му гласял: „Разбира се.“ Когато го помолили да разясни думите си, той казал: „Аз мисля, нали?“ С други думи, за него било очевидно, че машините могат да мислят, защото хората са машини (макар и да са машини, направени от уетуер, а не от софтуер).
Тъй като във филмите виждаме образи на роботи, можем да си помислим, че разработването на сложни роботи с изкуствен интелект предстои да настъпи всеки момент. В действителност положението е много по-различно. Когато виждате робот, който се държи като човек, обикновено става дума за някакъв трик, т.е. за човек в сянка, който говори от името на робота чрез микрофон, подобно на Магьосника от „Магьосникът от Оз“. На практика нашите най-усъвършенствани роботи като роботите скитници на планетата Марс притежават интелекта на насекомо. В прочутата Лаборатория за изкуствен интелект в МТИ експерименталните роботи се сблъскват с трудности при възпроизвеждането на постижения, които са по силите дори на хлебарки, като придвижването в стая, пълна с мебели, откриването на скривалища и разпознаването на опасности. Нито един робот не би могъл да разбере и най-обикновен детски разказ, който се чете пред него.
Във филма „2001: Космическа одисея“ се допуска неправилно, че през 2001 г. ще разполагаме с ХАЛ — суперробот, който може да пилотира космически кораб до Юпитер, да си бъбри с членовете на екипажа, да решава проблеми и да се държи почти като човек.
Има поне два значителни проблема, с които учените се сблъскват от десетилетия и които възпрепятстват усилията им да създадат роботи: разпознаването на модели и здравият разум. Роботите могат да виждат много по-добре от нас, но те не разбират това, което виждат. Роботите могат и да чуват много по-добре от нас, но те не разбират това, което чуват.