— Я не про те, — сказав Гелсен. Нарешті він усвідомив, чого йому не вистачало, — розуміння. — Я хочу сказати, вам не здається, що наділяти машину здатністю мислити небезпечно?
— Не думаю, шефе. А чому ви запитали?
— Розумієте, я не вчений і не інженер. Моя справа рахувати витрати та забезпечувати виробництво, а решта — це ваша турбота. Але як пересічна людина я, чесно кажучи, починаю побоюватися сторожових птахів.
— Для цього немає жодних підстав.
— Мені не подобається сама ідея самонавчання.
— А чому ні? — посміхнувся Макінтайр. — Я розумію. Ви, шефе, як і більшість людей, боїтеся, що одного ранку ваші машини прокинуться і скажуть: «Чим це ми тут займаємося? Краще правитимемо світом!» Ви це маєте на увазі?
— Щось подібне, — зізнався Гелсен.
— Це неможливо, — запевнив Макінтайр. — Сторожовий птах — це справді складна система, але Електронний обчислювач Масачусетського технологічного інституту куди складніший. А все ж у нього немає розуму.
— Так, але сторожові птахи вміють учитися.
— Звісно. Всі нові обчислювальні машини теж уміють. То що, по-вашому, вони діятимуть спільно зі сторожовими птахами?
Гелсенові набрид Макінтайр і ще більше йому набридло бути смішним...
— Це ж факт, що сторожові птахи самі втілюють у практику те, чому навчилися. Ніхто їх не контролює.
— От що вас турбує, — сказав Макінтайр.
— Я вже давно збираюся зайнятися чим-небудь іншим, — сказав Гелсен (до останнього моменту він сам цього не усвідомлював).
— Послухайте, шефе. Хочете знати думку інженера з цього приводу?
— Слухаю?
— Сторожові птахи анітрохи не небезпечніші за автомобілі, обчислювальні пристрої чи термометри. Свідомості й волі в них не більше. Просто вони сконструйовані так, що реагують на певні сигнали, і, вловлюючи їх, виконують певні операції.
— А системи самонавчання?
— Без них не можна, — терпляче пояснював Макінтайр, ніби маючи справу з десятирічною дитиною. — Завдання сторожового птаха полягає в тому, щоб запобігти всім спробам убивства, вірно? Але лише деякі вбивці випромінюють подібні сигнали. Для того, щоб зупинити всіх, сторожовий птах має виробити нові визначення вбивства та співвіднести їх з тим, що він уже знає.
— Мені здається, це якось не по-людськи, — сказав Гелсен.
— Нічого кращого ми не вигадали. Сторожові птахи позбавлені емоцій. Вони міркують не так, як люди. їх неможливо ані підкупити, ані отруїти. Нічого їх боятися.
На столі в Гелсена пролунав виклик селектора. Він не звернув на нього уваги.
— Мені все це відомо, — сказав Гелсен. — Але все одно я часом почуваю себе людиною, що винайшла динаміт. Вона теж вважала, що його використовуватимуть виключно для корчування пнів.
— Але сторожового птаха винайшли не ви.
— Однак я відчуваю моральну відповідальність, бо виробляю їх.
Знову задеренчав сигнал виклику, і Гелсен роздратовано натиснув кнопку.
— Надійшли звіти про перший тиждень роботи сторожових птахів, — сказав секретар.
— І що там пишуть?
— Усе чудово, сер!
— Надішліть мені їх за чверть години. — Гелсен вимкнув селектор і повернувся до Макінтайра, який сірником чистив нігті. — Вам не здається, що в думках людей виникла певна тенденція? їм потрібен механічний бог? Електронний отець?
— Шефе, — сказав Макінтайр. — Вам, мабуть, варто було б докладніше ознайомитися з конструкцією сторожового птаха. Ви знаєте, як влаштовані його системи самонавчання?
— У загальних рисах.
— По-перше, сформульована мета — не дати змоги живим істотам вчинити вбивство. По-друге, вбивство можна визначити як акт насильства, що передбачає руйнування, завдання пошкоджень або жорстоке поводження, з метою припинення життєдіяльності іншого живого організму. По-третє, більшість убивств можна виявити за певними хімічними та електричними змінами в організмі злочинця.
Макінтайр зробив паузу й закурив іншу сигарету.
— Ці три умови визначають звичайні функції птахів. Крім того, є ще дві умови для системи самонавчання. По-четверте, деякі живі організми можуть убивати, не виявляючи ознак, згаданих в умові номер три. По-п'яте, їх можна виявити за допомогою даних, що застосовуються в умові номер два.
— Розумію, — промовив Гелсен.
— Як бачите, усе це цілком безпечно й надійно.
— Сподіваюсь... — Гелсен вагався. — Що ж, мабуть, усе зрозуміло.