Nie dałam mu skończyć.
— Byłam święcie przekonana, iż żaden SIL nie zna nazwiska swojego twórcy.
— I nie myliłaś się. Nigdy nie złamałem tego kanonu. Miałem jednak mnóstwo okazji, by poznać zarówno artefakty, jak i sztuczne istoty ludzkie — bo to nie to samo — i zdobyć sobie ich zaufanie, a niejednokrotnie przyjaźń. Powiedz mi, Miss Marjorie, czyżbyśmy wykonywali podobny zawód?
— Nie, nie sądzę.
— No widzisz. Tylko inżynier-genetyk lub ktoś blisko związany z tą profesją mógłby pochwalić się posiadaniem przyjaciół pośród SIL-ów. Wiesz dlaczego, moja droga? Ponieważ, wbrew obiegowym opiniom, jest po prostu niemożliwe, by laik potrafił odróżnić sztuczną istotę ludzką od normalnego człowieka… a dzięki bezpodstawnym uprzedzeniom głupich ludzi, ktoś, kto został stworzony w laboratorium genetycznym prawie nigdy nie zdradzi dobrowolnie swego pochodzenia. Powiedziałbym nawet, że nie „prawie” nigdy, tylko po prostu nigdy. Dlatego właśnie, chociaż cieszy mnie, że nie masz nic przeciwko SIL-om, zmuszony jestem potraktować to, co powiedziałaś, jako wybieg mający pokazać nam, iż jesteś kobietą wolną od przesądów i uprzedzeń.
— W porządku. Możesz to interpretować jak chcesz. Jednak ja naprawdę nie widzę przyczyn, dla których sztuczne istoty ludzkie muszą być obywatelami drugiej kategorii.
— I masz rację. Tylko widzisz, niektórzy ludzie czują się przez nie zagrożeni. Spytaj lana. Właśnie wybiera się do Vancouver, by powstrzymać swoją kompanię przed zatrudnieniem SIL-ów w charakterze pilotów. On uważa…
— Przestań! Wiesz dobrze, że to nieprawda. Muszę przedstawić sprawę w taki sposób, ponieważ taki był wynik głosowania moich przyjaciół ze związku. Nie jestem jednak głupcem, Georges. Mieszkając z tobą pod jednym dachem i rozmawiając nie jeden raz na ten temat, uświadomiłem sobie, że musimy pójść na kompromis. Tak naprawdę, to nie my jesteśmy pilotami; od początku tego wieku są nimi komputery. W razie awarii stałbym się natychmiast dzielnym lotnikiem, który zajmie się bezpiecznym sprowadzeniem statku na ziemię… lecz na miejscu pasażerów nie zakładałbym się, że ta sztuka mi się powiedzie. Dawno już minęły czasy, kiedy statki powietrzne latały z taką prędkością, która w w wypadku awarii zostawiała pilotowi wystarczająco dużo czasu na reakcję. Och, naturalnie, próbowałbym! Wszyscy moi koledzy również, jak sądzę. Lecz jeśli potrafisz stworzyć sztuczną istotę ludzką, która byłaby w stanie myśleć i poruszać się na tyle szybko, by poradzić sobie z nagłym spadkiem mocy przy lądowaniu, jestem gotów przejść na emeryturę. Rozumiesz teraz, o co nam chodzi? Przecież bez względu na to, czy kompania wymieni nas na SIL-e, czy też nie, nadal będzie musiała wypłacać pełne pensje.
— Owszem, potrafiłbym stworzyć taki organizm. Oczywiście pod warunkiem, że pozwolono by mi na klonowanie. I wierz mi; wszyscy piloci poszliby wówczas na zieloną trawkę. Ale nie byłby to SIL, lecz żywy artefakt. Gdybym pokusił się o wyprodukowanie w laboratorium istoty mającej stać się rzeczywiście idealnym pilotem — to znaczy takim, który w razie awarii mógłby zastąpić nawet komputer pokładowy — po prostu nie byłbym w stanie nadać jej wyglądu normalnego człowieka.
— Och, nie rób tego!
Obaj obrócili się ze zdziwieniem w moją stronę; Janet również spojrzała na mnie, najwyraźniej zaskoczona. Natychmiast pożałowałam, że nie trzymałam języka za zębami.
— Dlaczego nie? — spytał Georges.
— No… Bo ja na przykład nie wsiadłabym do takiego statku. Czułabym się bezpieczniej, wiedząc, iż to Ian jest kapitanem.
— Dziękuję ci, Marjie — powiedział Ian — lecz słyszałaś przecież, co mówił Georges. Jemu chodzi o pilota-klona, który byłby lepszy ode mnie. Myślę, że to jest realne. Do diabła, to musi kiedyś nastąpić! Tak, jak niegdyś koboldy zastąpiły górników, tak ktoś lub coś zastąpi w końcu kapitanów SBS-ów. Nie muszę się z tego powodu cieszyć, ale taka jest prawda.
— Georges — zapytałam — czy pracowałeś kiedyś z inteligentnymi komputerami?
— Oczywiście. Sztuczna inteligencja to dziedzina bardzo zbliżona do tego, czym się zajmuję.
— W takim razie z pewnością wiesz, że specjaliści w tej dziedzinie już kilka razy ogłaszali, iż udało się im dokonać przełomu w konstrukcji tych maszyn. Krótko mówiąc twierdzili, że skonstruowali „świadomy” komputer. Lecz za każdym razem kończyło się to jednym wielkim rozczarowaniem.
— Uhmm. I dosyć przykrym.
— Nie. Raczej nieuniknionym. I tak będzie zawsze. Komputer może stać się „świadomy”, naturalnie. Wystarczy podnieść poziom prędkości przetwarzania danych oraz stopień ich złożoności do poziomu, jaki jest w stanie przetworzyć ludzki mózg, i problem z głowy. Ale wówczas odkrywamy nagle, że wszystko na nic. Okazuje się, że ten poziom dla maszyny jest po prostu nieosiągalny. Ciągle ktoś musi wydawać jej polecenia, inaczej głupieje. Ten dylemat jest nierozwiązywalny. Komputer nigdy nie będzie naprawdę inteligentny. — Wzruszyłam ramionami i mówiłam dalej: — Ian może nie zawsze jest w stanie uratować swoich pasażerów, ale przynajmniej będzie próbował. Za to żywy artefakt, nie należąc do gatunku ludzkiego i nie będąc wobec niego lojalnym, może rozbić statek choćby dla samego piekła, jaki w ten sposób rozpęta. Może po prostu być zmęczony sposobem, w jaki jest traktowany. Czy mam dalej wymieniać hipotetyczne powody? Nie, Georges, ja zawsze będę wolała latać z Ianem. Twój artefakt mógłby przypadkiem nauczyć się nienawidzieć ludzi.
— Nie mój artefakt — powiedział cicho Georges. — Czy zauważyłaś, jakiego trybu używałem, mówiąc o tym projekcie?
— Obawiam się, że nie.
— Przypuszczającego. A wiesz dlaczego? Ponieważ to, co powiedziałaś przed chwilą, nie jest dla mnie niczym nowym. Nie twierdziłem, że zamierzam zrealizować ów projekt, bo to nie byłaby prawda. Owszem, potrafiłbym stworzyć takiego pilota. Lecz sprawienie, by postępował on według takich samych zasad etycznych, jakie wpojono Ianowi w czasie szkolenia — to już przekracza moje możliwości.
— Ten problem można by jakoś rozwiązać — odezwał się Ian. — Być może wystarczyłoby wymóc na kompaniach, żeby przed zatrudnieniem jakiegokolwiek SIL-a lub ŻA-ta poddawano go testowi na przestrzeganie zasad ludzkiego kodeksu etycznego.
— A jak wyobrażasz sobie taki test? Bo ja nie znam żadnego sposobu na przekazanie owych zasad zarodkowi. Marjie dowiodła natomiast, iż za pomocą treningu również nie da się tego osiągnąć. Zresztą, nawet jeżeli, to co miałby udowodnić taki test? — Georges wzruszył ramionami i zwrócił się do mnie: — Kiedy byłem studentem, przeczytałem kilka klasycznych powieści, których bohaterami były humanoidalne roboty. To były naprawdę urocze historyjki. Oś wielu z nich stanowiło coś, co nazywano Prawami Robotyki*.[* Chodzi tu o powieść Isaaca Asimova zatytułowaną „Trzy Prawa Robotyki”, należącą do kanonu SF] Był to zbiór podstawowych pojęć i reguł, znajdujący się na stałe w systemie operacyjnym każdego humanoida. Uniemożliwiał on czynienie krzywdy ludziom; obojętnie, czy przypadkowo, czy też celowo. Świetny temat dla literackiej fikcji… ale jak sprawić, by mogła się ona stać rzeczywistością? Co zrobić, żeby posiadająca własną świadomość sztuczna istota inteligentna — obojętnie: elektroniczna czy też organiczna — była zawsze lojalna wobec ludzi? — Na ustach Georgesa pojawił się cyniczny uśmieszek. — Są tacy, dla których inteligencja zaczyna się na poziomie, na którym świadoma istota zaczyna sobie zadawać pytanie: „A co ja będę z tego mieć?”. Tak sobie myślę, Marjie, że zanim zaproponowałem ci, byś sprzedała to jajo, powinienem może poinformować cię, co ty będziesz z tego miała.