Czy android, AI, robot czy replikant to też człowiek? Gdybyście mieli wątpliwości, na to pytanie jest oczywista odpowiedź: nie. No wiecie: jabłko to nie gruszka, a pies to nie kot. A jeśli nawet zadamy je troszkę bardziej sensownie: czy należy mu się ludzkie traktowanie i ludzkie prawa? Mówimy przecież o czymś, co nie istnieje. Na razie.
To oczywiście stary problem ciskany fanom SF i fantasy wielokrotnie w twarz. I każdy z nas powinien się też z nim uczciwie zmierzyć. Lubimy gatunki, które zawierają elementy zupełnie fikcyjne. Czy to będą obcy czy roboty, podróże międzygwiezdne czy transhumanizm. To nie temat na dzisiaj, ale trzeba przynajmniej powiedzieć, że nawet jeśli są fikcją, to mają całkiem realną moc pobudzać naszą wyobraźnię, zapoznawać nas z ideami, wartościami i kierować nasze myśli na nowe tory, często inspirować do odkryć.
Jednak wiele wskazuje, że sztuczne inteligencje mogą nie być już tak odległym marzeniem. Najwięksi producenci procesorów, jak znana z produkcji układów graficznych Nvidia i inni giganci technologii, poświęcają kwestii samouczących się maszyn wiele uwagi (i co ważniejsze środków), a znane nazwiska ze świata nauki i przemysłu (jak Elon Musk i Stephen Hawking) przestrzegają przed możliwymi zagrożeniami. W naszej kulturze temat nie jest wcale nowy, sięga opowieści o golemach czy tworach Hefajstosa, więc pewne aspekty zagadnienia zdążyły się już w naszej nerdowskiej świadomości utrwalić.
Impulsem dla tej refleksji był serial Westworld i kontrowersja związanej ze sceną, gdzie Dolores jest zaciągnięta do stodoły w celu dość jasno zasugerowanym. Coś mi wówczas zgrzytnęło. Cała scena (rozważana wtedy z perspektywy osoby nieznającej późniejszych odcinków) dość jasno nakreśla linię pomiędzy nią a Kowbojem w Czerni. Dla niego Hości są mniej niż ludźmi, są częścią zabawy, częścią większej gry. Trudno mi nie widzieć w niej ofiary a w nim oprawcy. Nie zobaczyć jej jako bardziej ludzkiej niż ten konkretny człowiek.
Jest to też całkiem zrozumiały zabieg narracyjny. Twórcy, jak sami przyznają, chcieli, by widz nawiązał empatyczną więź, mógł się w opowieść zaangażować, utożsamiać. Ale... Jakkolwiek urocza by nie była Dolores budząca się rano z włosem rozsypanym na poduszce – czy faktycznie w tamtym momencie czuje i myśli w sposób dostępny istocie świadomej i inteligentnej? A jeśli nawet, czy widz już w tamtym momencie posiada taka wiedzę, czy poznał wystarczająco wiele faktów, by udzielić na to odpowiedzi?
Jakkolwiek zadowalające jest dla mnie wytłumaczenie twórców, nie mogę nie zauważyć, że na pewnym poziomie jest to zabieg nie do końca uczciwy. Niejako oczekują od widza, że podejmie decyzję zanim pozna fakty. Nasza post-Dickowska wersja Merceryzmu nakazuje nam być empatycznym nie tylko względem zwierząt, ale i androidów. Ale jedno z najważniejszych pytań związanych z fantastycznym – Czy androidy marzą o elektrycznych owcach? – pozostaje bez odpowiedzi. W proponowanej przez książkę rzeczywistości, te pragnienia są bardzo ludzkie. Czy to jednak jedyna opcja? Czy najbardziej prawdopodobna?
Czy i jak krzywdzimy androida jest pytaniem jeszcze bardziej złożonym niż nasz stosunek do owiec i innych zwierząt hodowlanych. Nie jest wcale dla mnie oczywiste, co stanowi rzeczywistą krzywdę dla androida: jeśli mogę go zastrzelić, uszkodzić, a on bez problemów zostanie zreperowany i będzie jak nowy? Jak ocenić przeprogramowanie czy wymazywanie pamięci? Zwróćcie uwagę – nie jako akt przeciw jego naturze, ale jako jeden z aktów ją definiujących, z góry zaprogramowanych. I czy gwałt jest gwałtem bardziej na córce farmera czy na prostytutkach? Obie nie mają tutaj wolnej woli: jedna jest zaprogramowana, by być łatwiej dostępna, druga, by się nieskutecznie bronić.
Jane w świecie Endera czy niektóre inteligencje w światach cyberpunkowych powstają niejako przypadkowo, jako świadomość rodząca się w morzu informacji ogromnie złożonego systemu i choć to fascynująca opcja, prawdopodobniejsze wydaje się powstanie sztucznej inteligencji jako celowego działania człowieka. I choć chęć odkrywania i tworzenia czegoś nowego nie może być lekceważona, mamy też swoje cele, które chcemy osiągnąć. A posiadanie określonej funkcji i roli, wykonywanie pewnej narzuconej pracy to bycie poddanym. Już nawet nie zagłębiając się w bycie własnością. Dla człowieka to niejednokrotnie mało atrakcyjne perspektywy, uderzenie w jego prawa, poczucie sprawiedliwości. Przyczyny niezadowolenia, buntu. Czy nie jest jednak możliwe, że nawet posiadająca samoświadomość i mogąca się rozwijać inteligencja będzie „szczęśliwa”, gdyż jej istnienie będzie posiadało jakiś sens, jakiś kierunek: ten zaprogramowany, nadany przez nas? Że jej potrzeby i dążenia będą po prostu inne i związane z tym, jak i dlaczego powstała?
Ostatecznie jest dość oczywiste, że ten centralny dla naszych rozważań, Westworldowski rodzaj androida zmierza do tego, by być czymś więcej niż drogą zabawką czy narzędziem. Tylko co nas o tym przekonuje dokładnie? Czy tylko jesteśmy wzruszeni łzami zbierającymi w oczach Dolores, czy również zauważamy jej akty i dążenia, które przekraczają oprogramowanie? Gdzie należy postawić granice użycia maszyny i wykorzystania osoby?
Ostatnio dość często mówi się o teście Turinga, czasem widząc w nim granicę, którą ma przekroczyć maszyna, by być uznana za inteligentną. Jednak co naprawdę on bada? W Westworld zostaje nam wprost zasygnalizowane, że maszyny, już w poprzednich, mniej doskonałych modelach, sobie z tym testem radziły. Mamy tu też wymowne scenę, gdzie zostaje zadane pytanie, czy jeśli nie potrafię (dodam: na pierwszy rzut oka) poznać różnicy, czy ma ona znaczenie? Jednak test ten nie bada inteligencji, nie mówi nic o potencjale do samostanowienia, do rozwoju, dążeń, wolności, twórczości, test bada jedynie zdolność naśladowania człowieka. Badacze sztucznej inteligencji używają tu ładnej analogii: to tak, jakby badać zdolność do lotu przez podobieństwo do ptaka.
Generalnie większość dzieł kultury popularnej (z której tutaj poniekąd wyłączam hard-SF) ma do pewnego stopnia ten problem. Utożsamia inteligencję z byciem jak człowiek. Butleriański Jihad w świecie Diuny zakazuje tworzenia maszyn na podobieństwo ludzkiego umysłu. Pomijam rozważanie na temat faktu, że można być dalej człowiekiem mimo ograniczonej inteligencji. Ale co mało zostaje wydobyte, to możliwość bycia inteligentnym inaczej niż człowiek. I nie chodzi tylko o wypowiadania kwestii beznamiętnym tonem czy zabójcze skłonności jako wynik deficytów moralnych (HAL9000 czy ostatnio Aida). Nasze procesy myślowe są kształtowane przez liczne czynniki: podstawowe ludzkie instynkty i emocje choćby, a te mają swoje korzenie w naszych procesach biologicznych rozwojowych, ewolucyjnych, rolach społecznych itd. Dla przykładu nasze bycie kobietą lub mężczyzną jest związane nie tylko z rolami społecznymi, jakie przyjmujemy, ale z głęboko zakorzenionymi w nas instynktami związanymi ze znalezieniem partnera i wychowywanie potomstwa. W science fiction wymyślono różne scenariusze, ale prawda jest taka, że AI nie ma żadnej potrzeby mieć płci, może co najwyżej zostać obdarzone jej pozorem dla naszego komfortu. Nawet instynkt samozachowawczy nie jest pewnikiem. Tym bardziej struktura dążeń, potrzeb, i marzeń. Poczucie niezadowolenia czy krzywdy, które dla nas są instynktami rozwojowymi.
Ile naszego wkładu, ile wpływu na ostateczną naturę takiego bytu będzie zależało od nas, a na ile dokona się w niej akt samostanowienia na poziomie fundamentalnym, zupełnie niedostępnym istocie ludzkiej? – to tylko jedno z licznych pytań bez odpowiedzi. Oczywiście, jeśli kiedyś zostanie stworzony replikant czy Cylon, który i konstrukcyjnie, i mentalnie będzie tak bliski człowiekowi, że będzie ciężko wymyślić, jak nas rozróżnić, to zupełnie inny poziom problemu. Tylko czy to jest nasz cel? Skopiować człowieka (nawet gdyby to było proste)? Czy więcej nie zaoferuje nam inteligencja inna od naszej, jeśli tylko będzie wystarczająco podobna, byśmy potrafili się nawzajem zrozumieć?
Mała dygresja. Platon pisał w Uczcie o miłości, która jest kochaniem w innym naszego własnego podobieństwa. Jednak ja wolę iść za von Balthasarem, który zauważa, że oznacza to jedynie potwierdzenie samego siebie, który pisze, że kochać to przyjąć inność drugiego. Abstrahując od kochania: spotkanie z inteligencją, która będzie jak nasza, pewnie byłoby dla nas łatwiejsze, potwierdzające nas, pozwalające kontynuować dyskusje na dawno wytartych torach, zachowując porządek, jaki chcemy światu nadawać.
fot. materiały prasowe
To jest też problem, jaki mam w temacie. Fakt, że nasze ideologie już zostają zaprzęgnięte, sądy już w pewien sposób wydane. Sytuacja Westworldu zgrabnie wpisuje się nam w schematy teorii konfliktu społecznego prosto z Marksa (co jest jeszcze pogłębione przez płci przypisane postaciom, jak i ich statut). I z jakiś mętnych powodów nie warto nawet podjąć dialogu: decyzja zostaje podjęta – musi być rewolucja podjęta przez człowieka. Statuty niewinnej ofiary i niecnych robo-fobów przydzielone. Prowadzi Hostów prosto na destruktywną drogę, według bardzo niejasnych przesłanek. Takie apele do naszego współczucia są niezwykle skuteczne. I czytając komentarze w sieci, zauważyłem i takie reakcję, które wydają się być przejawem łyknięcia tej bajki w całości, i gotowości rozpoczęcia walki o to, by nie uciskać biednego androida już dziś. Być może nasza historia ze sztucznymi inteligencjami okaże się równie tragiczna jak Quarian i Gethów w Mass Effect. Jednak na razie jakoś nie jestem gotów przyjmować klasowej winy i rozpoczynać pokuty za zbrodnie wobec istot, które jeszcze nie istnieją. Za to jestem gotów rozmawiać.
Dla jasności i podsumowania: nie mogę odpowiedzieć, na to, jakie prawa powinniśmy przyznawać sztucznym inteligencjom, które stworzymy. Posiadanie gotowej odpowiedzi widziałbym jako nieuczciwe. Dla mnie jest to coś, co może być rozstrzygnięte, dopiero kiedy staniemy naprzeciw siebie, kiedy będziemy gotowi zobaczyć coś odmiennego niż my sami i zmierzyć się z naszym zrozumieniem i niezrozumieniem. Nasza teza, a potrzebuję antytezy nie naszego autorstwa, wtedy dopiero rozpocznie się poszukiwanie syntezy.
Ciekawość, otwartość, nadzieja, ale i solidna dawka strachu. Potrzebujemy po trochu pewnie wszystkiego. Nie udzielajmy jeszcze ostatecznych, zarozumiałych odpowiedzi, ale może czas tak trochę na poważniej zadawać pytania. Rozwinięta wyobraźnia niejednego Geeka może się tu okazać cennym narzędziem. Science fiction dostarcza różnych scenariuszy, które w pewnym sensie trzeba rozważyć. Ale jednocześnie oklepane, nie do końca przemyślane założenia, których nauczymy się dziś, mogą być, często w sposób nieświadomy, fundamentem naszego (zaślepionego) myślenia o przyszłości.