Kosmate Myśli

Westworld a problem sztucznej inteligencji

Listopad 4, 2016 — by Pusiek7

main

Kosmate Myśli

Westworld a problem sztucznej inteligencji

Listopad 4, 2016 — by Pusiek7

Właściwie ta notka powinna nazywać się „Mój problem z Westworld” co pewnie zapewniłoby jej przyzwoitą klikalność, a mnie fejm i miliony monet. Z tym, że za kilka lat, pewnie zostałaby sprowadzona do zwykłego rantu i malkontenctwa (he he he) podczas gdy chciałabym Wam na przykładzie tego popularnego serialu pokazać jak niesłychanie złożony jest problem sztucznej inteligencji, jakie zagrożenie stanowi dla całego gatunku ludzkiego oraz jakie nadzieje ze sobą niesie. Bo AI to mój absolutnie ulubiony motyw nie tylko z science, ale też z fiction, który chyba nigdy nie przestanie mnie fascynować. Tak więc jednym słowem. HBO robisz to źle.

dziki zachód

Zacznijmy może od oczywistych oczywistości. Tak, wiem że Westworld to serial, dodatkowo, nie ukrywajmy, skierowany do masowej publiczności i pod nią skrojony. Wiem też, że występują w nim aktorzy, że wszystko jest w pewnym sensie rozwinięciem filmu Chrichtona pod tym samym tytułem (czy sequelem to się jeszcze okaże) i nikt, a już na pewno nie komercyjna stacja telewizyjna, produkując go nie miał na celu pokazania ludziom filozoficzno-naukowego traktatu o złożoności problemu jakim jest zagadnienie sztucznej inteligencji. Skoro jednak przytrafił mi się tak fantastyczny punkt wyjścia, jak serial o którym wszyscy mówią i którego nie wypada nie znać, to właściwie dlaczego z tego nie skorzystać?

westworld2
W androidach najważniejsze jest to co siedzi pod maską, a nie to co wydrukujemy na drukarce 3D

Wracając do meritum. Czym jest inteligencja? Jeśli w pierwszej chwili pomyślicie o IQ, to… dostaniecie tylko jakiś ułamek prawdy. Bo inteligencja to zdecydowanie więcej niż rozwiązywanie testów czy wymyślenie Ogólnej Teorii Względności. Pomyślcie o wszystkich tych rzeczach, które Wam przychodzą naturalnie, a których obecne komputery nie są w stanie pojąć. Ba, nawet o tych, które potrafi Wasze zwierzątko, a które dla najlepszego komputera na świecie (na chwilę obecną jest to Sunway TaihuLight osiagający 93 petaflopy) stanowią barierę nie do przeskoczenia. Nic nie przychodzi Wam do głowy? Pewnie dlatego, że zostaliście w pewnym sensie „spaczeni” przez kulturę popularną i jej podejście do zagadnienia sztucznej inteligencji.

Bo mówiąc zupełnie szczerze. Jedyne w czym obecne komputery (nawet te „super”) są lepsze od żywych stworzeń jest liczenie. Wszystko to co idzie w prostej mierze przeliczyć, najprawdopodobniej już zostało opanowane przez komputery, albo trwają nad tym zaawansowane prace. Rozwiązanie skomplikowanego równania? Proszę bardzo, potrafi to byle kalkulator z wyższej półki. Pokonanie szachowego mistrza? Dopasowanie wyników wyszukiwania do historii przeglądania? Opracowanie najbardziej wydajnej ścieżki dla pracowników ogromnych magazynów, obrót akcjami i przewidywanie ich trendów czy wreszcie prognozowanie kapryśnych zachowań klientów to wszystko czym obecnie zajmują się słabe sztuczne inteligencje (ANI) czyli zaawansowane programy wyspecjalizowane w jakiś wąskich obszarach. Nie wnikając zbytnio w nauki informatyczne, ANI tym różnią się od wszystkich innych programów, że na podstawie zadanych danych wejściowych są w stanie wyznaczyć najlepsze rozwiązanie w sytuacji gdy jedno konkretne rozwiązanie idealne po prostu nie istnieje, albo w momencie gdy zadane dane są niekompletne. I ogólnie już w obecnej chwili wiele ANI w swoich wyspecjalizowanych obszarach działa zdecydowanie lepiej niż ludzie (z ciekawości zrobiłam mały test. Akinator potrzebował 42 pytań żeby zgadnąć, że chodzi mi o Michaela Fassbendera podczas gdy mojej Siostrze wystarczyło niewinne: „czy to aktor?” by natychmiastowo znaleźć rozwiązanie. Chwilowo więc nasi bliscy wygrywają jeśli chodzi o znajomość naszych gustów. Ale wierzcie mi, że to się niedługo zmieni).

Z popkulturalnego punktu widzenia ANI są nudne. Wąsko wyspecjalizowane, skuteczne i mało niebezpieczne (w 2010 awaria aukcyjnego bota spowodowała wielomilionowe straty na międzynarodowej giełdzie, ale gdzie to się może równać z wizjami Dnia Sądu). Także z punktu widzenia filozofii słabe sztuczne inteligencje nie stanowią wielkiego problemu, w końcu nikt nie myśli że Siri jest osobą, a jedynie fajnym bajerkiem. I chociaż wszyscy chcemy jeździć bezpieczniejszymi samochodami, latać lepszymi samolotami i otrzymywać lepiej spersonalizowane reklamy (no, w każdym razie nie chcemy otrzymywać takich jakie mamy teraz) to jednak tak naprawdę okaże się, że pod pojęciem sztucznej inteligencji, nie tylko popkultura, ale i naukowcy widzą maszynę zdolną rozumować jak człowiek. Silną sztuczną inteligencję zwaną również AGI.

westworld3
ANI?

Dlaczego jest to takie trudne? W skrócie dlatego, że ludzki mózg ewoluował w ciągu tysięcy lat, by jak najlepiej przystosować nas do życia, a także dlatego że cały czas zasada jego działania jest przez nas wyjątkowo mało poznana. Ok, w liczeniu jesteśmy tacy sobie, ale w czym wygrywamy z komputerami? Chociażby w tak zwanym „zdrowym rozsądku”, umiejętności przewidywania, wnioskowaniu, wyciąganiu konsekwencji i dokonywaniu osądów. Ba, nawet zwierzaki są w tym lepsze od komputerów. Jeśli nie wierzycie to wykonajcie razem ze mną prosty eksperyment myślowy. Prawda, że jesteście w stanie w mgnieniu sekundy stwierdzić czy to co widzicie na zdjęciu jest ptakiem mimo że nie jesteście w stanie podać jednocześnie idealnej definicji czym tak naprawdę jest ptak? Zwierzę które ma pióra? Ale wtedy co z oskubaną kaczką, czy automatycznie przestaje być ptakiem? To co ma skrzydła i potrafi latać? Tylko że po pierwsze nie zawsze widzimy to na zdjęciu, a po drugie w takim razie do ptaków musielibyśmy też zaliczyć nietoperze, a wyrzucić z nich pingwiny. Może więc chodzi o dziób? Ale wtedy co z samolotami? I chociaż nasze wnioskowanie nie zawsze jest idealne, czasem istnieją przypadki brzegowe (patrz dziobak) to jednak jakimś magicznym sposobem potrafimy stwierdzić, że struś, kiwi i koliber przynależą do jakiegoś ogólnego zbioru. Podobnie Wasze zwierzątka domowe, które zupełnie abstrakcyjny dla nich dźwięk jak „siad!” czy Sygnał Szczura, potrafią przełożyć sobie na konkretne zachowanie, którego od nich oczekujecie. Coś czego nie potrafią obecne komputery.

Jak sobie z tym radzą biologiczne mózgi? Nie do końca wiadomo. Początkowo myślano, że chodzi o zwykłą moc obliczeniową, ale szacuje się, że pod tym względem przynajmniej kilka superkomputerów już w obecnej chwili przegoniło ludzkie mózgi, a mimo wszystko są niewiele „mądrzejsze” od pospolitej drukarki. W tej dziedzinie wciąż błądzimy po omacku, w chwili obecnej dominują dwa główne podejścia do tego problemu. Pierwsze zwane inżynieryjnym to podejście „z góry na dół” próbujące odtworzyć ludzkie rozumowanie za pomocą wyspecjalizowanych algorytmów. Drugie zwane biologicznym to podejście „z dołu w górę”, próbujące zasymulować ludzki mózg złożony z odpowiednich struktur (neurony, grupy neuronów, czy wreszcie płaty mózgowe) w nadziei, że rozumowanie pojawi się w nim niejako samo. W jaki sposób uda nam się stworzyć sztuczną inteligencję jest jednak mniej ważne niż zdanie sobie sprawy, że silna sztuczna inteligencja prawdopodobnie nawet w najmniejszym stopniu nie będzie przypominać ludzkiej. Nie tylko dlatego, że zostanie oparta na tranzystorach zamiast łańcuchów białka, ale głównie dlatego że bardzo mało prawdopodobne jest by udało nam się stworzyć coś co zostało ukształtowane przez miliony lat ewolucji. Dodajcie do tego brak bodźców które mogą (choć nie muszą, albo mogą w mniejszym stopniu niż nam się wydaje) mieć wpływ na kształtowanie moralności (chociażby bólowych) i dostaniecie coś mądrego jak przeciętny człowiek z ulicy, a jednocześnie posiadającego zdolność odróżniania dobra od zła na poziomie dzisiejszych pralek. A pamiętajcie, że w tej chwili mówimy o czymś co jest cały czas mniej więcej na naszym poziomie rozumowania.

westworld4
AGI?

Pomyślicie, że nawet z pozbawiona moralności (nie mylić z niemoralną!) AGI jakoś sobie poradzimy, w końcu historia pokazała, że raz na jakiś czas pojawiają się jednostki ze zwichrowanym postrzeganiem dobra i zła i jakoś dajemy sobie z nimi radę, nawet jeśli przyjdzie nam za to zapłacić krwawą cenę. Z tym, że w momencie gdy stworzymy AGI, jedynie kwestią czasu stanie się gdy osiągniemy sztuczną superinteligencję (ASI). Nie jest to proces, który będziemy w stanie zatrzymać, dlatego musimy się na niego zawczasu przygotować. Sztuczna superinteligencja będzie bytem tak daleko nas przewyższającym, że jej stworzenie stanowi zagrożenie dla całego życia na Ziemi (niektórzy uważają nawet że jest to jeden z tzw. Wielkich Filtrów znanych z Paradoksu Fermiego).

I jeśli macie teraz przed oczami Terminatory czy Matrixa to najprawdopodobniej możecie te wizje włożyć między bajki. ASI prawdopodobnie nie będzie zła, co zakłada pewną celowość i świadome przeciwstawienie się dobru, a „jedynie” stojąca zupełnie obok jakiejkolwiek moralności. Dokładnie na tej samej zasadzie na której lew zjadając antylopę nie popełnia przecież czynu nagannego moralnie czy my nie jesteśmy masowymi mordercami mimo że za każdym razem gdy myjemy ręce mydłem antybakteryjnym przeprowadzamy prawdziwą rzeź drobnoustrojów. Po prostu w równaniu ludzie kontra sztuczna superinteligencja będziemy dzielić pozycję z pierwotniakami i raczej nie przyjdzie nam się mierzyć ze zbudowanym z tranzystorów drugim Hitlerem. Naukowcy do zobrazowania możliwego zachowania ASI używają obrazowego przykładu maszyny, której jedynym celem było wyprodukowanie jak najlepszego spinacza do papieru, a która by to osiągnąć pozbawiła Ziemię wszystkich niezbędnych do przeżycia surowców i zabiła na niej wszelkie życie (ale spinacze mielibyśmy pewnie zajebiste). I zanim pomyślicie o Prawach Robotyki Assimova czy innych pętach jakie ewentualnie moglibyśmy założyć na sztuczną superinteligencję to pomyślcie tylko o tym, że maszyna zbudowana w szlachetnym celu zapewnienia ludziom szczęścia, mogłaby stwierdzić że najlepiej będzie nas wszystkich nieustannie ćpać heroiną. I że tak naprawdę na dzień obecny nie wiemy dlaczego większość ludzi stwierdzi, że to wyjątkowo niehumanitarne rozwiązanie.

westworld5
Człowiek?

Jeśli wystraszyliście się tym co przed chwilą przeczytaliście, to wiedzcie że nie jesteście sami. Po Waszej stronie stoją Bill Gates, Stephen Hawking czy Elon Musk. Może więc powinniśmy zupełnie porzucić badania nad AGI? Nie do końca. Po pierwsze nie ma żadnej pewności, że nawet w momencie ogólnoświatowego embargo na badania nad sztuczną inteligencją w „garażowych” warunkach nie próbowano by jej stworzyć. Bez nadzoru i często na zlecenie złych ludzi. Po drugie, powoli ale nieubłaganie zbliżamy się do momentu gdy nie będziemy w stanie zachować naszego obecnego tempa rozwoju. Pomóc nam w tym może właśnie posiadająca ogromną moc obliczeniową i „świeże” spojrzenie sztuczna inteligencja. Także w przypadku problemów które obecnie wydają się nie do rozwiązania (chociażby nasze nieuchronne przemijanie). A by zakończyć tą część tekstu na troszkę bardziej optymistyczną nutę (i przejść wreszcie do tytułowego serialu) to powiem Wam tylko, że całkiem spora grupa naukowców uważa, że stworzenie silnej sztucznej inteligencji jest całkowicie poza naszym zasięgiem, albo wręcz fundamentalnie niemożliwe. A także że w ostatnim artykule o słabej sztucznej inteligencji wykorzystywanej do generowania pornograficznych obrazków (:3) naukowcy wysnuwają nieśmiałe wnioski, że możliwe że z ludzkiej umiejętności rozumowania w pewien nie do końca poznany sposób rodzi się też moralność. Dokładnie tak samo jak w przypadku dziecka, które gdy uderzy kolegę i dowie się od matki, że spowodowało komuś przykrość dwa razy się zastanowi zanim znowu zamachnie się na kogoś pięścią.

Wracając jednak do Westworld, spróbujmy spojrzeć na serial pod kątem naszej obecnej i przewidywanej wiedzy na temat sztucznych inteligencji i niejako rozebrać go na części pierwsze. Nie ważne czy produkcję HBO lubicie czy nie, w końcu nie można jej odmówić realizacyjnego rozmachu, a raczej o to że to opowieść, która sama się trochę gubi w tym co chce pokazać. Na początek więc, zastanówmy się czy pokazane w serialu androidy to słabe czy silne sztuczne inteligencje.

W Westworld co kilka chwil pada stwierdzenie, że wszyscy „Gospodarze” tak naprawdę tylko odtwarzają miliony bardzo skomplikowanych i dopracowanych w najmniejszych szczegółach scenariuszy. Czyli słaba sztuczna inteligencja? Zaawansowane ANI, posiadające ogromną moc obliczeniową i sprawnie przełączające się między wszystkimi możliwymi odpowiedziami na zadane warunki dokładnie tak ja to robią obecne programy do gry w szachy, analizujące ruchy przeciwnika i dobierające z przepastnej bazy danych możliwych ruchów i rozegranych partii najlepszą strategię. Nie byłabym tego taka pewna, bo w tych samych odcinkach, w których opowiada nam się o zaplanowanych z góry sekwencjach wydarzeń, pojawiają się też stwierdzenia, że androidy są tak idealne, że praktycznie niemożliwe do odróżnienia od zwykłych ludzi. Nie wiem czy słyszeliście o Teście Turinga, ale to dobry moment by go przytoczyć. Wg tej metodologii, sztuczna inteligencja zdolna do przekonania człowieka, że jest człowiekiem, byłaby silną sztuczną inteligencją. Co prawda obecnie uważa się, że sam test jest zdecydowanie zbyt wąski by na jego podstawie wnioskować na temat sztucznej inteligencji (teoretycznie mógłby go zdać program imitujący kiepskiego psychologa, albo oblać go specyficzna ludzka jednostka), więc do równania dołożono jeszcze dodatkowe cegiełki. Wg nowych wytycznych AI powinna nie tylko umieć porozmawiać z przypadkowym człowiekiem, ale także umieć „wmieszać się w tłum” czyli np. zatrudnić się między ludźmi i nie wzbudzić niczyich podejrzeń czy ukończyć studia wyższe. Zastanówmy się więc jeszcze raz czy „Gospodarze” z Westworld to na pewno ANI. Zwłaszcza, że do ich scenariuszy dokładamy tak nieprzewidywalne zmienne jak niemal nieskończone możliwości interakcji z żywymi ludźmi.

westworld6
ASI?

Dlaczego nigdy nie pomylicie Siri z koleżanką z którą chatujecie na Messangerze? Właśnie dlatego, że dosyć łatwo przyjdzie złapać Siri na tym że nie jest człowiekiem. Zadać pytanie, które zupełnie zbije ją z tropu, jednym słowem odpowiedź na nie musiałaby znacznie wykroczyć poza zaprogramowany dla niej scenariusz. Podobnych problemów nie uświadczymy w Westworld, tutaj każde pytanie znajdzie swoją logiczną odpowiedź, każda akcja reakcję, każda przyczyna swój wniosek. Moja Siostra wysunęła wniosek, że możliwe że wszyscy „Gospodarze” w Westworld to po prostu spętane AGI żyjące w nieustannej pętli czasowej, a ci przebudzeni po prostu zrzucili pęta. Z tym, że z tutaj rodzi się następny problem. W pewnym momencie pada stwierdzenie, że cały park istnieje od dziesiątek lat i jedną z jego „najstarszych” mieszkanek jest Dolores. Jakim więc cudem przez cały ten czas udawało się trzymać ją w ryzach? Jasne, kilka razy mówi się tutaj o tajemniczej aktualizacji, która rzekomo spowodowała przebudzenie androidów, ale to właściwie niczego nie tłumaczy, bo tak perfekcyjna AGI jak ta pokazana w serialu właściwie powinna sama z siebie wykombinować, że coś tu jest nie tak. Chyba, że…

tak jak w większości popkultury, sztuczna inteligencja jest tak idealnym duplikatem ludzkiej, że nie tylko posiada czysto ludzką moralność, ale i ludzką (a więc ograniczoną) zdolność pojmowania i wnioskowania. Co delikatnie mówiąc jest dość naiwnym założeniem. Nie mamy żadnej gwarancji, że silna sztuczna inteligencja w jakikolwiek sposób przypominałaby ludzką, więcej prawdopodobnie w jakikolwiek sposób nie przypominałaby człowieka. Głównie dlatego, że przez etyczne tabu nie możemy sobie pozwolić na przeprowadzenie naprawdę kompleksowych badań ludzkiego mózgu, a jednocześnie cały czas pędzimy naprzód zdwajając wysiłki nad stworzeniem sztucznej inteligencji. Szanse na to, że macając po omacku trafimy od razu w dziesiątkę i stworzymy sztuczny ludzki umysł są naprawdę mizerne. I wiecie, nawet już się przyzwyczaiłam do tego antropocentryzmu w popkulturze, bo to taki topos, a poza tym pewnie ułatwia życie aktorom. Z tym, że za każdym razem twórcy próbują w pewien sposób zaakcentować pewna odrębność sztucznych ludzi od tych z mięsa i tkanek. Ale nie w Westworld, w którym androidy z jednej strony niby są całkowicie sztuczne i pozamykane w klatkach zaprogramowanych scenariuszy, a z drugiej są tak ludzkie, że właściwie czekam aż okaże się że tak naprawdę cały serial jest o kolonii klonów.

I wreszcie na koniec, zgrzyta mi niemiłosiernie cała ideologia westernowego parku rozrywki. Naprawdę nie chce mi się wierzyć, by w świecie w którym nasz system moralny cały czas ewoluuje w stronę jak największego poszanowania praw jednostki pozwolilibyśmy zbiorowo gwałcić i mordować AGI (że już nie wspomnę, że naprawdę wątpię, by na „najlepszych androidach na świecie” łap nie położyło wojsko). Bo właściwie czym różni się ból „zagrany” przez mordowanego androida od bólu człowieka? Empatia nie działa na zasadzie prostego rozróżnienia prawdziwa krew/sztuczna krew i niech w tym momencie rzucą kamieniem ci co nigdy nie odwrócili głowy na krwawym horrorze. Jeśli widzimy przekonującą reakcję bólową, to po prostu zakładamy że jest prawdziwa. A zresztą nawet nie koniecznie musimy ją widzieć, o czym wiedzą wszyscy którzy popłakali się czytając książkę. Skoro rusza więc nas przekonujący aktor utytłany w sztucznych flakach, to czy nie powinien nas przejąć los androidów? Podczas gdy bohaterowie Westworld traktują zmaltretowanych „Gospodarzy” jak obtłuczone szklanki. A jeśli rzeczywiście w wizji Nolana jesteśmy tak paskudnym gatunkiem, że tworzymy sztuczne byty tylko po to by zadać im cierpienie, to czy przypadkiem środek ciężkości serialu nie powinien leżeć gdzie indziej i skupiać się na zupełnie innym zestawie postaci? Całe więc szczęście, że obok efekciarskiego Westworld mamy jeszcze Black Mirror. Bo wg wizji HBO na stworzenie sztucznej inteligencji po prostu jeszcze nie zasługujemy.

PS. No chyba, że Westworld ma jakiś wielki twist i tak naprawdę oglądamy film o klonach, ludziach w symulacji czy co tam jeszcze. Tylko czy patrząc na te wszystkie niedoróbki możemy jeszcze mówić o twiście?

Żródła dla ciekawych świata:

[1] [2] [3] [4]