Opowiadanie to nasza jedyna łódź, którą możemy żeglować po rzece czasu. (Ursula K. Le Guin)

Komputer jest głupi

Roboty w sadze „Star wars”, choć nieco bajkowe, kazały się zastanawiać nad tym, jak rozwinie się technologia przyszłości. Co prawda, po naszej stronie żelaznej kurtyny były to rozważania wyjątkowo fantastyczne, ale przecież i u nas pojawiały się utwory science-fiction, w których głównym bohaterem była sztuczna inteligencja. Żyjąc po wschodniej stronie drutu kolczastego, człowiek mniej wierzył w dobro, być może dlatego „Rozprawa” Stanisława Lema to utwór o skomplikowanej i niejednoznacznej wymowie.
Potem mury runęły i pojawiły się komputery także u nas, a po jakimś czasie przestały mieć wartość niewielkiej kawalerki w peerelowskim bloku. Na początku zadowalaliśmy się starociami, które w szerokim świecie były już od dawna moralnie martwe, potem staliśmy się na tyle istotnym rynkiem, że nowe procesory miały swą premierę zaledwie kilka dni po tym, jak zostały zaprezentowane w ojczyźnie komputerów.
Dziś możliwości komputerów są niewyobrażalnie większe niż te, które oglądaliśmy niegdyś w fantastycznych filmach, ale sztuczna inteligencja nadal nie istnieje. Istnieje za to sztuczny debilizm, nie mniej uciążliwy niż ten naturalny. Sprostowanie. Bardziej uciążliwy. Doskonałym przykładem jest tzw. panel pomocy Facebooka i heurystyczny mechanizm zgłaszania treści, które łamią „standardy społeczności”. Wbrew wielokrotnym zapewnieniom Facebooka to nie żywi ludzie, a komputer kwalifikuje poszczególne zgłoszenia. Dlatego jakiś Jan Kowalski, który podpadnie stu hejterom, może mieć zablokowane konto nawet jeśli się nazywa Kuba Wojewódzki. Za to ewidentnie fałszywy profil o nazwie Leśne Ruchadło ze zdjęciem Czerwonego Kapturka z filmu Disneya zgłoszony przez jedną osobę może się czuć spokojny, bo zgłaszający otrzyma informację zwrotną o treści: Zweryfikowaliśmy zgłoszony przez Ciebie profil ze względu na podszywanie się pod kogoś i naszym zdaniem nie narusza on dokumentu Standardy społeczności.
Ale to nie Facebook jest głównym tematem moich rozważań, lecz sztuczna inteligencja, której – jak słyszymy ostatnio – coraz częściej ludzie chcą powierzyć prowadzenie samochodów, rozpoznawanie zagrożeń terrorystycznych, a nawet decyzję o eliminowaniu zagrożeń ze strony nieprzyjaciela, co w ograniczonym zakresie zastosowali już Amerykanie. W ten sposób dron rozpieprzył szkołę, bo komputerowa nieinteligencja uznała, że duża liczba hałaśliwych i szybko poruszających się obiektów to zagrożenie. Ha! Uważajcie gimbazo!
A tymczasem komputery są najzwyczajniej w świecie głupie. I mądrzejsze nie będą. Nigdy.
Posłużę się przykładem w sposób celowy uproszczonym. Wiadomo dziś, że komputer jest w stanie wygrać większość gier z większością ludzi. Jego przewagą nad ludzkim umysłem jest ogromna szybkość wykonywanych obliczeń. W ten sposób, gdy gramy z komputerem w szachy i wykonujemy ruch, maszyna jest w stanie obliczyć wszelkie konsekwencje naszego ruchu i swojej odpowiedzi, aż do końca gry. Człowiek popełnia błędy, a dobrze zaprogramowany komputer nie.
Jest taka gra w której rysuje się linie, po to by oznaczać kwadraty swoim kolorem, gdy dane pole zostanie obrysowane z trzech stron.
kwadraty1
Jeśli pole gry będzie dość duże, większość ludzi będzie popełniać błędy, które zaowocują przewagą komputera. Zaprogramowany komputer ma pewną strategię rysowania kolejnych linii tak, aby konsekwentnie zaznaczać swoim kolorem coraz większą liczbę pól w każdym swoim kolejnym ruchu. Na dodatek bardzo szybko potrafi się dostosować, jeśli ruch człowieka się zmieni.
kwadraty2
Jednak w którymś momencie strategia komputera prowadząca go do wygranej staje się dla człowieka zrozumiała. Gracz zaczyna widzieć, że po jego kolejnym ruchu, komputer wykona serię swoich ruchów, która zaznaczy sporą część planszy i będzie to już koniec gry. Jednak komputer nie wie jednej rzeczy, że człowiek potrafi zrobić celowy błąd i w przedostatnim ruchu postawi linię tak, aby komputer zabrał kilka pól, a musiał mu oddać ten ostatni i najbardziej korzystny ruch.
kwadraty3
Ile razy nie spróbowalibyśmy tej sztuczki, zawsze ona zadziała, bo tak zaprogramowano maszynę. Tak samo to działa w przypadku znacznie bardziej skomplikowanych programów. I nawet gdy człowiek usiłuje konstruować bardzo skomplikowane cyfrowe konstrukcje kończy się to nie najlepiej. Wskazuje na to również ostatnia sztuczna inteligencja Microsoftu, która w ciągu doby okazała się bytem rasistowskim, agresywnym i ksenofobicznym i to zaledwie po jednej dobie obcowania z internetem.
Człowiek potrafi coś poświęcić po to, by osiągnąć cel. Czasem potrafi poświęcić siebie, by inni osiągnęli cel. Człowiek waha się, ma wątpliwości i nie da się tego przewidzieć w żadnym algorytmie heurystycznym. To jest właśnie ta przewaga istoty ludzkiej, której nigdy nie będzie mieć komputer, nie da się symulować emocji, a one w sumie również składają się na inteligencję. To jest właśnie sedno problemu wyrażonego przez Lema.

Aha. Jeszcze coś. Słynne trzy prawa robotyki to pic. Sztuczna inteligencja cię zabije, jeżeli tak została zaprogramowana.

Oceń felieton