Krzemowa apokalipsa (1)

Prolog
W czasach mojego dzieciństwa opowieści o robotach zawierały tyle samo realizmu co bajki o smokach. W fantastycznych wyobrażeniach snuły się rozmaite sztucznych istot, które bardzo często człowiek miał tworzyć na obraz i podobieństwo swoje. Smoki i księżniczki były do cna wyeksploatowanym motywem, za to roboty miały w sobie tę nutkę ekscytacji, były marzeniem o nieznanym, próbą zgadywania jaka będzie ta daleka i nieokreślona przyszłość. Wśród pisarzy science-fiction dwaj wielcy autorzy, godni miana następców Juliusza Verne’a zajmowali się robotami. Jeden to Stanisław Lem i jego antycypacją zajmę się w dalszej części rozważań. Drugi to Isaac Asimov, który przed epoką rozwoju sztucznej inteligencji sformułował słynne trzy prawa robotyki.
1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.
Minęło kilkadziesiąt lat i techniczne możliwości pozwalają na konstruowanie robotów o coraz większym stopniu technicznego zaawansowania. Czy ludzkość powinna zacząć się bać?

Zmowa dronów
Tak naprawdę roboty towarzyszą nam od wielu lat, choć nie mają zbyt wiele wspólnego ze sztuczną inteligencją. Fabryki, które produkują rozmaite urządzenia techniczne od samochodów po komputery, korzystają z robotów, które mają nad człowiekiem ogromną przewagę. Nie męczą się, nie mają chwil osłabienia uwagi, nie przychodzą do pracy na kacu, nie podlegają wahaniom emocjonalnym. Automatyka towarzyszy nam na co dzień i jakoś nie powoduje buntu, ani poczucia zagrożenia. Chcąc wziąć gotówkę z konta, częściej idziemy do bankomatu niż do okienka w banku. Kontakt z kasjerką w banku może być przyjemny lub nie, w zależności od jej nastroju. Wypłacanie pieniędzy będzie jednak trwało dłużej, choćby dlatego, że nasz bank nie ma oddziału na rogu każdej ulicy. Bankomat jest przede wszystkim szybszy, ale też tańszy. W domu bez oporów korzystamy z pralki automatycznej, w której nastawiamy temperaturę prania, rodzaj prania, płukania i ewentualnie nawet suszenia. Nie znam nikogo, kto by narzekał, że pranie w takiej maszynie dehumanizuje jego życie. Z drugiej zaś strony te wszystkie urządzenia od ekspresu do kawy zaczynając, są zasilane prądem elektrycznym, więc w przypadku poważniejszej awarii w dostawie prądu człowiek współczesny momentalnie cofa się w głąb średniowiecza, a nawet jeszcze gorzej, bo bez prądu nie jest w stanie dać sobie rady dłużej niż kilka godzin.
To samo dotyczy ewentualnej awarii niektórych naszych urządzeń takich, jak smartfon, tablet lub komputer. Całkiem niedawno słyszałem historię młodej osoby, która po awarii iPoda nie wiedziała jak się ubrać, bo za oknem nie miała termometru. Nie oszukujmy się, to wcale nie musi być zmyślona opowieść.

Ostatnie lata przyniosły nam kolejną odsłonę automatyzacji. Pojawiły się drony. Dron, od angielskiego drone – brzęczeć, warczeć, to bezzałogowy sterowany zdalnie lub automatycznie pojazd latający. Najpierw zaczęło je wykorzystywać wojsko. Początkowo wykorzystywane były do zwiadu. Drony były małe, zwrotne i trudne do zestrzelenia. Zaopatrzone w kamery pozwalały zorientować się jak wygląda naprawdę pole walki. Były sterowane zdalnie. Potem pojawiły się autonomiczne drony obserwacyjne, które korzystały z algorytmów samosterujących. W USA wykorzystywane są przez policję. Wreszcie pojawiły się większe pojazdy latające z uzbrojeniem do celów wojskowych. Dziś mówi się o pracach nad dronami autonomicznymi, które będą podejmować działania na polu walki w oparciu o skomplikowane algorytmy komputerowe.
Natomiast opinia publiczna została zelektryzowana wiadomością, że znana firma sprzedaży wysyłkowej Amazon przewiduje zastosowanie dronów do dystrybucji zakupionych towarów, przez co czas dostarczenia zakupu do domu klienta skróci się wydatnie. I nagle pojawiło się wiele wręcz nerwowych opinii na ten temat. Niektórzy widzą w tym dehumanizację, brak kontaktu z żywym człowiekiem, jakby nasze człowieczeństwo realizowało się wyłącznie przez kontakty z listonoszem. Inni mówią o nieuchronnym zagrożeniu bezrobociem, co natychmiast przywodzi na myśl słynny strajk włókniarzy z czasów rewolucji parowej.
Moim zdaniem prawdziwe zagrożenia tkwią zupełnie gdzie indziej.

Kto zawinił
Od kilku lat trwają eksperymenty nad samochodem, który obywałby się bez kierowcy. Już dziś możemy kupić auto, które co prawda samo nie jeździ, ale samo zaparkuje. W związku z tym pojawia się pytanie: Kto jest winien, gdy podczas tego automatycznego parkowania nasz samochód jednak zawadzi o inny już stojący?
Drony dostarczające przesyłki mogą się sprawdzić na pewno lepiej w amerykańskich suburbiach, gdzie na przestrzeni wielu mil kwadratowych poustawiane są jednorodzinne domki, każdy z podjazdem i ogródkiem, niż w europejskim osiedlu składającym się z kilkupiętrowych domów. Lecz nie sposób sobie nie zdać kilku pytań. Kto poniesie odpowiedzialność, gdy z powodu awarii GPS octocopter Amazona zostawi paczkę na podjeździe sąsiada? Gdy popchnięty wiatrem stłucze okno w domu? Kto odpowie za ewentualnie skradzioną z podjazdu przesyłkę? A gdy dronów będzie więcej, co z ewentualnymi kolizjami w powietrzu? Teoretycznie nie powinny się zdarzać, ale teoretycznie Windows też nie powinien się zawieszać. A co będzie, gdy ucierpią ludzie? Oczywiście możemy drony obdarzać coraz doskonalszą sztuczną inteligencją, ale Stanisław Lem w opowiadaniu „Test pilota Pirxa” dowiódł, że z tą sztuczną inteligencją nierozłącznie związany jest pewien problem. Jednak to już materiał do następnego odcinka. 🙂

Drukuj