Czy kiedyś zastanawialiście się, skąd biorą się psychopaci i socjopaci? Wiele osób, które są totalnie nieświadome tego, jakie zmiany zachodzą w ludzkiej psychice w trakcie pierwszych lat rozwoju, nie potrafią zrozumieć, że to, jacy jesteśmy w dorosłym życiu, kształtowane jest przez lata doświadczeń w dzieciństwie. Eksperyment z algorytmem Norman prowadzi do ciekawych wniosków.

Co prawda, osobowość psychopatyczna jest niesamowicie trudna do rozpoznania. Takie osoby są przecież niesamowicie towarzyskie i czarujące. Okazuje się jednak, że w owczej skórze ukryty jest wilk, a dokładniej mały szczeniak, który stał się maszyną do zabijania poprzez to, co spotkało go w młodości.

Psychopatów cechuje brak empatii, współczucia, a nawet sumienia, co ujawnia się znacznie później.

Co jest dodatkowo ciekawe, Ppsychopatę obchodzi to, co myślą i czują inni, ale nie poddaje się tym uczuciom. Pewnie zastanawiacie się, dlaczego piszę o tym na łamach bloga technologicznego. Odpowiedź jest niesamowicie prosta — sztuczna inteligencja. Okazuje się, że jest to dobra odpowiedź na większość zagadnień i pytać współczesnego wszechświata. Ludzie wyobrażają sobie, do jak cudownych celów będzie można ją wykorzystać. Skwituje to tylko w następujący sposób — tak samo było z materiałami wybuchowymi i rozczepieniem atomu. Efekty znamy chyba wszyscy.

Jak się okazuje, ze sztuczną inteligencją jest dokładnie tak samo, jak z człowiekiem.

Wszystko zależy od tego, jaką wiedzą zostanie nakarmiona. W sumie przecież chyba nikt z nas nie zastanawiał się nigdy, stąd biorą się zwyrodnialcy i co stałoby się, gdyby pakować taką sztuczną inteligencję brutalnymi i wyuzdanymi materiałami. My może się nad tym nie zastanawialiśmy, ale znalazła się grupa ludzi, którą ten fakt mocno zaciekawił. Taki eksperyment z dzieckiem by nie przeszedł, bo byłoby to poza granicami zdrowego rozsądku i szacunku dla drugiego istnienia. Jednakże w przypadku kilku quibitów informacji nikt nie miał nic przeciwko.

Algorytm, który przekazano do testów, nazwano Norman.

Muszę przyznać, że gdyby komuś z moich bliskich zafundowano taki start, nie pozostawiłby na nich suchej nitki. Normana nakarmiono bowiem obrazkami z Reddita. Co więcej, wcale nie chodziło o te fajny i śmieszne treści. Naukowcy odpowiedzialni za to konkretne AI postanowili wynaleźć te najbardziej brutalne materiały i karmić nimi Normana. Efekty tej nauki są tragiczne w skutkach i bardzo przerażające, ale pokazują, co z naszym umysłem robią brutalne doświadczenia. Wygląda to teraz tak, że kiedy standardowa sztuczna inteligencja widzi obrazek przedstawiający zbliżenie na weselny tort stojący na stole, to nasz Norman widzi człowieka zabitego przez przekraczającego prędkość kierowcę. Takich porównań jest o wiele więcej. Obrazy, którymi karmiono Normana, wywarły duży wpływ na jego postrzeganie rzeczywistości.

ai, norman, psychopata, sztuczna inteligencja, reddit, mit

Panowie odpowiedzialny za ten kontrowersyjny projekt to Pinar Yanardag, Manuel Cebrian i Iyad Rahwan z MIT.

Naukowcy ci chcieli udowodnić ciekawą tezę i muszę przyznać, że im się udało. Pokazali, że sztuczna inteligencja nie jest stronnicza z natury, ale jej konkretne nastawienie, czy nawet charakter może zostać stworzony na podstawie treści, jakie się jej pokazuje. Przecież tak samo jest w przypadku człowieka. Algorytm o nazwie Norman stał się psychopatą i muszę przyznać, że w głębi duszy mam nadzieje, że po zakończeniu tego chorego eksperymentu został usunięty. Nie chciałbym, aby kiedykolwiek w przyszłości taki program przez przypadek wylądował w jakimś robocie. To nie byłoby nawet wysoce nieodpowiedzialne. Byłby to wręcz durne. Jak mniemam, naukowców pokroju tych z MIT jest i będzie coraz więcej. Ludzie tworzą ludzi albo AI i ich chore ambicje już nie raz potrafiły zagrozić naszemu gatunkowi. Jak widać, sytuacja kołem się toczy.

Autonomiczne auta, roboty, androidy — wszystko to zbliża się nieubłaganie.

Jednakże musimy sobie zdać sprawę, że wizja to jedno, a wykonanie to coż zupełnie innego. Nie wiemy, w czyje ręce trafią roboty i jak będą uczone. Każdy, gdy o tym myśli widzi super przyjazne maszyny, ale czy patrząc na nasz świat, widzimy super przyjaznych ludzi? A przecież jesteśmy takimi androidami tylko, że wydaje nam się, że posiadamy jakiś pierwiastek, którymi stawia nas wyżej. Nie jest to prawda. Rodzimy się i dokładnie tak samo uczymy, jak w tym momencie uczy się AI. Takie same będę efekty tworzenia robotów z AI, jakie są w rozmnażaniu człowieka i wychowaniu społeczeństwa. Raz rodzi się geniusz ratujący świat, a raz seryjny morderca.

Okazuje się, że wszystko zależy od tego, z jakimi zdarzeniami mamy do czynienia w okresie dzieciństwa i dojrzewania.

Napisał już o tym kiedyś Heisenberg, jednakże pisał on w kwestii badania układów fizycznych. Przecież prawda jest taka, że każdy z nas jest takim układem fizycznym i nigdy nie poznamy prawdziwego i pierwotnego znaczenia innych układów, bo samo nasze badanie i otoczenie na niego wpływa. Tak samo jest z ludźmi i będzie z AI. Przebywanie w społeczeństwie i zastosowany mechanizm wychowawczy będzie miał wpływ na kształt danego robota. Teraz bez niczego już wiemy, jak wyglądać będzie mechanizm tworzenia maszyn do eksterminacji naszego gatunku. Brzmi może trochę, jak opowiastka z Terminatora, ale proszę Państwa — Terminator właśnie zszedł z ekranów kina i powoli zadomawia się w naszym społeczeństwie. Musimy być na to mentalnie przygotowani.

BS
Bernard to redaktor naczelny SpeedTest.pl. Jest analitykiem i pasjonatem gier. Studiował na Politechnice Wrocławskiej informatykę i zarządzanie. Lubi szybkie samochody, podróże do egzotycznych krajów oraz dobre książki z kategorii fantastyka.