communico Wiedza o komunikowaniu się

Iluzoryczność komunikatywności AI

I
Michael Hansmeyer – „Digital Grotesque III” NOSPR, Katowice, maj 2023,
architektura projektowana i drukowana przez AI.
Foto: DIZAJ

o „efekcie Elizy”

Sztuczna inteligencja i jej kolejne odsłony, takie np. jak ChatGPT rozpalają codzienne dyskursy często wymuszając deklaracje o charakterze filo bądź fobio technicznym. Kiedy włączamy się w te dyskursy warto pamiętać o tym, że nasz udział w nich jest pokłosiem perspektyw, jakie przyjmujemy, a te z kolei znajdują swoje ugruntowanie w funkcjach społecznych, jakie pełnimy, światopoglądach jakie „wyznajemy”. Inna będzie opinia na temat CzatuGPT jego projektanta, inna nauczyciela, który sprawdza pracę zaliczeniową napisaną przy jego użyciu, podejmując się jej oceny, i w końcu inne będzie zdanie kogoś, kto zajmuje się komunikacją, szczególnie kiedy słyszy się opinie wyrażające podziw wobec komunikacyjnych osiągnięć GPT. 

Aby dodać swoje trzy grosze do toczących się debat na temat komunikacyjnego potencjału AI, sięgnę do anegdotycznej historii Josepha Weizenbauma opisywanej przez niego w Computer Power and Human Reason. From Judgment to Calculation (1976) odnoszącej się do projektu, który zakończył w 1966, a był związany z budową pierwszego chatbota – E.L.I.Z.A.

Pewnego razu kiedy wszedł do swojego gabinetu zastał swoją sekretarkę „rozmawiającą” z E.L.I.Z.Ą, sekretarka poprosiła go o opuszczenie pomieszczenia, jakby to była jakaś znacząca, intymna rozmowa. Wtedy Weizenbaum uświadomił sobie jak bardzo ten wynalazek może podlegać antropomorfizacji. Kolejne doświadczenia z zastosowaniem E.L.I.Z.Y jako „psychoterapeuty” potwierdziły to wstępne rozpoznanie, zjawisko to określono „efektem elizy”. 

Doświadczenia Weizenbauma dotyczą początków wykorzystania technologii cyfrowej jako narzędzia komunikacyjnego, E.L.I.Z.A była pierwsza. Dzisiaj mamy poczucie bycia dojrzałymi użytkownikami tych rozwiązań, jednak w relacjach z „rozmów” z ChatemGPT nadal pobrzmiewają antropomorficzne tony, może nawet bardziej, bo narzędzie już nie tylko opiera się na zaprogramowanych opcjach wyboru odpowiedzi, ale na ogromnej ilości danych dotyczących tego, jakie wypowiedzi w takich sytuacjach statystycznie dominują. Wszystko to daje jeszcze sugestywniejsze poczucie kontaktu z KIMŚ? CZYMŚ? świadomym?, ale nade wszystko WYGADANYM, bo dysponującym niespotykanym u ludzi repertuarem zachowań komunikacyjnych i chyba to imponuje nam najbardziej, właśnie to robi na nas wrażenie. 

A przecież podobnie, jak sekretarka Weizenbauma doskonale wiemy, że jest to tylko program komputerowy, dlaczego zatem ulegamy tej sugestii, dlaczego dajemy się zwieść?

Powodów jest kilka, i wbrew pozorem nie są one dowodem naszego nierozgarnięcia, raczej mają one swoje źródło w automatyzmach, które wypracowaliśmy po to, żeby móc maksymalizować efektywność komunikacji przy jej nieprzeciętnym skomplikowaniu. 

Istnieje kilka mechanizmów odpowiedzialnych za antropomorfizowanie programów konwersacyjnych, jednak najistotniejsza jest tendencja do traktowania wszystkiego, co uczestniczy w relacjach ludzkich, jako elementu interakcji społecznj. Byron Reeves i Clifford Nass określają to efektem starych mózgów, w szeregu eksperymentach przeprowadzonych pod koniec XX wieku udało im się potwierdzić swoje pierwotne intuicje. Ich rozpoznanie jest następujące:

Ludzie nie są ewolucyjnie przystosowani do XX-wiecznych technologii

B. Reeves, C.Nass Media i Ludzie

XXI wiek tego nie zmienił, chociaż umyka to naszej uwadze

Ludzki mózg rozwijał się w świecie, w którym jedynie ludzie przejawiali tak bogate zachowania społeczne, w świecie, w którym wszystkie postrzegane przedmioty były realnymi przedmiotami fizycznymi. Wszystko, co wydawało się rzeczywistą osobą bądź realnym miejscem, było realne.

W ciągu blisko 200 000 lat istnienia gatunku Homo sapiens nic poza rzeczywistymi osobami nie przejawiało zachowań społecznych, a wszystko co zdawało się zbliżać w naszym kierunku, faktycznie to robiło. Ponieważ stanowiło to prawdę absolutną w trakcie praktycznie całej ewolucji człowieka, świat posiadający cechy społeczne i fizyczne wywołuje automatyczne reakcje, które były i w dalszym ciągu są podstawą poruszania się w życiu

B. Reeves, C.Nass Media i Ludzie

Dlatego stajemy się tak łatwym łupem projektantów interfejsów urządzeń CMC (Computer Mediated Communication), B.J. Fogg mówi wręcz o perswazyjności komputera jako technologii mającej silne oddziaływanie na nasze postawy i zachowania (Persuasive Technology. Using Computers to Change What We Think and Do).

I w tym kontekście nie tyle ważne jest czym de facto jest ChatGPT, ale to jak ludzie są skłonni go traktować. A wchodząc w relacje z programem symulującym zachowania społeczne, bierzemy to za dobrą monetę i odwzajemniamy je, bo takie mechanizmy wypracowaliśmy wspólnie budując misterną tkankę życia społecznego. Na imitację ludzkiego zachowania reagujemy po ludzku, … na całe szczęście dla projektantów chatbotów. 

AI ma dla nas to, co jesteśmy w jej wytworach skłonni dostrzec…

Architekturę?

Komunikatywność?

Grażyna Osika

O autorze

Grażyna Osika

jestem komunikologiem

Dodaj komentarz

communico Wiedza o komunikowaniu się

Grażyna Osika

jestem komunikologiem

Bądźmy w kontakcie

Nazywam się Grażyna Osika, jestem nauczycielem akademickim i naukowcem. Całe moje życie zawodowe zajmuję się różnymi aspektami komunikacji społecznej.
3 ikona ORCID
4 ikona PBN
;)