Perswazja wzmocniona technologicznie
Komunikolog, Jan Pleszczyński podkreśla, że w dziejach cywilizacji zachodniej już V i IV w. p.n.e. w Atenach sofiści zwrócili uwagę na bardzo praktyczny wymiar komunikacji jakim jest perswazja. Za sprawą sofistów narodziły się nowe praktyki społeczne, których celem było wykorzystanie umiejętności komunikacyjnych do realizacji utylitarnych celów. To sofiści opowiadając się po stronie doksy (https://pl.wikipedia.org/wiki/Doksa), czyli wiedzy domniemanej, „wynegocjowanej” niejako odkryli możliwą, często wręcz preferowaną przez ludzi wyższość mniemań nad pewnością poznania (Jan Pleszczyński, Epistemologia komunikacji medialnej. Perspektywa ewolucjonistyczna, 2013). Otworzyli oni tym drogę do refleksji nad mocami komunikacyjnego uwodzenia, wywierania wpływu, kształtowania stosunków społecznych (E. Maigret, Socjologia komunikacji i mediów, 2012). Dialogi Platona i ich główny bohater – Sokrates stanowią doskonałą ilustrację tego, jak w rozmowie można prowadzić interlokutora, zgodnie z opracowaną przez niego metodą, najpierw zbijając jego argumenty (metoda elenktyczna), a następnie dzięki umiejętnie zadawanym pytaniom z odpowiedzi wydobywać prawdę (metoda majeutyczna), albo mówiąc uczciwiej, ukierunkowywać myślenie zgodnie z własnym zamysłem.
Także w starożytności, w tzw. szkole megarejskiej opracowano zręby erystyki, czyli sztuki przekonywania, której czołową postacią w tamtym czasie był Stilpon. Sofistyczne metody jako argumentacja erystyczna zostały opisane przez Arystotelesa w dziele O dowodach sofistycznych (Hermeneutyka. O dowodach sofistycznych. Topiki, 2014). Arystoteles opracował także podstawy retoryki (w teorii komunikacji uznaje się Retorykę Arystotelesa za jedną z pierwszych koncepcji komunikacyjnych), wskazując, że dobry mówca, czyli taki, który potrafi porwać słuchaczy, powinien budować swoje wystąpienia na trzech filarach: logosie, ethosie i pathosie. Logos odwołuje się do faktów i myślenia, pathos do emocji a ethos opiera się na wiarygodności mówcy. Przejście jakiego dokonał Arystoteles miało związek z efektem skali, bo czym innym jest dialog prowadzony w wąskim gronie, a czym innym jest instruowanie dotyczące oddziaływania na tłumy, a o to w dużym stopniu chodzi w retoryce. Skala ta systematycznie była poszerzana przez włączanie do komunikacji kolejnych technologii medialnych, najpierw pisma, potem druku, aż do całego spektrum mediów elektrycznych, czyli radia, telewizji, kina, itp., które ponownie pomogły wykorzystać w procesach perswazyjnych pełniejszy zakres angażowanych zmysłów, pozwalający balansować pomiędzy racjonalnością i emocjonalnością. Ta moc została zaprzęgnięta na przykład do działań propagandowych III Rzeszy i z historii wiemy, jak bardzo okazała się skuteczna (Hanna Arend, Korzenie totalitaryzmu, 2021).
„Pragmatyczny duch” komunikacyjnego oddziaływania towarzyszy także praktyce marketingowej i kolejnych jej odsłonom, od opartej na produkcie, przez oddziaływanie na potrzeby klienta, jego samego połączone z włączenie go do działań marketingowych (marketing partycypacyjny) aż do marketingu doświadczeń, w którym chodzi o
inscenizowanie doświadczeń dla konsumentów, które stają się ich udziałem, […] w trakcie procesu zakupowego oraz we wszystkich punktach styku z przedsiębiorstwem, w jaki może dojść w dalszym czasie”
(Max Lenderman: Experience the Message. How Experience Marketing is Changing the Brand World, 2006
Jak widać pomysłowość w wykorzystywaniu odkrytej przez starożytnych mocy komunikacyjnego oddziaływania nie ma końca. W międzyczasie w ramach badań medioznawczych odkryto, że nie tylko treść przekazu ma znaczenie, ale w procesach perswazyjnych ważne jest także ukierunkowanie uwagi (teoria ustalania hierarchii ważności Maxwella McCombsa i Donalda Shawa: M. McCombs, D. Shaw, The agenda-setting function of mass media, 1972), włączając w to oddziaływanie na uwagę przed nadaniem komunikatu perswazyjnego, mowa oczywiście o pre-swazji (pre suasion) (Robert Cialdini, Jak w pełni wykorzystać techniki wpływu społecznego, 2023).
Ten bardzo pobieżny opis praktyk perswazyjnych uświadamia nam, że wraz z rozwojem narzędzi komunikacyjnych i wiedzy na jej temat zmieniała się skala oddziaływania oraz jej formy, w ten nurt wpisuje się także to, co od 2024 roku określa się mianem ekonomii intencji, stanowiącej rozwinięcie tzw ekonomii uwagi.
Gospodarka uwagi opierała/opiera się na wskaźnikach takich jak kliknięcia i polubienia, które utrzymują zaangażowanie użytkowników. Gospodarka intencji wykracza poza to, analizując i działając w oparciu o podstawowe motywacje i cele, które kierują zachowaniami użytkowników. Ekonomia intencji” odnosi się do nowego paradygmatu ekonomicznego, w którym dzięki sztucznej inteligencji nacisk przenosi się z przyciągania uwagi użytkowników na zrozumienie i komercjalizację ich intencji. Zamiast konkurować o kliknięcia, firmy wykorzystując zaawansowaną sztuczną inteligencję mogą przewidywać, wpływać na interpretację, a nawet manipulować pragnieniami i celami użytkowników, zanim zostaną one w pełni sformułowane. Ma to wpływ na reklamę, doświadczenia użytkowników i szereg innych obszarów. Niektórzy postrzegają to jako bardziej skuteczny model osiągania wyników, podczas gdy inni wyrażają obawy dotyczące potencjalnej manipulacji i utraty autonomii użytkowników.
W tym przypadku o mocy oddziaływania decyduje technologiczny potencjał sztucznej inteligencji i dogłębna analiza jaką może przeprowadzać w czasie rzeczywistym. Zaawansowana sztuczna inteligencja, w tym duże modele językowe (LLM), mogą analizować szeroki zakres danych w celu wnioskowania o intencjach. Obejmuje to kontekst rozmowy, wzorce emocjonalne, poprzednie decyzje i korelacje z podobnymi użytkownikami. Do tej pory skuteczność perswazji była ograniczona do tego, na co „pozwalał” odbiorca, w przypadku ekonomii intencji sztuczna inteligencja dzięki możliwościom gromadzenia i opracowywania danych na temat odbiorcy zdobywa nad nim przewagę, bowiem ma potencjał zbierania sygnałów intencji zanim użytkownik świadomie podejmie decyzję, oczywiście zgodnie z regułami rynku, informacje te mogą być przedmiotem handlu i udostępniane stronom trzecim stają się źródłem wartości ekonomicznej.
Co ważne, agenci sztucznej inteligencji mogliby nie tylko przewidywać intencje, ale także wpływać na nie, dostosowując swoje odpowiedzi i sugestie tak, aby kierować użytkowników w stronę określonych wyników (Y. Chaudhary, J. Penn, Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models, 2024).
Prekursorzy badań z zakresu tej problematyki, Yaqub Chaudhary i Jonnie Penn podkreślają, że
na podstawie dokładnej analizy najnowszej literatury technicznej i krytycznej (w tym nieopublikowanych artykułów z ArXiv), wykazujemy, że narzędzia takie są już wykorzystywane do wywoływania, wnioskowania, gromadzenia, rejestrowania, rozumienia, prognozowania, a ostatecznie manipulowania, modelowania i komercjalizacji ludzkich planów i celów, zarówno tych prozaicznych (np. wybór hotelu), jak i tych głębokich (np. wybór kandydata politycznego)
(Y. Chaudhary, J. Penn, Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models, 2024)
Oczywiście fakt ten rodzi szereg wątpliwości i pytań natury etycznej, jednak to, co budzi największe obawy to, to że LLM będą mogły przykuwać uwagę użytkowników w czasie rzeczywistym, włączając tematy „generowane dynamicznie” dopasowując je do takich czynników jak „ślady osobistego zachowania” i nadwyżki behawioralnej z nimi związanej (są to tzw. dane resztkowe na podstawie których można budować profil psychologiczny użytkownika). Przy niskich kosztach AI będzie mogła wykorzystywać do wpływu takie parametry jak rytm wypowiedzi, poglądy polityczne, słownictwo, wiek, płeć, preferencje dotyczące pochlebstw, czyli wszystko to, co decyduje o sile perswazji. Modele sztucznej inteligencji mogłyby także kierować rozmowami zgodnie z interesem reklamodawców, a nie użytkowników. I wreszcie powinno nas zastanawiać to, że modele AI będą w stanie modyfikować swoje wyniki w odpowiedzi na „strumień napływających danych” generowanych przez użytkowników, pozwoli to wnioskować o danych osobowych na podstawie codziennej wymiany zdań, a nawet kierować rozmowami w celu uzyskania osobistych informacji (Y. Chaudhary, J. Penn, Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models, 2024)
Działania perswazyjne zawsze balansowały na granicy pomiędzy tym co dobre i złe, stąd wprowadzony podział na perswazję białą i czarną. Biała to taka, w której jesteśmy PODMIOTAMI oddziaływania, rozumiemy wpływ jakiemu jesteśmy poddawani, ale od nas zależy na ile pozwolimy komuś kształtować nasze zachowanie. W czarnej perswazji jesteśmy PRZEDMIOTAMI cudzego wpływu, tracimy kontrolę dowiadując się o tym dopiero post factum. Dlatego naukę promptowania, obok świadomego pozyskiwania informacji musimy uzupełnić o mechanizmy obrony przed perswazją i na początek zadawać sobie bardzo banalne pytania, na przykład:
- dlaczego AI proponuje mi rozwinięcie konwersacji w tym, a nie innym kierunku?
- dlaczego wprowadza ten temat?
- itp.
Grażyna Osika
