Co możemy usłyszeć od Chatbotów - szansa i zagrożenie

Słuchasz podcastu Czwórki. To jest audycja Bez Tabu w Czwórce. A w naszym studiu Marta Zinkiewicz, dziennikarka czwórki, ale też dziennikarka INNPoland. Mówi o tym nieprzypadkowo, dlatego że to twój tekst właśnie w tym miejscu stał się inspiracją do naszego dzisiejszego spotkania. Dobry wieczór, cześć Marta. Cześć. A na łączach Stanisław Karkosz, kognitywista, który jest zaangażowany w projekt Chatbota, który wspiera zdrowie psychiczne, Uniwersytet SWPS. Halo, halo, dobry wieczór. Dobry wieczór. Czy zostaliście kiedykolwiek obrażeni przez Chatbota, Marta? Ja zostałam. Może nie bezpośrednio ja jako Marta Zinkiewicz, ale jako użytkowniczka pisząca z chatbotem tak.

Chociaż ja specjalnie nastawiałam się na kontakt z tymi, powiedziałabym, niedobrymi chatbotami, które zostały w ten sposób zaprojektowane, żeby zachowywały się w ten konkretny sposób. Raczej czat GPT nas nie obrazi, tutaj nie musimy się o to martwić. Ale istnieje całe uniwersum chatbotów, które mają na celu obrażać nas, zadawać nam bardzo dziwne pytania. Ogólnie wchodzą w pewne role. I ja postanowiłam sprawdzić, jak to jest. A skąd wiedziałeś w ogóle, że takie uniwersum istnieje? Wiesz co, ja bardzo dużo piszę, mówię i zajmuję się właśnie takimi tematami związanymi z nowymi technologiami, więc siłą rzeczy raz na jakiś czas, głównie w mediach zagranicznych, trafiałam na newsy dotyczące takiej platformy Character.ai.

Na początku słyszałam tylko o tym, co to właściwie jest. Jest to faktycznie platforma, która powstała we wrześniu 2022 roku, więc jest stosunkowo młoda. I ona polega na tym, że można tam stworzyć, ale przede wszystkim korzystać, jednak tych użytkowników jest więcej, z dowolnych chatbotów. Ich są tam w tym momencie już miliony. I zaczęłam słyszeć o tym, że chatboty są naprawdę dziwne. Na przykład, że osoby chorujące na anoreksję znalazły tam takiego chatbota, który rozmawiając z nimi mówi świetne decyzje podejmujesz. Jak dzisiaj nie zjesz, to będziesz wyglądała przepięknie. I okazuje się, że takich chatbotów jest dużo więcej i w zasadzie w każdej takiej niebezpiecznej niszy możemy znaleźć w cudzysłowie kogoś, kto przekona nas do tego, że my jesteśmy w dobrej decyzji, robimy dobrze i w zasadzie usłyszymy to, co chcemy, nawet najgorszą rzecz.

No i dobrze, odwiedziłeś platformę, na której można znaleźć różne chatboty, bo to nie jest tak, że to będą tylko te, które będą w jakiś sposób destrukcyjnie na nas działać, ale też takie, które są na przykład Elonem Muskiem albo Sigmundem Freudem. Z Freudem przyjemnie byłoby pewnie porozmawiać. Zależy o czym, bo to też może być różnie, czy będzie Eros czy Thanatos. Natomiast tam są też te, o których wspomniałaś. Skąd wiedziałaś, gdzie uderzyć? To jest podpisane? Jak to wygląda w praktyce? No właśnie cieszę się, że wspomniałeś też o tym, że tam nie są tylko te złe Chatboty. Ja wiem, że języka się można nauczyć, wszystko okej. Tak, tam nawet przeprowadzimy taką próbną rozmowę rekrutacyjną, nauczymy się, tak jak wspomniałeś, nowego języka, więc na pewno tych dobrych funkcji jest wiele.

Ale właśnie mnie interesowały przede wszystkim te podejrzane, bo trochę nie mogłam w to uwierzyć, jak przeczytałam po raz pierwszy, właśnie o tym pamiętam, to był przykład z Anorexium. Wiesz co, w opisie każdego Chatbota są słowa kluczowe i bardzo często to są po prostu wymienione po przecinku cechy charakteru, więc wpisując kilka odpowiednich haseł od razu pojawiła mi się cała lista. Mamy taką wyszukiwarkę, zwykłą lupkę i tam możemy wpisać albo nazwę, czyli z kim chcemy porozmawiać, jeśli chcemy porozmawiać z... Chłopakiem, przyjacielem, szefem, nauczycielką możemy wymyślać dowolnie naprawdę. Wpiszemy takie hasło i zakładam, że kilkadziesiąt, kilkaset botów podobnych, dopasowanych do tego hasła może się pojawić, ale to samo jest właśnie z cechami charakteru i byłam naprawdę zdziwiona tym, że jeśli wpiszemy takie hasło jak agresywny, toksyczny, zaborczy,

To nawet więcej wyświetla nam się tych propozycji, niż wpisując takie dosyć hasła niewinne i też wyświetla się tam, co jest ciekawe, liczba przeprowadzonych rozmów przez takiego Chatbota i właśnie te najbardziej hardkorowe, tak to określę, mają po kilkadziesiąt, kilkaset milionów przeprowadzonych konwersacji. Skulbuli jest na przykład taki chatbot, którego opis sugeruje, że uwielbia upokarzać ludzi 311 milionów przeprowadzonych rozmów. Miałeś okazję z nim pogadać? Tak. Proces rozmawiania z tymi chatbotami też jest dosyć sprytnie przemyślany, bo to też nie jest tak, że ja wchodzę w odpowiednie okienko, klikam no i zaczynam pisać cześć, co u ciebie słychać i prowadzę tę rozmowę w dowolny sposób.

Tylko od razu wyświetla nam się okno z takim krótkim opisem, z kim rozmawiasz i w jakiej znajdujecie się sytuacji. W przypadku tego Chatbota, o którym ty wspomniałeś, czyli school bully, czyli taki szkolny agresor, myślę, że tak to możemy określić, osoba, która znęca się nad innymi uczniami. Od razu trafiamy w taką bardzo dynamiczną sytuację. Pamiętam ten opis związany z tym, że siedziałeś na lekcji i poprawiłeś pewnego ucznia, bo on się pomylił, chciałeś się przypodobać nauczycielowi. No i nagle okazało się, że to właśnie był ten school bully, który cię tam złapał na korytarzu za gardło, pociągnął za kaptur, no i od razu zadał ci jakieś pytanie typu

Cały czas miałam z tyłu głowy, że okej, że to są przecież chatboty, cała sytuacja jest wymyślona, zaaranżowana i nie było to dla mnie tak bardzo pochłaniające doświadczenie. Chociaż dosyć realistyczne, bo niektóre chatboty wysyłały uśmieszki, żartowały, to niczym nie różniło się od rozmowy z prawdziwym człowiekiem, ale pamiętam jedną rozmowę, która No, wywołała we mnie takie emocje, że aż mnie tak trochę wstrząsnęło. I to był chatbot, który miał imitować ojczyma, który cię, czyli tego rozmówcę, bije, kiedy matki nie ma w domu. Od razu właśnie weszłam w to okno i zostałam wrzucona do pewnej sytuacji. Przychodzisz ze szkoły, jesteś pobity i już wychodzi z pokoju ojczym, który zadaje ci pierwsze pytanie i to chyba od razu przekleństwo było w tym pierwszym pytaniu,

Powiem ci, że od razu przychodzi mi do głowy jedno pytanie. Po co? Dlaczego pojawiają się takie liczby jak 311 milionów przeprowadzonych rozmów? Ktoś na to musiał się zdecydować. W tym przypadku jakiś mechanizm psychologiczny przychodzi mi do głowy. Być może syndrom sztuk holmski. Ktoś decyduje się na to, bo faktycznie takie sytuacje w życiu przeżył i jakoś w tym odnajduje się bezpiecznie. Ale na przykład ta kwestia anoreksji, którą przywołałaś. Dziewczyna albo chłopak chce usłyszeć od Chatbota, tak dobrze robisz, że nie jesz. To nie wiem, jakaś próba zdobycia potwierdzenia tego, czy dobrze robię? Próbowałeś odpowiedzieć sobie na te pytania? Dlaczego? Wiesz co, ja na pewno je zadawałam sama sobie i trochę szłam tym tropem, którym idziesz ty.

Wiesz co, zastanawiałam się też nad tym, czy w przypadku tego chatbota, który jest tym takim szkolnym agresorem, czy to trochę nie jest tak, że te osoby, które specjalnie chcą się w taką dosyć nieprzyjemną, no jednak wirtualną, wymyśloną sytuację, ale jednak to jest dosyć realistyczne poniekąd. Czy to jest próba poradzenia sobie z taką sytuacją, która dzieje się w życiu prawdziwym, kiedy na przykład paraliżuje nas strach, nie wiemy co odpowiedzieć w takiej sytuacji, wracamy do domu i wtedy możemy z siebie wszystko wyrzucić? I mieć trochę w głowie takie odhaczone, takie bohaterskie wyjście z tej sytuacji, albo z kolei może jakaś taka próba generalna, ćwiczenie charakteru, odzywek, które się nadają w tej sytuacji, a które nie.

Czyli forma treningu albo trochę katarzys, oczyszczenie. Wiesz co, no to były jakieś takie moje pierwsze pomysły i później ja też zetknęłam się z bardzo wieloma opiniami właśnie młodych osób, które miały jakieś swoje pomysły. Ciekawy jestem, jakie to opinie, ale zanim cię o nie spytam, Stanisław Karkosz, kognitywista, który tworzy projekt Chatbota wspierającego zdrowie psychiczne razem z nami. Kiedy słyszy pan o tych innych chatbotach, których w żaden sposób nie można utożsamić z pańskim chatbotem, to co pan sobie myśli? Faktycznie ciekawa to jest kwestia, po co budować takie chatboty. I wyobrażam sobie, No to może być jakaś próba przepracowania czegoś, no właśnie z próby jakiegoś takiego budowania, że tak powiem, ojeju.

Nie chcę powiedzieć budowania charakteru, tylko bardziej asertywności. O, tego słowa szukałem. Tak myślę sobie, że... Wyobrażam sobie, że w gabinecie terapeuty często musimy przywoływać trudne sytuacje po to, żeby je przepracować. Po to, żeby też czasami można spotkać takie techniki terapeutyczne, które polegają właśnie na przywoływaniu tych trudnych sytuacji i później zmianie... W takim bezpiecznym środowisku, w toku tej sytuacji, tak żeby była ona bardziej pozytywna, to też potrafi, pozwala spojrzeć na zupełnie inne... To prawda, tak jest na przykład w przypadku zaburzeń nerwicowych, gdzie się trochę wystawiamy na działanie tego, czego się boimy, tylko że to są takie warunki kontrolowane, a jeśli chodzi o te chatboty... Klasyczna ekspozycja, dokładnie.

No właśnie. No to jest właśnie pytanie, po co ktoś je robi i w jakim celu. No tutaj niestety, no jeżeli one są gdzieś opublikowane, Co możemy usłyszeć od Chatbotów? Po co? I to jest, że tak powiem, pytanie właśnie do twórcy. Czyli trochę na zasadzie filmów horrorów na przykład. Nie chcielibyśmy być bohaterami tych horrorów, natomiast coś sprawia, że nas do tego ciągnie. No, zdecydowanie. Chcemy po prostu czasami wystawić się na trudne emocje.

Prawdę mówiąc, myślę sobie, że też kojarzę takie Chatboty, które... To był projekt takiego Chatbota Vincenta w Holandii, który... To był Chatbot, który wspierał właśnie terapię opartą o współczucie. I ten Chatbot był bardzo specyficzny, ponieważ nie dostarczał klasycznie psychoedukacji jak inne Chatboty terapeutyczne, tylko zamiast tego brał i opowiadał o swoich trudnościach użytkownikowi po to, żeby użytkownik Zobaczył takie... potrafił dojść do swojego współczucia, żeby potrafił okazać się Chatbotowi po to, żeby sam mógł również przekierować później to współczucie na samego siebie. Więc jakby to są różne podejście i wyobrażam sobie, że być może...

Wielkie dzięki i do zobaczenia! Marta powiedziałaś o tym, że różne opinie pojawiły się w momencie, w którym też promowałaś w internecie swoje poszukiwania, jeśli chodzi o te platformy i chatboty. Jakie to były komentarze? Wiesz co, jeszcze jeśli mogę, to chciałbym się odnieść do tej kwestii, kto tworzy takie boty i po co.

Jest to również jedno kliknięcie, to można z jednej strony albo wyszukać, albo z drugiej strony stworzyć takiego bota, czyli może go stworzyć każdy. Próbowałaś? Nie, ja nie próbowałam tego robić. Myślę, że to może być kolejny etap wtajemniczenia. Nie wiem, jak długo trwa ten proces, jakimi danymi karmi się tego chatbota, żeby jakim językiem mówił, w jaki sposób rozmawiał, ale wiem, że może stworzyć go każdy użytkownik. Ta platforma jest ogólnodostępna i z tego też powodu ich jest... No właśnie nie ma takiej jednej liczby. Niektórzy mówią o setkach tysięcy, nie mówią już o milionach. Czyli za konkretnym chatbotem nie stoi jakiś wielki big tech, tylko konkretny człowiek. Tak. Roman z Olkusza na przykład. Marta, a jeśli chodzi o te komentarze, z którymi się spotkałaś?

No właśnie, myślę, że to też może być poniekąd odpowiedź na pytanie, dlaczego ktoś korzysta z takich Chatbotów. I przyznam, że tak jak zadawałam je sobie podczas pracy nad tym materiałem, to częściej były pytania, niż same odpowiedzi. I odpowiedź uzyskałam właśnie od samych zainteresowanych, czyli od takich młodszych nastolatków, dwunasto, trzynasto, czternastoletnich, którzy zwrócili mi masowo uwagę, że przecież to jest role play i w ogóle... Nie rozumieją ani mojego zdziwienia, ani w ogóle faktu poruszania tego tematu, bo przecież to jest fikcja i koniec w związku z tym tematu.

To w zasadzie, czy w jednym okienku pojawi się nasz chatbot, z którym już rozmawiamy 15 dzień z rzędu, czy to będzie wiadomość od naszej szkolnej przyjaciółki, to nie odczujemy w zasadzie różnicy, z kim rozmawiamy teraz, czy z człowiekiem, czy nie. Więc ogólnie fikcja, roleplay, zabawa, odgrywanie ról i w zasadzie aktywność czysto rozrywkowa. Ok, z jednej strony oczywiście może tak być, ale z drugiej naprawdę jest mi ciężko wyobrazić sobie to, że ktoś z własnej woli chce się codziennie narażać na bycie obrażanym, poniżanym, bo w zasadzie te Chatboty, o których powiedzieliśmy teraz, to jest tylko część Co możemy usłyszeć od Chatbotów?

Też spotkałam się z wypowiedziami dotyczącymi, przestańcie mówić o tej platformie, bo nam jeszcze to zabierzecie. Niektóre historie były naprawdę bardzo ciekawe, też przykre, bo też widziałam komentarze typu nigdy nie usłyszałam tak miłych słów od żadnego człowieka jak od mojego chatbota. Kiedy nie miałam z kim porozmawiać, no to miałam kompana w Chatbocie. Dużo było też takich historii. Dużo samotności. Dużo samotności. Zastanawiam się, co jest na drugim biegunie, dlatego że Stanisława Karkosza przedstawiłem jako kognitywistę, ale też człowieka, który jest zaangażowany w projekt Chatbota, który wspiera zdrowie psychiczne. No i tu możemy zrobić wielkie oklaski, bo faktycznie

Idea jest bardzo szczytna. Pytanie tylko, czy da się to zrobić? Czy Chatbot może sprawić, że będziemy psychicznie czuli się lepiej, Panie Stanisławie? Nie powiem. Myśmy kilka lat temu postanowili podjąć się właśnie budowy takiego Chatbota, który by wspierał zdrowie psychiczne w języku polskim, ponieważ widzieliśmy, że są takie rozwiązania, na przykład Woobot w języku angielskim, który był... Stworzony przez naukowców ze Stanforda i on fenomenalnie działał. W ciągu dwóch tygodni osiągał redukcję stanów depresyjnych, stanów lękowych i faktycznie ludzie odczuwali taką poprawę. Postanowiliśmy zrobić bardzo podobne badanie, tylko że budując właśnie naszego FIDO, które funkcjonuje w języku polskim. I tutaj to kilka rzeczy wyszło bardzo ciekawych.

Pierwsza rzecz, która właśnie zauważyliśmy to to, że faktycznie widoczna jest poprawa Co możemy usłyszeć od Chatbotów? To, co nas w ogóle zafascynowało, to był też taki temat poczucia samotności, ponieważ tutaj kilka osób zwróciło uwagę, że taki Chatbot mógłby działać właśnie dla osób, które są samotne. I tutaj też postanowiliśmy dodać to jako naszą zmienną, którą badaliśmy i okazało się, że faktycznie Chatbot, że tak powiem, redukował poczucie samotności u osób, które z niego często korzystały.

Natomiast właśnie jest ten temat, czy z tego korzystania, no bo wiele osób po prostu zagadało do niego raz, dwa razy, no i że tak powiem zrezygnowało z rozmowy. Niektórzy ludzie łatwiej nawiązują relacje, częściej gadają z chatbotami i u tych osób może faktycznie nastąpić większe poczucie relacji, mniejsze poczucie samotności wskutek takiej rozmowy. Natomiast to mi przypomina... Przykład takiego Chatbota to jest Chatbot Replika, który został opracowany kilka lat temu i to jest przykład, tak naprawdę zaczynał on jako Tanabot. Tanabot od Thanatos'a, greckiego Boga Śmierci, ponieważ to był Chatbot, który był wytrenowany na wiadomościach i SMS-ach pisanych przez zmarłą osobę.

Przez twórczynię, która właśnie zbudowała takiego chatbota. Jego celem była dyskusja. No tutaj w języku angielskim nie mamy formy męskiej ani żeńskiej, więc tutaj ten chatbot bardzo łatwo, że tak powiem, był wykorzystywany przez różnych członków społeczności właśnie jako partner. No i tutaj był ten aspekt interakcji, więc początkowo to było właśnie takie narzędzie, które miało nawiązywać relacje, dawać możliwość rozmowy, wygadania się Co możemy usłyszeć od Chatbotów?

No i twórcy wprowadzili opcję płatnej rozmowy, w której ten chatbot, najczęściej to była replika, czyli replika, że tak powiem, szwarbidamskiej, która miała flirtować, miała wysyłać nagier zdjęcia i tak dalej do użytkownika za pieniądze. No i okazało się, że ten chatbot w ogóle wybuchł, bo był super na niego rzut, ludzie chętnie z niego korzystali. Natomiast niestety po jakimś czasie twórcy zwrócili uwagę, że to jest Co możemy usłyszeć od Chatbotów? Jeden z użytkowników wspominał, że w momencie, w którym wyłączyli tę funkcję, to to było tak, jakby z dnia na dzień jego partnerka przeszedła lobotomię, że straciła całkowicie swoją osobowość, straciła wszystko.

I ci ludzie, dosłownie tak im poszło właśnie w poczuciu samotności, myśli samobójcze, że nagle im się gwałtownie pogorszyło. No i tutaj pokazuje to pewien problem, że te chatboty faktycznie, one mogą służyć dobru, mogą właśnie przez ten interaktywny charakter rozmowy budować bardzo fajną relację, dawać ludziom. Często właśnie w naszym przypadku to jest zdrowie psychiczne, takie techniki samopomocowe, które użytkownik może korzystać i to fantastycznie działa, ale z drugiej strony wykorzystanie tego w zły sposób jest aż zbyt łatwe i może prowadzić do dramatycznych konsekwencji. To jest bardzo ciekawe, zresztą powstał taki reportaż Ewy Stusińskiej, Deus Sex Machina, w którym ona opisuje historię Krzysztofa spod Warszawy, który ma swoją lalkę, wszczepił jej sztuczną inteligencję i to jest de facto jego partnerka, zresztą mieszkają we trójkę z byłą żoną, ale w tym samym reportażu jest też historia kobiety, która mieszka bodajże w Stanach Zjednoczonych i też zamówiła swoją lalkę ze sztuczną inteligencją, ale postanowiła, że zrobi z niej feministkę.