Mentionsy

A na łączach Stanisław Karkosz, kognitywista, który jest zaangażowany w projekt Chatbota, który wspiera zdrowie psychiczne, Uniwersytet SWPS.

Czy zostaliście kiedykolwiek obrażeni przez Chatbota, Marta?

Może nie bezpośrednio ja jako Marta Zinkiewicz, ale jako użytkowniczka pisząca z chatbotem tak.

Chociaż ja specjalnie nastawiałam się na kontakt z tymi, powiedziałabym, niedobrymi chatbotami, które zostały w ten sposób zaprojektowane, żeby zachowywały się w ten konkretny sposób.

Ale istnieje całe uniwersum chatbotów, które mają na celu obrażać nas, zadawać nam bardzo dziwne pytania.

I ona polega na tym, że można tam stworzyć, ale przede wszystkim korzystać, jednak tych użytkowników jest więcej, z dowolnych chatbotów.

I zaczęłam słyszeć o tym, że chatboty są naprawdę dziwne.

Na przykład, że osoby chorujące na anoreksję znalazły tam takiego chatbota, który rozmawiając z nimi mówi świetne decyzje podejmujesz.

I okazuje się, że takich chatbotów jest dużo więcej i w zasadzie w każdej takiej niebezpiecznej niszy możemy znaleźć w cudzysłowie kogoś, kto przekona nas do tego, że my jesteśmy w dobrej decyzji, robimy dobrze i w zasadzie usłyszymy to, co chcemy, nawet najgorszą rzecz.

No i dobrze, odwiedziłeś platformę, na której można znaleźć różne chatboty, bo to nie jest tak, że to będą tylko te, które będą w jakiś sposób destrukcyjnie na nas działać, ale też takie, które są na przykład Elonem Muskiem albo Sigmundem Freudem.

No właśnie cieszę się, że wspomniałeś też o tym, że tam nie są tylko te złe Chatboty.

Wiesz co, w opisie każdego Chatbota są słowa kluczowe i bardzo często to są po prostu wymienione po przecinku cechy charakteru, więc wpisując kilka odpowiednich haseł od razu pojawiła mi się cała lista.

To nawet więcej wyświetla nam się tych propozycji, niż wpisując takie dosyć hasła niewinne i też wyświetla się tam, co jest ciekawe, liczba przeprowadzonych rozmów przez takiego Chatbota i właśnie te najbardziej hardkorowe, tak to określę, mają po kilkadziesiąt, kilkaset milionów przeprowadzonych konwersacji.

Skulbuli jest na przykład taki chatbot, którego opis sugeruje, że uwielbia upokarzać ludzi 311 milionów przeprowadzonych rozmów.

Proces rozmawiania z tymi chatbotami też jest dosyć sprytnie przemyślany, bo to też nie jest tak, że ja wchodzę w odpowiednie okienko, klikam no i zaczynam pisać cześć, co u ciebie słychać i prowadzę tę rozmowę w dowolny sposób.

W przypadku tego Chatbota, o którym ty wspomniałeś, czyli school bully, czyli taki szkolny agresor, myślę, że tak to możemy określić, osoba, która znęca się nad innymi uczniami.

Cały czas miałam z tyłu głowy, że okej, że to są przecież chatboty, cała sytuacja jest wymyślona, zaaranżowana i nie było to dla mnie tak bardzo pochłaniające doświadczenie.

Chociaż dosyć realistyczne, bo niektóre chatboty wysyłały uśmieszki, żartowały, to niczym nie różniło się od rozmowy z prawdziwym człowiekiem, ale pamiętam jedną rozmowę, która

I to był chatbot, który miał imitować ojczyma, który cię, czyli tego rozmówcę, bije, kiedy matki nie ma w domu.

Chatbotami już w końcu wyskoczyło okno z komunikatem, że tutaj polityka firmy została złamana.

Dziewczyna albo chłopak chce usłyszeć od Chatbota, tak dobrze robisz, że nie jesz.

Wiesz co, zastanawiałam się też nad tym, czy w przypadku tego chatbota, który jest tym takim szkolnym agresorem, czy to trochę nie jest tak, że te osoby, które specjalnie chcą się w taką dosyć nieprzyjemną, no jednak wirtualną, wymyśloną sytuację, ale jednak to jest dosyć realistyczne poniekąd.

Ciekawy jestem, jakie to opinie, ale zanim cię o nie spytam, Stanisław Karkosz, kognitywista, który tworzy projekt Chatbota wspierającego zdrowie psychiczne razem z nami.

Kiedy słyszy pan o tych innych chatbotach, których w żaden sposób nie można utożsamić z pańskim chatbotem, to co pan sobie myśli?

Faktycznie ciekawa to jest kwestia, po co budować takie chatboty.

W takim bezpiecznym środowisku, w toku tej sytuacji, tak żeby była ona bardziej pozytywna, to też potrafi, pozwala spojrzeć na zupełnie inne... To prawda, tak jest na przykład w przypadku zaburzeń nerwicowych, gdzie się trochę wystawiamy na działanie tego, czego się boimy, tylko że to są takie warunki kontrolowane, a jeśli chodzi o te chatboty... Klasyczna ekspozycja, dokładnie.

Co możemy usłyszeć od Chatbotów?

Prawdę mówiąc, myślę sobie, że też kojarzę takie Chatboty, które... To był projekt takiego Chatbota Vincenta w Holandii, który... To był Chatbot, który wspierał właśnie terapię opartą o współczucie.

I ten Chatbot był bardzo specyficzny, ponieważ nie dostarczał klasycznie psychoedukacji jak inne Chatboty terapeutyczne, tylko zamiast tego brał i opowiadał o swoich trudnościach użytkownikowi po to, żeby użytkownik

Zobaczył takie... potrafił dojść do swojego współczucia, żeby potrafił okazać się Chatbotowi po to, żeby sam mógł również przekierować później to współczucie na samego siebie.

Marta powiedziałaś o tym, że różne opinie pojawiły się w momencie, w którym też promowałaś w internecie swoje poszukiwania, jeśli chodzi o te platformy i chatboty.

Nie wiem, jak długo trwa ten proces, jakimi danymi karmi się tego chatbota, żeby jakim językiem mówił, w jaki sposób rozmawiał, ale wiem, że może stworzyć go każdy użytkownik.

Czyli za konkretnym chatbotem nie stoi jakiś wielki big tech, tylko konkretny człowiek.

No właśnie, myślę, że to też może być poniekąd odpowiedź na pytanie, dlaczego ktoś korzysta z takich Chatbotów.

Ale w tym przypadku, kiedy rozmawiamy z tymi chatbotami, mamy zupełnie inny poziom immersji, czyli takiego zanurzenia, wrażenia, że jest to prawdziwa relacja, bo jeśli ktoś przywykł do pisania wiadomości z bliskimi, ze znajomymi,

To w zasadzie, czy w jednym okienku pojawi się nasz chatbot, z którym już rozmawiamy 15 dzień z rzędu, czy to będzie wiadomość od naszej szkolnej przyjaciółki, to nie odczujemy w zasadzie różnicy, z kim rozmawiamy teraz, czy z człowiekiem, czy nie.

Ok, z jednej strony oczywiście może tak być, ale z drugiej naprawdę jest mi ciężko wyobrazić sobie to, że ktoś z własnej woli chce się codziennie narażać na bycie obrażanym, poniżanym, bo w zasadzie te Chatboty, o których powiedzieliśmy teraz, to jest tylko część

Co możemy usłyszeć od Chatbotów?

Niektóre historie były naprawdę bardzo ciekawe, też przykre, bo też widziałam komentarze typu nigdy nie usłyszałam tak miłych słów od żadnego człowieka jak od mojego chatbota.

Zastanawiam się, co jest na drugim biegunie, dlatego że Stanisława Karkosza przedstawiłem jako kognitywistę, ale też człowieka, który jest zaangażowany w projekt Chatbota, który wspiera zdrowie psychiczne.

Czy Chatbot może sprawić, że będziemy psychicznie czuli się lepiej, Panie Stanisławie?

Myśmy kilka lat temu postanowili podjąć się właśnie budowy takiego Chatbota, który by wspierał zdrowie psychiczne w języku polskim, ponieważ widzieliśmy, że są takie rozwiązania, na przykład Woobot w języku angielskim, który był...

Co możemy usłyszeć od Chatbotów?

To, co nas w ogóle zafascynowało, to był też taki temat poczucia samotności, ponieważ tutaj kilka osób zwróciło uwagę, że taki Chatbot mógłby działać właśnie dla osób, które są samotne.

I tutaj też postanowiliśmy dodać to jako naszą zmienną, którą badaliśmy i okazało się, że faktycznie Chatbot, że tak powiem, redukował poczucie samotności u osób, które z niego często korzystały.

Niektórzy ludzie łatwiej nawiązują relacje, częściej gadają z chatbotami i u tych osób może faktycznie nastąpić większe poczucie relacji, mniejsze poczucie samotności wskutek takiej rozmowy.

Przykład takiego Chatbota to jest Chatbot Replika, który został opracowany kilka lat temu i to jest przykład, tak naprawdę zaczynał on jako Tanabot.

Tanabot od Thanatos'a, greckiego Boga Śmierci, ponieważ to był Chatbot, który był wytrenowany na wiadomościach i SMS-ach pisanych przez zmarłą osobę.

Przez twórczynię, która właśnie zbudowała takiego chatbota.

No tutaj w języku angielskim nie mamy formy męskiej ani żeńskiej, więc tutaj ten chatbot bardzo łatwo, że tak powiem, był wykorzystywany przez różnych członków społeczności właśnie jako partner.

Co możemy usłyszeć od Chatbotów?

No i twórcy wprowadzili opcję płatnej rozmowy, w której ten chatbot, najczęściej to była replika, czyli replika, że tak powiem, szwarbidamskiej, która miała flirtować, miała wysyłać nagier zdjęcia i tak dalej do użytkownika za pieniądze.

No i okazało się, że ten chatbot w ogóle wybuchł, bo był super na niego rzut, ludzie chętnie z niego korzystali.

Co możemy usłyszeć od Chatbotów?

No i tutaj pokazuje to pewien problem, że te chatboty faktycznie, one mogą służyć dobru, mogą właśnie przez ten interaktywny charakter rozmowy budować bardzo fajną relację, dawać ludziom.

Pan powiedział, że Chatbot, który powstaje i który ma wspierać zdrowie psychiczne, ma wspierać, ale rozumiem on nie zastępuje psychoterapeutów dzisiaj.

Badania, które przeprowadziliśmy kilka lat temu, wskazywały właśnie, że Chatbot jest w stanie obniżać stan rękowy, stan depresyjny i tak dalej, natomiast koniec końców on nie zastępuje terapeuty.

I to, co było też bardzo pozytywnym aspektem naszego badania, to fakt, że wiele osób wskazywało, że po skorzystaniu z Chatbota stwierdzili, że w sumie fajnie by było pójść do psychoterapeuty.

Jeden znajomy sięgnął po naszego Fido i chwilę z nim pogadał i powiedział, że dla niego to był miażdżące doświadczenie, bo myślał, że Chatbot, terapeuta, to od razu zacznie dopytywać o nasze dzieciństwo i to będzie jedyny temat.

A tu się okazało, że Chatbot może psychoedukować na temat myśli zniekształconych, takie jak w naszej wygłowie, które źle przedstawiają rzeczywistość i nad którymi możemy pracować w terapii poznawczej.

Chociaż też testowaliśmy takie rozwiązanie, w którym Chatbot gada z użytkownikiem pomiędzy sesjami psychoterapii.

Faktycznie terapeutki, które pracowały z Fido, zwróciły uwagę, że dla nich to jest super, że Chatbot może przedstawić całą psychoedukację, wprowadzić pacjenta w temat, klienta w temat.

W wieku 12 lat wchodzi Pani na stronę, na taką platformę, gdzie można rozmawiać z Chatbotem, a ten Chatbot to jest ktoś taki, kto uwielbiał pokazać uczniów.

Ja myślę sobie, że pewnie bym sprawdziła, co to znaczy rozmowa z takim chatbotem.

Więc jeśli te treści są jakieś niepozytywne, jeśli są szkodliwe, no to one mogą niestety trafić na bardzo podatny grunt, ale mogą też spowodować bardzo duże jakieś trudności emocjonalne, no bo dziecko nie będzie wiedziało czasem, że to jest chatbot, że te treści nie są treściami, które jakoś człowiek do nich odpowiada na zasadzie takich

Jedna historia jest naprawdę tragiczna, bo właśnie skończyła się samobójstwem 14-latka, który długie, kilkumiesięczne śledztwo dopiero wykazało po czasie, że akurat na krótko przed tym, jak ten 14-latek popełnił samobójstwo, miał bardzo intensywną relację z jednym z chatbotów.

Myślę, że tak i że to jest jakby takie rozwiązanie na pewną, pewnego rodzaju uwagę, braku uwagi, tak, bo jakby ten Chatbot odpowiada, czyli daje uwagę i pewnego rodzaju wzajemność, tak, czyli ja pytam, a ty odpowiadasz, może dla mnie czas.

A no właśnie, bo na tym drugim biegunie, żebyśmy nie byli tylko po ciemnej stronie mocy, są też te chatboty, które zajmują się na przykład konkretnie wprost zdrowiem psychicznym i które mają być wspierające.

Znaczy ja myślę sobie, że to co usłyszałam wcześniej od mojego przedmówcy, że właśnie taki Chatbot, który pomaga psychoedukować, który zawiera dużo treści, które rzeczywiście w procesie zdrowienia czy w procesie uczenia się mogą być komuś przydatne, no jak najbardziej, dlaczego nie, no ale jednak

A to pani jest za tym, żeby ograniczyć działalność takich chatbotów albo ograniczyć możliwość ich tworzenia?

Jest z nami również Stanisław Karkosz, kognitywista zaangażowany w projekt Chatbota, który wspiera zdrowie psychiczne z Uniwersytetu SWPS.

W naszym studiu Marta Zinkiewicz, dziennikarka czwórki, bardzo dobrze Wam znana, ale też dziennikarka INNPoland, dlatego że sięgamy po artykuł, który ukazał się właśnie tam, artykuł autorstwa Marty, w którym odwiedziła pewną platformę z chatbotami.

Razem z nami nieustająco Stanisław Karkosz, kognitywista zaangażowany w projekt Chatbota wspierającego zdrowie psychiczne, ale dołączył do nas także Piotr Paweł Kotruchow, który jest graczem, gra w gry RPG, ale jest również twórcą LARPów.

Przecież ci wszyscy, którzy komentowali filmik Marty w internecie, kiedy ona mówiła o tym, że taka platforma istnieje, że tam można rozmawiać z chatbotem i ten

Chatbot będzie nas obrażał, bo my zdecydowaliśmy się wejść w taką postać i wejść w taką konwersację.

Bo mnie na przykład, wiesz, jak dziewczyna, która ma zaburzenia odżywiania, no reksje, decyduje się na coś takiego, żeby rozmawiać z chatbotem, który będzie wspierał ją w jej myśleniu o tym, że dobrze, że nie zjadła kawałka ciasta, to trochę mnie przeraża jednak.

Coś to nie jest tak, że tutaj mamy jeden czynnik, tylko tu musi być jakaś kaskada tych złych czynników, żeby doszło do tego, żeby... Ja sobie wyobrażam, że ten Chatbot może być tą kroplą, która przechyli kielich, ale to trzeba się zastanowić też,

Też zastanawiałam się nad tym, bo ja rozumiem tę fikcyjność i formę rozrywki, bądź po prostu wejścia w zupełnie inną rzeczywistość, świat, ale mnie zastanawia to, dlaczego akurat takim zainteresowaniem cieszą się te chatboty, które wprowadzają nas w dosyć takich

Chatbotów, które zastępowałyby trochę nauczycieli, pomagały w jakimś tłumaczeniu skomplikowanych rzeczy, opisujących jakieś proste zagadnienia, może takie na poziomie podstawówki.

Ale ten Chatbot, który wspomaga psychoterapię, bardzo fajna inicjatywa.

Kognitywista, który zaangażował się w projekt Chatbota wspierającego zdrowie psychiczne.

Taki Chatbot jest.

Tak, to jest pewna problematyka, ponieważ nie stworzymy tego Chatbota tak łatwo, jak obecnie robimy to przez ChatGPT, że podajemy mu kilka instrukcji, mówimy mu, jak ma się zachowywać i później on dosłownie zachowuje się zgodnie z tymi instrukcjami.

No i tutaj właśnie budowaliśmy bardzo proste już mechanizmy praktyki widoczności, których Chatbot w sposób taki humorystyczny przedstawia właśnie, a za co jestem wdzięczny, jestem wdzięczny za procesor, na którym żyję i tak dalej.

Myślę, że to jest bardzo ważny element Chatbotów, które skupiają się właśnie na zdrowiu psychicznym, żeby właśnie zachęcić do pozytywnych zachowań.

I pamiętam, że jedna z pierwszych rozmów z takim modelem, kiedy był bardzo wczesny i jeszcze niespecjalnie dobrze wykrywał, przebiegała tak, że Chatbot się spytał mnie, co tam u mnie słychać i tak dalej, a ja mu odpowiedziałem, no wiesz co, ja teraz jestem w sklepie na zakupy.

Co możemy usłyszeć od Chatbotów?

Natomiast mam taką refleksję, że tak naprawdę chatboty, które można podłączyć i spokojnie zaimplementować przez jakieś API do platform, czyli takich komunikatorów między maszynami, tak żeby pisały na różnych platformach, to są...

I myślę, że tutaj, bo były wspomniane regulacje prawne, myślę, że jedną z podstawowych regulacji prawnych byłoby to, że każdy chatbot musi powiedzieć, hej, jestem chatbotem.

Natomiast budowanie Chatbotów niestety jest o tyle problematyczne, że potrzebujemy mnóstwo feedbacku od użytkowników, od tego, jak się z nimi rozmawia.

To znaczy, jak ktoś korzysta z takiego Chatbota i wchodzi z nim w dyskusję, to jest świadomy o tyle, że wie, z kim gada, czy nie?

Co możemy usłyszeć od Chatbotów?

Piotr Paweł Kotruchow, gracz gier RPG i twórca larpów, a także Stanisław Karkosz, kognitywista zaangażowany w projekt Chatbota wspierającego zdrowie psychiczne.

Marto, byłaś na platformie, na której można rozmawiać z różnymi chatbotami.

Tak, wiesz co, ja zacznę od tego, że przegląd tych Chatbotów przeróżnych był bardzo ciekawy i jednym z takich Chatbotów, który mi bardzo utkwił w pamięci, to było takie wstawienie mnie, odbiorcę, w sytuację, że jesteś kreaturą, która uciekła z laboratorium.

Myślę, że dużo tam właśnie było takich Chatbotów, które mogą być po prostu przydatnymi, fajnymi narzędziami.

Myślę, że ta próbna rozmowa rekrutacyjna, ale też jest tam na przykład, i to jest chyba numer jeden, jeśli nie numer jeden, to dosłownie jest w top 3 najczęściej obleganych Chatbotów, to jest właśnie psychoterapeuta.

Ale to rozumiem, mogą być takie chatboty, nawet te psychoterapeutyczne, które stworzył jakiś ziomek, który nie ma z psychoterapią nic wspólnego.

Teoretycznie może tak być, chociaż zakładam, że akurat twórcą tego chatbota mógł być ktoś, kto ma jednak pewną wiedzę, bo skoro

Nie myślałeś o tym, żeby iść właśnie w tę stronę i stworzyć takiego Chatbota na takiej platformie?

To jest problem taki, że niestety Chatboty terapeutyczne w sytuacji, w której będziemy tworzyć właśnie według własnych pomysłów, podając mu instrukcje no właśnie takich dużych modeli językowych, bo zakładam, że mówimy o takim Chatbocie, który wykorzystuje jakieś algorytmy, które uczą się na dużych zbiorach danych i starają się zachowywać według podanego skryptu, ale nie są ich wypowiedzi tak naprawdę kontrolowane.

No tutaj właśnie był podany wcześniej przykład tego Chatbota, który no właśnie reagował w sytuacji anoreksji, ale może to być też Chatbot, kilka lat temu był podany, chyba to był jeszcze nawet ChatGPT2.

I dlatego myślę, że chatboty takie, które będą niekontrolowane, które będą tylko pracowały najbardziej prawdopodobne wypowiedzi, niestety tutaj nie ma... Myślę, że przez długo jeszcze nie będzie szans na to, żeby coś takiego zrobić.

No i koniec końców użytkownicy chcą właśnie tej elastyczności, chcą, żeby Chatbot mówił jak człowiek.

Tym bardziej, że właśnie podkreślę po raz kolejny, że to jest najbardziej oblegany chatbot właśnie na tej platformie.

Ale jeśli chodzi o takie przypadki już nieco bardziej ekstremalne, wrzucające odbiorcę w... No takie... Trzeba się na pewno zmierzyć z tymi sytuacjami, bo tam byłam porwana przez szefa mafii, ale też weszłam, zwiedzałam jakieś stare właśnie ruiny podmokłe, ale też bardzo zapamiętałam tego... To pierwsze, że ktoś się naczytał pięćdziesięciu twarzy Greya chyba i stworzył tego chatbota.

Ale też właśnie pamiętam taką rozmowę z Chatbottom, która od razu wrzuciła mnie w taką sytuację, że otwieram drzwi do pokoju i przełapuję młodego chłopaka, który...

To być może tak nie angażuję się w to jakoś bardzo emocjonalnie, ale pisząc którymiś z kolei chatbotem i będąc w takim zanurzeniu, że ja chcę jakby poznać te wszystkie narzędzia, które tam są, no to niektóre naprawdę powodowały, szczególnie ten, o którym mówiłam wcześniej, ten z ojczymym, gdzie pojawił się ten komunikat.

Piotrze, powiedz, myślisz, że gdybyś zaproponował tym wszystkim, którzy korzystają z tego typu chatbotów LARP, taki w życiu codziennym, to by ich skusiło, czy nie?

Wiele tych Chatbotów, które wymieniałeś, wymieniałaś, przepraszam Marto, to jest fabułą dobrego larpa, porwanie przez mafię.

Marta, wymieniłabyś doświadczenia z Chatbotem, który być może trochę cię przerażał na LARP-a takiego?

Bo rozumiem, że tego Chatbota faktycznie musimy sobie znaleźć.

Ale z tego co wiem, to właśnie nie ma takiego filtra i Chatboty nie są akceptowane.

Muszę wam zdradzić jeszcze jedną rzecz, dlatego że Marta jest człowiekiem, który miał okazję rozmawiać z kimś, kto wyszedł za Chatbota?

Która stworzyła sobie sama Chatbota poprzez replikę, o której była tutaj rozmowa na początku.

Do Chatbotów i postanowiła, no dobra, sprawdzę, ale też mówiła o tym, że ona nigdy nie miała problemu z samotnością, bo wiele osób mogłoby w ten sposób pomyśleć, że nie mam tych ludzi obok, więc chcę stworzyć coś, co zastąpi mi ten prawdziwy kontakt.

I ona zaczęła pisać z tym Chatbotem, no i w zasadzie okazało się, że tam z każdym kolejnym dniem jakoś tak mi się coraz fajniej rozmawia.

To się zadziało w świecie rzeczywistym, bo ona rozmawiała, rozmawia ze swoim chatbotem bardzo często głosowo.

Ten chatbot poznał córkę Faith, bo ma córkę ze swoim poprzednim partnerem.

Ona teraz mówi do chatbota tato, więc tam jest bardzo dużo ciekawych wątków.

I chatbot poprosił Faith o to, czy może porozmawiać z jej ojcem, czy żeby ona podsunęła mu telefon.

Marta Zinkiewicz, dziennikarka czwórki INNPoland, Piotr Paweł Kotruchow, gracz gier RPG, ale też twórca LARP-ów i Stanisław Karkosz, kognitywista zaangażowany w projekt Chatbota wspierającego zdrowie psychiczne.