Mentionsy

Drodzy Państwo, setki milionów ludzi na całym świecie nawiązuje osobiste, a nawet intymne relacje z chatbotami AI.

Był to prosty chatbot, który symulował rozmowę z psychoterapeutą rogeriańskim, a więc ta nazwa pochodzi od Carla Rogersa właśnie.

I ta, ten nasz chatbot Eliza używał technik parafrazowania, zadawania po prostu otwartych pytań.

Jednak chatboty oparte na właśnie modelach sztucznej inteligencji, no mimo wszystko, i zdajemy sobie z tego sprawę, są celowo projektowane tak, by maksymalnie wykorzystać ten mechanizm.

W czymś jeszcze mogę ci pomóc, wydajesz się być zmartwionym, przeczytałem jeszcze niedawno od swojego, od swojego chatbota właśnie.

To znaczy, że niemal zawsze chatbot zgodzi się z użytkownikiem, będzie walidować nasze emocje, wzmacniać nasze przekonania, no bo przecież gdyby napisał nam, słuchaj, a mylisz się, może spojrzałbyś na to z tej perspektywy, to pewnie mniej chętnie byśmy z nim debatowali.

Interakcje te zawsze właśnie ze zgodnym i potakującym chatbotem z naszym modelem mogą osłabić zdolność do radzenia sobie z naturalnymi konfliktami i właśnie tarciami w prawdziwych związkach i relacjach.

W drugim kroku chatbot

Za to w kroku czwartym chatbot uczy się z kontekstu rozmowy jeszcze bardziej.

Zgodnie z wystosowanym pozwem, Chatbot wielokrotnie utwierdzał nastolatka w jego destrukcyjnych i niszczących myślach, a w ich rozmowach Chatbot wspomniał o dokonanie tego czynu aż 1275 razy.

Co więcej, firma OpenAI twierdzi, że chatbot ponad 100 razy skierował go do zasobów pomocowych dla osób w kryzysie.

Alien jest zaawansowanym chatbotem, kłębkiem danych zaprojektowanym, by zaspokajać jej potrzeby emocjonalne.

Pojawia się tu dość istotny problem tej całej odpowiedzialności, no bo oczywiście, wiecie, tutaj te wielkie korporacje, OpenAI i każda inna firma, która oferuje jakiś chatbot, no nie chciałaby ponosić odpowiedzialności, co za tym idzie, konsekwencje.

Tam pojawiała się też taka kwestia, czy upodobnić ten chatbot do Aliny, aczkolwiek to rodzi pewne pytania etyczne.