Uwaga na groźne porady chat botów AI!

Trójka. Program Trzeci Polskiego Radia. Chatbot odpowiada natychmiast, spokojnie i bardzo przekonująco. Problem w tym, że może się mylić. Zwłaszcza gdy pytamy o zdrowie, możemy dostać poradę brzmiącą jak fachowa, choć potencjalnie groźna. No właśnie, gdzie kończy się wygoda błyskawicznej konwersacji? Jak nie dać się nabrać sztucznej inteligencji? Państwa i moim gościem jest Katarzyna Grabowska, specjalistka do spraw edukacyjno-informacyjnych w NASK. Dzień dobry, witam serdecznie. Dzień dobry, witam serdecznie. Czy chatbota AI może udzielić porady, która brzmi profesjonalnie, a jest po prostu błędna? Jak najbardziej może. Prawda jest taka, że jeżeli zapytamy o cokolwiek naszego drogiego chatbota, to on zawsze nam odpowie.

Bałabym się jaka byłaby odpowiedź. Myślę, że mogłaby być nawet twierdząca, ale prawda jest taka, że my ogólnie jako ludzie to faktycznie jesteśmy też no może nawet nie wychowywani w tym, że faktycznie zawsze jest jakaś inna, druga osoba, ale jesteśmy jednak jak to Ktoś kiedyś pięknie ujął zwierzętami stadnymi. Potrzebujemy też często innych osób, jeżeli przykładowo mamy jakąś trudną sytuację, to faktycznie miło jest też mieć z kimś wsparcie. W kimś, tak jak Pan powiedział, kto nie ocenia, kto zawsze jest dostępny, ktoś odpowiada, więc faktycznie jest to coś trudnego. Tak sobie myślę, że to może być szczególnie niebezpieczne, na przykład gdy osoba w kryzysie psychicznym zaczyna podejmować decyzje, no właśnie pod wpływem rozmowy z chat botem AI.

Ale jeżeli oczywiście mówię o takiej jakiejś trudnej sytuacji życiowej, nie już tylko i wyłącznie odnośnie cyberzagrożeń, ale trudnej sytuacji życiowej, to też pamiętajmy o tym, że możemy skorzystać z darmowej pomocy. Na przykład platforma 116sos.pl. Gdzie, jeżeli ktoś jest w sytuacji życiowej, mowa tutaj o osobach dorosłych, to mogą zadzwonić, ale też ta platforma udostępnia czat. Tylko po drugiej stronie, w przeciwieństwie do chat bota, jest osoba. Żywy człowiek. Dokładnie tak. I to jest osoba, z którą możemy też pisać. I która nam odpowie. No i możemy w ten sposób uniknąć tych wszystkich halucynacji, o których mówiliśmy od początku. Coraz więcej karmiących matek szuka poradu chat botów AI.

To ciekawe. Pediatrzy ostrzegają, że sztuczna inteligencja nie wychwyci ważnych objawów, a zła porada może skończyć się problemami zdrowotnymi, których można byłoby zapobiec. W przypadku karmienia piersią, 1 trzecia matek pytających o to AI dostała złą poradę. To tylko taki przykład z ostatnich dni, być może głośny, medialny. Ale moje pytanie brzmi, co tu zawodzi? Powiedziałabym, że nic nie zastąpi porady specjalisty, bo jeżeli idziemy do lekarza z jakimś problemem, jeżeli przedstawiamy, konkretnie omawiamy, jakie mamy objawy, co się dzieje, lekarz może po pierwsze nas zbadać albo zlecić jakieś specjalistyczne badania, które ułatwią w diagnostyce, które pomogą faktycznie dobrać odpowiednie leczenie,

A tutaj mamy tak naprawdę skrawek informacji, które my sami możemy podawać takiemu chat botowi. I na tej podstawie, no, chat bot, tak jak mówiliśmy, zawsze udzieli nam jakiejś odpowiedzi. Ale czy będzie ona kompletna? Od razu powiem, że nie. Bo nie ma takiej wiedzy, nie ma takich możliwości, nie zleci nam żadnych badań, nie wykonamy żadnych badań za jego pośrednictwem i nic tutaj nie zastąpi wizyty u specjalisty. To właśnie tak się zastanawiam też, dlaczego AI nie potrafi zastąpić oceny lekarza, skoro potrafi analizować ogromne ilości wiedzy. W moim odczuciu potrafię analizować jak najbardziej bardzo duże zbiory, bardzo duże zasoby danych, ale jeżeli chodzi o badania, no to nie będzie w stanie nawet takich podstawowych badań przeprowadzić sam.

Kiedyś szukaliśmy odpowiedzi, często znajdowaliśmy je na forach internetowych, na chatach, w tradycyjnym rozumieniu, albo po prostu w wyszukiwarce internetowej. Nie zmieniając, nie uciekając od tego tematu, największym problemem jest sama pomyłka AI, czy to, że użytkownik, tak jak pani na początku naszej rozmowy mówiła, jej nie rozpoznaje? Nie mamy wrodzonego być może tego instynktu weryfikacji tego, co otrzymujemy? Faktycznie nic nie zastąpi takiego podejścia krytycznego, czyli myślenie krytyczne, nieufanie temu, co przeczytamy, albo też nieufanie temu, co widzimy. Czasami są różnego rodzaju też sztucznie wygenerowane materiały, które próbują nas przekonać, że na przykład ta inwestycja przyniesie ci bardzo dużo pieniędzy, albo te suplementy mogą wyleczyć cię z różnego rodzaju chorób.

Zatem, gdzie przebiega ta granica między rozsądnym korzystaniem z AI, a powierzaniem jej decyzji dotyczących np. zdrowia, przekazując wiedzę na swój temat? Innymi słowy, jakie dane osobie szczególnie łatwo i niepotrzebnie też oddajemy chatbotom? Tutaj powiedziałabym, że jeżeli chodzi o te różnego rodzaju dane, które my przekazujemy, to najlepsza jest właśnie zasada takiego minimum, czyli tylko to, co jest niezbędne. Absolutnie nie wrzucajmy żadnej dokumentacji medycznej, bo to są szczegóły odnośnie naszego zdrowia, naszego życia i to są rzeczy, które są prywatne i powinny być zarezerwowane tylko i wyłącznie dla nas. I dla konsultacji z lekarzem, jeżeli oczywiście taką podejmujemy.

Pamiętajmy o tym, że dobrą praktyką jest ustawianie naszego profilu jako profil prywatny, a nie publiczny. Uwaga na groźne porady chat botów AI!. No i tutaj też korzystajmy z tego minimum informacji, czyli nie wprowadzajmy wszystkich rzeczy na swój temat, bo później może okazać się, że to nie jest tylko kilka niewinnych pytań, ale to jest cały zasób informacji, który może powiedzieć to, w jaki sposób korzystamy z różnego rodzaju rzeczy, kim jesteśmy, nie tylko jak się nazywamy,

No i chyba też nie zdajemy sobie sprawy z tego, że AI może stać się nie tylko źródłem błędnych informacji, ale też narzędziem, z którego, wprost mówiąc, korzystają oszuści. Dokładnie tak, więc zawsze trzeba uważać, bo technologia rozwija się bardzo szybko i jeżeli my korzystamy z różnego rodzaju powiedziałabym takich dobrodziejstw, jeżeli chodzi o tę technologię, bo nie można powiedzieć, że technologia jest zła albo że jest dobra. Tu nie chodzi o to, że coś zostało stworzone z myślą o tym, żeby to było potencjalnie nowe zagrożenie wymierzone chociażby w nas jako użytkowników. Technologia nam niejednokrotnie pomaga. Jeżeli faktycznie potrzebujemy jakiegoś wsparcia, możemy jak najbardziej zapytać czata.

Tylko pamiętajmy o tym, żeby nie podawać zbyt wielu informacji chociażby na swój temat, no ale z drugiej strony technologią nie tylko dysponujemy my jako użytkownicy, powiedzmy pracownicy różnego rodzaju organizacji, ale też mogą z niej korzystać przestępcy i także to robią. Po jednej stronie faktycznie możecie posłużyć Technologią do czynienia czegoś dobrego, no ale z drugiej strony jest jeszcze no niestety ten aspekt związany z różnego rodzaju zagrożeniami. To na koniec proszę podpowiedzieć, jakie są te, być może najprostsze zasady, które już dziś moglibyśmy wprowadzić. Zasady, które powinniśmy zapamiętać zanim uwierzymy w odpowiedzi chat botów AI.