Prawda w czasach deepfake'ów. Jak nie dać się zmanipulować?

Kłaniam się Państwo przy mikrofonie Kamil Wróblewski. Zachęcam Państwa do wysłuchania fragmentu rozmowy w audycji i podcaście Myśl na głos. Całość znajduje się w naszych podcastach na tok.fm.pl i w aplikacji mobilnej, a link znajdą Państwo w opisie tego odcinka. Zachęcam do słuchania. Tok FM. Na każdy temat. Z każdej strony. Kłaniam się nisko przy mikrofonie Kamil Wróblewski. Witam Państwa w audycji Myśl na głos w Radiu TOK FM, pierwszym radioinformacyjnym w każdą środę o godzinie 23 na właśnie na antenach, na antenie TOK FM oraz oczywiście o dowolnej porze w internecie, w podcastach na tokfm.pl i w aplikacji mobilnej.

Witam serdecznie. Witam, witam. Mój gość prowadzi badania nad sztuczną inteligencją i HRI, czyli Human Robot Interaction, a także inicjuje projekty łączące nauki społeczne z technologią. Ponadto doktor Konrad Maj jest popul... popul... popul... Popularyzatorem. To nie jest łatwe słowo. Powinniśmy popularyzować to słowo. Popularyzatorem nauki 2023 roku. Będzie dzisiaj trochę o nauce, będzie też o tym w sumie też jak nauka w sumie też teraz tak też się zastanawiam może wpływać na to jacy dzisiaj jesteśmy.

Ja myślę, że codziennie się spotykam z fake newsami, codziennie się spotykam z dezinformacją, ale być może ja jestem specyficzny, ponieważ tym tematem się też zajmuję, interesuje mnie to, co się dzieje w świecie. Przeglądam media społecznościowe i rzeczywiście zatrzymuję się na takich obrazkach, filmach. Na rozmaitych informacjach, które podejrzewam, że są dezinformacją. To są często jakieś teorie spiskowe, to są często jakieś, prawda, newsy, które są wątpliwej rzetelności. Newsy w cudzysłowie oczywiście. Tak, wątpliwej rzetelności, nie chcę tego nazywać mocniej. A zatem właściwie cały czas mi się to wyświetla, więc padłem trochę ofiarą takiej bańki informacyjnej. Ale sam pan powiedział o mediach społecznościowych.

No tak, tak. Czyli co, w telewizji pan nie zobaczył dezinformacji? W telewizji pewnie... W radiu pan nie usłyszał? No właśnie raczej rzadko. Czasami się tak zdarza, że nawet niektóre... Serwisy bardzo poważne potrafią podać jakieś fejkowe informacje, jakieś dezinformacje tworzyć, ale jest to oczywiście zdecydowanie rzadsze, dlatego że za informacjami w mediach takich tradycyjnych jednak stoją dziennikarze. Oczywiście media też są różne, są takie, które są w rękach prywatnych i tak naprawdę ich założenie jest takie, że mają sieć propagandę, ale Jednak jeśli mówimy o mediach publicznych albo takich mediach, które cenią sobie pluralizm, rzetelność, które mają już swoją tradycję, no to mają też swoich dziennikarzy.

Ci dziennikarze mają pewną odpowiedzialność, o nich się po prostu wymaga tej rzetelności. Jak pan dobrze wie, każda jakaś wpadka może się skończyć jakimś spotkaniem na dywaniku naczelnego. Także ja myślę, że to należy do rzadkości, ale jeśli chodzi o to pytanie, no to tak, no bez wątpienia to, co ostatnio przykuwa moją uwagę, to pewne Manipulacje obrazem za pomocą sztucznej inteligencji. Tworzy się albo filmy, albo jakieś swoiste zdjęcia pokazujące Maduro, prezydenta Wenezueli w rozmaitych kontekstach. Tutaj patrzę na pana redaktora i widzę te słuchawki, więc właśnie o to chodzi.

Sporo pojawiło się takich zdjęć, kiedy on tak naprawdę w tym samolocie otoczony jakimiś agentami amerykańskimi jest inaczej przedstawiony, że tak naprawdę jest DJ-em, że ma jakąś konsolę naprzeciwko siebie. No i pojawiają się takie wręcz teledyski swoiste, kiedy Maduro jest takim DJ-em. Ale to jest rozrywka taka dla jaj po prostu? No właśnie i to chcę podkreślić, że my to traktujemy w kategoriach rozrywki, że to jest jakaś, to jest śmieszne, to jest zabawne, ale ja się tak zastanawiam co nam to robi w głowach. Po pierwsze zapominamy o całym dramacie tej całej sytuacji, zapominamy o szerszym kontekście i dotarcie

Pamiętajmy też, że przy okazji tutaj tej całej akcji W Caracas zginęli też ludzie i o tym jakoś chyba nie myślimy. Też nie zastanawiam się nad tym w takiej sytuacji, kiedy na wesoło widzimy jakiegoś grającego sobie jakieś kawałki Maduro i tańczącego, co to jest dla jego rodziny, dla niego samego. Ja oczywiście nie chcę powiedzieć, że jestem wielkim fanem, bo wiadomo, że to jest osoba, która na pewno powinna być Ostatnio na więzieniu za to, co robił przez lata, ale z drugiej strony to też jest człowiek, to też jest tak, że ma prawo do sądu i myślę sobie, że trochę to jest wypaczony obraz tej całej sytuacji, kiedy użyje się sztucznej inteligencji i robi się z tego jedną wielką zabawę.

To u Pana był Maduro. U mnie, zresztą to jest wątek, który mi się powtarza co jakiś czas. U mnie to akurat ostatnio był prezydent Polski, Karol Nawrocki, który oczywiście w tym deepfake'u nakłania mnie do lewych inwestycji, żebym zainwestował 10 tysięcy, wrzucił w jakiś tam fundusz i tak dalej, i tak dalej. I wcześniej to był, teraz to jest prezydent Polski. Wcześniej to też Andrzej Duda. Mówimy o deepfake'u oczywiście. I Tadeusz Rydzyk mi się pojawił. Lewandowski też był. Jeszcze kilku innych. Małysz. Tak. I skąd się to w ogóle wszystko bierze?

Jaki jest w ogóle cel? No bo myślimy sobie, dobrze, no to jest może jakieś oszustwo. Inna sprawa, że ja próbuję też to zgłosić i te materiały nie są usuwane. No właśnie, tu oczywiście dochodzimy do tego, że powinno się, ja nie jestem prawnikiem, więc nie będę mu jakoś mocno się w tym temacie może tu produkował, ale ten akt o usługach cyfrowych powinien zminimalizować ten problem. Powinniśmy łatwiej ścigać również tych, którzy takie deepfake'i robią. Beato zgłaszam, że z tej informacji nie usunęliśmy tej reklamy. No właśnie, dokładnie tak. Czy co, pieniądz wygrywa? No, wygrywa oczywiście pieniądz, dlatego że to się pojawia w mediach społecznościowych głównie, tego typu swoiste reklamy, a media społecznościowe żyją z ruchu, żyją z interakcji, żyją z pewnego zagęszczenia pewnych klików.

Prawda w czasach deepfake'ów. Jak nie dać się zmanipulować?. W znacznym stopniu są nawet, jak niektórzy mówią, antyspołecznościowe. To nie jest to samo, co było 15 czy 20 lat temu. Tak, dokładnie tak. Przypomina mi się nasza klasa i tego typu bardzo ciekawe inicjatywy. Natomiast tutaj, wracając do tych fejków, które nadal funkcjonują w tej przestrzeni, one nie są właśnie ścigane albo jest pewne udawanie, mam wrażenie, że to jest piętnowane i że coś się z tym robi.

No bo niestety wokół tego jest ruch. Tam gdzie są emocje, tam ludzie biegną, komentują. No i myślę, że z tych powodów niechętnie platformy się z tym rozprawiają. Oczywiście to są piękne hasła używane przy tej okazji. Wolność słowa, wolność wypowiedzi, wolność generowania treści. Niestety tutaj my często jak słyszymy takie hasło, właśnie wolność wypowiedzi, wolność słowa, Zapominamy, że słowa mogą być różne, że one mogą też ranić, one mogą oszukiwać i to nie jest tak, że każde słowo można wypowiadać bez żadnych konsekwencji, bez żadnych skutków.

Bo ja nie będę mówił to co chcą inni, ja będę inaczej myślał, inaczej mówił. No przecież chyba to jest dla nas jasne, że to jest bardzo niebezpieczne hasło i niebezpieczna tendencja i powinniśmy takiego człowieka zatrzymać. Ale nie inaczej jest z ludźmi, którzy mówią przecież o tym, że Ukraińcy to jest naród, który właściwie Nie powinien istnieć, albo że Hitler miał rację, albo jeszcze inne tego typu hasła, które zaczynają się pojawiać powoli, tak sączyć, a one się sączą, a my mamy po pierwsze duży problem z przeciwdziałaniem. Bo jeśli to ma już taki charakter masowy, jeśli tak naprawdę jest to zaangażowane cały taki aparat jakichś partii politycznych, bo są już takie partie polityczne, które naprawdę mają i środki finansowe i mają już coraz większe poparcie, już nie będę wymieniał nazwy.

No i one potrafią mobilizować swoich zwolenników. I teraz nasza prokuratura, za te wszystkie wypowiedzi, gdyby tak się chciała wziąć za wszystkich, to byłaby mocno zatkana, a u nas spraw oczywiście innych nie brakuje. W związku z tym taka masówka powoduje trudności w ściganiu tego typu czynów. No i wreszcie jest wielka tendencja do obrony, że jeśli którykolwiek z tych osób zostanie doprowadzona przed oblicze wymiaru sprawiedliwości, no to są jakieś pikiety, to są jakieś demonstracje, to są jakieś bardzo spektakularne akcje w obronie wolności słowa, jak to się często nazywa.

W związku z tym tu jest jakiś mur niestety obronny. I nasze państwo ma wielkie utrudnienia, więc dlatego ja uważam, że powinno się przede wszystkim zacząć prowadzić rozmowę z platformami społecznościowymi i wymusić na nich jakieś rozwiązania. Ja nie mówię o czymś takim, że nie wiem, one mają karać jakoś finansowo same, chociaż tak naprawdę być może to by ich przekonało, gdyby oni wymyślili system polegający na tym, że masz regulamin, musisz się podporządkować. A jeśli na przykład będziesz go łamał, no to będziesz musiał mieć na przykład, nie wiem, subskrypcję droższą czy... Znaczy w ogóle na tej chwili oczywiście większość platform społecznościowych jest bezpłatna.

Tam są jakieś dodatkowe usługi płatne, ale na przykład wymyślić jakiś system polegający na tym, żeby po prostu te platformy też poczuły w tym pieniądze, to może by ich to przekonało, tak? Jakieś swoiste cyfrowe mandaty za łamanie... Ja oczywiście teraz trochę sobie fantazuję, bo nie znam się na tym, jakby to mogło wyglądać, ale jakby uważam, że z nimi też trzeba rozmawiać w taki sposób, żeby oni zobaczyli, że mogą utrzymać te swoje budżety, te swoje dochody wtedy, kiedy przyjmą pewną politykę również. Więc może to jest jakiś sposób na to, bo na ten moment oczywiście rozmowa jest bardzo... Powiedziałbym jednokierunkowa, tak? Myślę, że sama regulacja jest niezwykle ciężka, no bo jak to, przepraszam, jak to okiełznać, kiedy to, no nie wiem, konto można założyć nowe, nawet jeśli zostanie jedno zablokowane, można nowe otworzyć, no nie wiem.

Myślę, że w minutę albo dwie, niech to będą nawet i trzy minuty, mnożenie się takich treści, rozprzestrzenianie się, no to myślę, że to jest trochę ciężka bloka jednak. Zobaczmy, że każde konto fejkowe, jak wejdziemy sobie w nie, dosyć szybko czujemy, że to jest konto fejkowe. Nie ma żadnych aktywności, nie ma żadnej komunikacji na Messengerze na przykład pomiędzy kontami. To są jakieś martwe konta, które są tylko skupione na sianiu w jednym kierunku propagandy i myślę, że algorytmy są w stanie łatwo zidentyfikować takie konta. Bo jeśli jest tak, że ktoś lajkuje na przykład, nie wiem, zdjęcie profilowe, bo ja czasami nawet sobie wchodzę i klikam i patrzę, czy tam na przykład ktoś mówi pozdrawiam cię, nie wiem, tam Krzysztofie na przykład fajnie wyglądasz, albo widzę, że się zmieniłeś, albo coś jeszcze tam innego, to każe mi się widać, że jest jakaś interakcja znajomych, no to widać, że to jest konto jakiejś prawdziwej osoby.

Ale zwykle jest tak, że to są konta, gdzie nie ma specjalnie tego typu komentarzy. Nie ma właściwie nic oprócz siania propagandy. Nie ma też zdjęć, które by pokazywały bardzo często taką osobę. Więc ja myślę, że to jest do zrobienia. Jest to do zrobienia. Też jak się zastanawiałem... A jeszcze może Panie doktorze jedna rzecz, no tak sobie przychodzę, bo to już sobie trochę też mówię, jakby tutaj próbujemy... Coś uszyć, ale jak dla mnie, gdybym miał usiąść do takiego okrągłego stołu przy tym wszystkim, to bym podrzucił wiele innych takich, powiedzmy sobie, pomysłów, jak na przykład to, że jest jakiś swoisty ranking tych, którzy tam w tych mediach społecznościowych są, no jeśli jest tak, że ktoś ma kilka banów na koncie, to jego ten scoring może być taki, że jest osobą taką o niskiej rzetelności i musi popracować nad sobą, tak?

No tak, no były takie filmiki, gdzie jakieś właśnie, chyba o tym Pan mówi, kobiety mówiły o tym, takie patriotki, tak, wygenerowane przez sztuczną inteligencję i to było od samego początku do końca. Które były za polexitem. Które były za polexitem i opowiadały o swoim dumie, o swojej dumie z kraju i tak dalej. No i rzeczywiście to rozsiewało się po Prawda w czasach deepfake'ów. Jak nie dać się zmanipulować?. Names mentioned, Kamil Wróblewski, HumanTech Center Uniwersytetu SWPS. Jak nie dać się zmanipulować?.

Posługiwać się tą bronią. Problem polega na tym, że nawet jeśli stosujemy jakieś już interwencje, to to już poszło. Ludzie już zobaczyli jakieś filmy, ludzie już nabrali pewnych przekonań. One po prostu trafiają w emocje. My nie możemy tak łatwo kontrolować naszych emocji. Ten system poznawczy, nawet jeśli przyjmie do wiadomości, że to co obejrzałem wcześniej jest nieprawdziwe, nie ma takiego wpływu na te emocje. Ja też gdzieś wyczytałem, że jeśli do wpisu w tych tzw. mediach społecznościowych użyje się chociaż jednego słowa, które ma już jakieś takie moralnie, emocjonalne zabarwienie, ten post ma zwiększony zasięg od razu o 20%. Tak, algorytmy wyłapują pewne hasła.

Zawsze się da jakoś zhakować, obejść. No tak, ale to nawet nie chodzi o to, tylko zbyt mało też mówimy o tym, że media społecznościowe... Konto zostanie założone, przepraszam, na rodzica na przykład. To też, to też, ale jeszcze jest jeden aspekt, o którym chyba nikt praktycznie o tym nie mówi, mianowicie taki, że przecież jednak młodzi ludzie do 16 roku życia Też potrafią tworzyć bardzo ciekawy, pozytywny content. Wyobraźmy sobie, że ktoś na przykład, co ma na przykład jakiś zespół i ten zespół promuje w ten sposób w mediach społecznościowych, muzyczne jakieś, albo maluje obrazy, albo cokolwiek innego i to pokazuje na Instagramie. Albo przekazuje też ciekawe treści edukacyjne. Dokładnie tak. Albo to może być jakiś młody wynalazca, czy młody naukowiec i co.

Ten swoisty eksperyment australijski, bo to jest eksperyment, no będziemy w stanie ocenić po jakimś roku i zobaczymy też jak młodzi ludzie będą nasączeni jakąś dezinformacją, czy będą właśnie bardziej krytycznie patrzeć, czy będą bardziej sobie cenić może relacje bezpośrednie. Czy może te media społecznościowe staną się w drugą stronę bardziej atrakcyjne i się okaże, że ludzie i tak szukają sposobów, żeby z nich korzystać i że będą tylko czekać jak skończą te 16 lat? To trudno jest powiedzieć, ale dajmy temu eksperymentowi szansę. Szanowni Państwo, kłaniam się przy mikrofonie Kamil Wróblewski. Właśnie mieli Państwo okazję wysłuchać fragment rozmowy w audycji i podcaście Myśl na głos.

Całość znajdą Państwo w podcastach na tokfm.pl i w aplikacji mobilnej oraz w linku, który znajdą Państwo w opisie tego odcinka. Zapraszam do słuchania, bo w internecie często znajdą Państwo dłuższe wersje rozmów od tych emitowanych w Radiu Tok FM.