Mentionsy

To się może wiązać, chociażby już się wiązało, o czym też można przeczytać w ostrzeżeniu naszych organizacji, na przykład na Słowacji to się wiązało z generowaniem przez AI takich nieprawdziwych nagrań imitujących głosy polityków i właśnie mające ich kompromitować, dyskredytować.

Nasze systemy są tak skonstruowane, w tym system słowacki, że bardzo trudno w jakiś sposób zaingerować w to nawet tymi narzędziami.

Kwestia AI w czasie ciszy wyborczej to ciekawy temat, za chwilkę do niego przejdziemy, ale wcześniej wrócę do tego, czego możemy się spodziewać, jakich działań?

Tak, mogą też się pojawiać jakieś sfałszowane maile czy dokumenty, też się może jak najbardziej pojawić.

Bardzo często chcemy mówić o tym, że content jest wygenerowany przez AI.

Próbuję gładko przejść do AI, ale to jeszcze chwilkę.

No na przykład przy użyciu AI.

Może dotrzemy na przykład do źródła, które mówi, że to jest AI wprost.

Albo żadnego i czy to jest potwierdzenie, że faktycznie dana grafika jest AI, czy została wykonana przed chwilą.

Tak, no na pewno taka dezinformacja używająca AI, ona jeszcze może dobrze żerować na fakcie, że my mamy niestety w mediach społecznościowych bardzo krótki okres uwagi, więc możemy coś zobaczyć, nie poświęcić temu chwili dłużej, żeby się przyjrzeć rzeczywiście, coś zobaczyć, zapamiętać to sobie w mniejszym lub większym stopniu, nawet jeżeli nie obejrzymy całego filmu, coś tam sobie zapamiętamy, jakąś informację i ona potem może już mieć wpływ na to, co my sobie myślimy.

I często ten czas może nie być wystarczający do tego, żeby się faktycznie przyjrzeć danemu spotowi wyborczemu, żeby ocenić, czy to może jest AI, czy może nie.

Koalicja Obywatelska albo konto Platformy Obywatelskiej na X, czyli dawnym Twitterze, publikowało posty z poklatkowymi filmami, które raczej były takim zbiorem zdjęć, z hashtagiem maileprawdy.

I to było na przykład głos Mateusza Morawieckiego, który czytał te maile, które publikowane były w ramach poufnej rozmowy.

Dzięki której dokonano wycieku maili.

Tutaj się miksują różne rzeczy i to oznaczenie AI jest niezwykle istotne, bo początkowo tego znaczenia nie było.

Jak wyglądałby taki idealny fake news od AI, od strony merytorycznej i technicznej?

Jeżeli faktycznie dobrze się przyjrzymy materiałowi wideo i poświęcimy mu więcej uwagi niż te kilka sekund i scrollujemy dalej, to jesteśmy w stanie rozpoznać, że to jest AI.

I to, co zadecydowało o tym, że to jest obraz wygenerowany przez AI, to było gniazdko w tle, które miało dziwne otwory, takie, które nie istnieją na świecie.

Więc też idealny fake news stworzony przez AI, to jest taki, który jednak bazuje na przykład na głosie, bo tutaj już jest trudniej

Ponieważ te sytuacje, w której mamy treści wygenerowane przez AI, określiłbym jako w jakiś sposób opanowaną przez organizację fact checkingowej, to znaczy jesteśmy w stanie to zweryfikować.

Natomiast takie sytuacje też mają miejsce i też warto zwrócić naszą uwagę i pamiętać o tym, że nawet to, co jest prawdziwe dzisiaj, może być poddawane pod wątpliwość w tej sytuacji, w której szukamy wszędzie różnych treści, które są AI-owe.

Tak, tych sytuacji, ja jeszcze pozwolę sobie dodać, tych sytuacji może być dużo różnych, to znaczy to mogą być nagrania nie ujawnione dotychczas, to mogą być właśnie te maile prawdy,

To już tak pośrednio trochę padło, że no tutaj największe zagrożenie, jeśli chodzi o te wyłudzenia, to jednak są to osoby ze starszego pokolenia i też trzeba dodać, że bardzo często te treści generowane przez AI wykorzystują wizerunki znanych osób, którym ludzie generalnie w danym przedziale wiekowym ufają.

Mamy siatkę botów, mamy siatkę troll, no trolle to teoretycznie ludzie, więc może wyłączymy tych ludzi, ale mamy siatkę botów, mamy prompt AI i on to sobie generuje i wpuszcza tutaj siatki botów i one sobie to już dalej powielają, więc tak to sobie wyobrażam, że tak by to mogło wyglądać.

Także tych usług świadczonych przez różne systemy AI jest coraz więcej.

A w drugą stronę patrząc, zastanawiając się, no wy w swojej pracy fact-checkerskiej odszyfrowujecie dezinformacje właśnie przy użyciu AI, czy różnego rodzaju narzędzi, też wykorzystywanych do tego, by tworzyć dezinformacje.

Nie, wydaje mi się, że właśnie to użycie, że też nie możemy traktować AI jak wroga i niebezpieczeństwo, bo znaczy niebezpieczeństwo tak, ale jak wroga, bo też to może być przydatne narzędzie właśnie do porządkowania informacji.

Też pytanie zawsze jest o to, jak dokładnie definiujemy AI.

Więc w pewnym sensie dużo z usług internetowych, z których korzystamy dzisiaj, albo korzystaliśmy przed tym, co rozumiemy jako AI tak najbardziej powszechnie, czyli czaty,

A czy dezinformacja wspomagana przez AI może ominąć istniejące systemy fact-checkingowe?

Ja bym powiedział tak, że dezinformacja, nie tylko ta wygenerowana przez AI, czyli generalnie każda, ona możesz w internecie cały czas właściwie, niezależnie od tego, czy została zweryfikowana, czy nie.

Zresztą, tak w ramach zwiększania naszego wpływu, zawsze staramy się teraz pisać do zainteresowanych aktorów, jak coś zweryfikujemy.

Mówimy o platformach społecznościowych, a które z nich i dlaczego są obecnie najbardziej podatne na dystrybucję tych zmanipulowanych treści AI?

Ja bym powiedziała, że na X. Też najczęściej weryfikuję wpisy, które pojawiają się na X. Już nie tylko z AI, ale ogólnie.

Z drugiej strony, jeśli mamy pewne działania konkretnych krajów dotyczące ataków na jakieś skrzynki mailowe, które mają na celu właśnie zbieranie tych informacji, a następnie przekazywanie ich do obiegu publicznego, jak to już miało miejsce parokrotnie w Stanach Zjednoczonych, Francji, ale też w Polsce,