Mentionsy

To się może wiązać, chociażby już się wiązało, o czym też można przeczytać w ostrzeżeniu naszych organizacji, na przykład na Słowacji to się wiązało z generowaniem przez AI takich nieprawdziwych nagrań imitujących głosy polityków i właśnie mające ich kompromitować, dyskredytować.

Nasze systemy są tak skonstruowane, w tym system słowacki, że bardzo trudno w jakiś sposób zaingerować w to nawet tymi narzędziami.

Kwestia AI w czasie ciszy wyborczej to ciekawy temat, za chwilkę do niego przejdziemy, ale wcześniej wrócę do tego, czego możemy się spodziewać, jakich działań?

Tak, mogą też się pojawiać jakieś sfałszowane maile czy dokumenty, też się może jak najbardziej pojawić.

Bardzo często chcemy mówić o tym, że content jest wygenerowany przez AI.

Próbuję gładko przejść do AI, ale to jeszcze chwilkę.

No na przykład przy użyciu AI.

Może dotrzemy na przykład do źródła, które mówi, że to jest AI wprost.

Albo żadnego i czy to jest potwierdzenie, że faktycznie dana grafika jest AI, czy została wykonana przed chwilą.

Tak, no na pewno taka dezinformacja używająca AI, ona jeszcze może dobrze żerować na fakcie, że my mamy niestety w mediach społecznościowych bardzo krótki okres uwagi, więc możemy coś zobaczyć, nie poświęcić temu chwili dłużej, żeby się przyjrzeć rzeczywiście, coś zobaczyć, zapamiętać to sobie w mniejszym lub większym stopniu, nawet jeżeli nie obejrzymy całego filmu, coś tam sobie zapamiętamy, jakąś informację i ona potem może już mieć wpływ na to, co my sobie myślimy.

I często ten czas może nie być wystarczający do tego, żeby się faktycznie przyjrzeć danemu spotowi wyborczemu, żeby ocenić, czy to może jest AI, czy może nie.

Koalicja Obywatelska albo konto Platformy Obywatelskiej na X, czyli dawnym Twitterze, publikowało posty z poklatkowymi filmami, które raczej były takim zbiorem zdjęć, z hashtagiem maileprawdy.

I to było na przykład głos Mateusza Morawieckiego, który czytał te maile, które publikowane były w ramach poufnej rozmowy.

Dzięki której dokonano wycieku maili.

Tutaj się miksują różne rzeczy i to oznaczenie AI jest niezwykle istotne, bo początkowo tego znaczenia nie było.

Jak wyglądałby taki idealny fake news od AI, od strony merytorycznej i technicznej?

Jeżeli faktycznie dobrze się przyjrzymy materiałowi wideo i poświęcimy mu więcej uwagi niż te kilka sekund i scrollujemy dalej, to jesteśmy w stanie rozpoznać, że to jest AI.

I to, co zadecydowało o tym, że to jest obraz wygenerowany przez AI, to było gniazdko w tle, które miało dziwne otwory, takie, które nie istnieją na świecie.

Więc też idealny fake news stworzony przez AI, to jest taki, który jednak bazuje na przykład na głosie, bo tutaj już jest trudniej

Ponieważ te sytuacje, w której mamy treści wygenerowane przez AI, określiłbym jako w jakiś sposób opanowaną przez organizację fact checkingowej, to znaczy jesteśmy w stanie to zweryfikować.

Natomiast takie sytuacje też mają miejsce i też warto zwrócić naszą uwagę i pamiętać o tym, że nawet to, co jest prawdziwe dzisiaj, może być poddawane pod wątpliwość w tej sytuacji, w której szukamy wszędzie różnych treści, które są AI-owe.

Tak, tych sytuacji, ja jeszcze pozwolę sobie dodać, tych sytuacji może być dużo różnych, to znaczy to mogą być nagrania nie ujawnione dotychczas, to mogą być właśnie te maile prawdy,

To już tak pośrednio trochę padło, że no tutaj największe zagrożenie, jeśli chodzi o te wyłudzenia, to jednak są to osoby ze starszego pokolenia i też trzeba dodać, że bardzo często te treści generowane przez AI wykorzystują wizerunki znanych osób, którym ludzie generalnie w danym przedziale wiekowym ufają.

Mamy siatkę botów, mamy siatkę troll, no trolle to teoretycznie ludzie, więc może wyłączymy tych ludzi, ale mamy siatkę botów, mamy prompt AI i on to sobie generuje i wpuszcza tutaj siatki botów i one sobie to już dalej powielają, więc tak to sobie wyobrażam, że tak by to mogło wyglądać.

Także tych usług świadczonych przez różne systemy AI jest coraz więcej.