Cyberprzezorny – jak używać AI?

Zaczynamy naszą audycję na temat bezpieczeństwa w internecie. Dziś mam przyjemność gościć naszego stałego eksperta Marta Siekacz. Dzień dobry. Dzień dobry. A my porozmawiamy o AI. Jak używać AI, sztucznej inteligencji na co dzień. No bo zadałem to pytanie chatowi GPT i tutaj warto na samym początku powiedzieć, że we wnioskach otrzymałem odpowiedź, że AI jest narzędziem pomocniczym. A nie ostatecznym autorytetem i to chyba będzie też nasze główne przesłanie dzisiaj. No i dlatego chciałem zadać takie pytanie na sam początek. Jak używać tej sztucznej inteligencji, tych różnych modeli językowych? Chat, GPT, Gemini, Grog, żeby to było tylko narzędzie pomocnicze. Dokładnie tak jak powiedział czat GPT. Używać go jako narzędzia, a nie jako autorytetu. Ja nie ukrywam, że w swojej pracy dużo korzystam z pomocy LLM-ów różnego rodzaju.

No i ten raport miał mnóstwo błędów. Był napisany przy pomocy sztucznej inteligencji. Dlaczego według Ciebie na autorkę wylał się hejt, skoro AI używamy w codziennej pracy? Autorka rzeczywiście musiała się mocno tłumaczyć z tego, co ten raport zawierał. I mam wrażenie, że to były dwa powody tego hejtu. Przede wszystkim pierwsze jej tłumaczenie to właśnie było takie, że to napisało AI. W momencie, kiedy tworzy się coś, za co z naszych podatków jest wypłacane wynagrodzenie rzędu 200 tysięcy złotych, czy nawet więcej, no to takie tłumaczenie nie ma prawa się w ogóle zdarzyć. I myślę, że właśnie to oburzenie i to, że każdy miał na ten temat swoje zdanie i to bardzo takie już kategoryczne,

Zdarzają się ataki właśnie cyberprzestępców, które określa się jako prompt injection, czyli wstrzyknięcie promptu. Gdzie po prostu w momencie, kiedy jakaś automatyzacja jest wykonywana, pojawi się skrypt, którego użytkownik nawet nie zauważy, bo będzie on niewidoczny dla niego w jakiejś wiadomości lub w jakikolwiek inny sposób dostarczony. Tu nie będę technicznie tego rozwijać, bo są różne metody. To w tym momencie ten nasz agent potrafi zacząć działać inaczej, a my nawet o tym nie wiemy. Dlatego jeżeli chcemy wprowadzać automatyzację w naszych organizacjach, naszych firmach, urzędach, instytucjach, to powinno być to robione w sposób zabezpieczony. Przez specjalistów, którzy są w naszej organizacji i się na tym znają i są w stanie ocenić ryzyko takich działań, bo tak jak tutaj było powiedziane, zabezpieczenia były, a model i tak się wymknął, więc te zabezpieczenia oprócz tego, że wiemy, że są, to powinny być jeszcze przetestowane na wszystkie przychodzące nam do głowy sposoby i to nie raz, ale regularnie, bo modele też się rozwijają.

Ostatnio Donald Trump zrzucił pełną odpowiedzialność dotyczącą rozwoju AI na firmy, bo nawiązuje do tego spotkania w Białym Domu. Natomiast chciałem też zaznaczyć o tym, że wielokrotnie można znaleźć te wywiady na platformie YouTube. Pojawiają się apele naukowców i badaczy na temat tego, aby stworzyć silne, mocne regulacje ograniczające rozwój AI, żebyśmy mieli, to jest ważne słowo, którego użyłaś, kontrolę, na ile oczywiście jesteśmy w stanie. I tutaj takie nazwiska jak Bill Gates, Sam Altman, Noah Harari Mówią o tym, uważajmy na to AI, pracujmy na nim, ale twórzmy regulacje. Czy według ciebie dostęp dzieci do AI powinien być ograniczony? O tym rozmawialiśmy już kilka razy. W ogóle o dostępie dzieci do technologii, do social media.

I właśnie nauczymy ich tego, czego zabrakło na przykład przy raporcie, czyli weryfikacji, sprawdzenia każdego szczegółu i rzeczywiście tutaj ta kompetencja poddawania pod wątpliwość tego, co AI nam podaje i tego, jak upraszcza pewne rzeczy, myślę, że będzie jedną z kompetencji przyszłości. Też wydaje mi się, że my z czasem zmęczymy się AI, przynajmniej niektórymi narzędziami, które nam daje. Widać to chociażby po różnego rodzaju dyskusjach dotyczących grafik, treści generowanych, które bardzo są do siebie podobne. One są takie, że praktycznie patrząc na daną grafikę jesteśmy w stanie już dzisiaj powiedzieć, czy ona powstała przy użyciu AI. Czy odpowiada za nią człowiek? Ale zobaczymy. To jest moja w każdym razie sugestia.