O technologii na głos – Odcinek 108: Cyberbezpieczeństwo w czasach AI

Co jeszcze poza phishingiem zmieniło się w cyberbezpieczeństwie, jeśli chodzi o sztuczną inteligencję? Jak namieszała? Ja myślę, że są też takie bardzo subtelne formy manipulacji, której możemy ulegać, korzystając z narzędzi Gen AI-owych. I właściwie jest to nie tyle atak, co powiedziałbym manipulacja na własne życzenie. Z mojego doświadczenia obserwuję, że bardzo wiele osób przechodzi poprzez kilka faz wykorzystania tego typu narzędzi. Najpierw jest taka faza powiedziałbym strachu, nieraz pomieszanego z agresją, gdzie mówimy przecież to narzędzie nie będzie skuteczne i nie będzie robiło czegoś, co mi zajmowało kiedyś godziny. To tak się nie da. To zwłaszcza w mojej sferze, w okolicy inżynierów i programistów, to jest coś nagminnego, gdzie programista siada i mówi no nie po to ja się 20 lat tam uczyłem, żeby teraz jakaś maszyna za mnie robiła.

I to były prace, które przeszły recenzję i były publikowane w renomowanych czasopismach naukowych. Myślę, że to jest i tak tylko wierzchołek góry lodowej, bo niektórzy potrafią usunąć takie wtręty. Albo jakoś tak od-AI-zować to, od-chatować, trochę przeredagować tekst, żeby był bardziej autorski, Tutaj dotykamy czegoś bardzo ważnego. To znaczy w mojej ocenie dotykamy szczególnego problemu, który jest powiązany z tym, w jaki sposób środowisko akademickie prowadzi dystrybucję wiedzy. I tu można powiedzieć, że to jest trochę jak z tym, co mówimy o demokracji, że to nie jest idealny mechanizm, ale to jest być może najlepszy, jaki mamy albo najlepszy, jaki mogliśmy mieć. Wydaje mi się, że już możemy lepiej. Ale to jest coś, co się odbija też w innych dziedzinach.

I widzą też, że mogą w wielu przypadkach to w jakiś sposób zoutsourcować. Więc powstaje pytanie, czy to co jest ważne w ich badaniach, to takie w cudzysłowiu mięso, to co jest faktyczną innowacją, czym oni się chcą podzielić ze światem, Nie może być przekazane w inny sposób, w jakiś krótszy i szybszy sposób. W przypadku badań na sztuczną inteligencję to już się dzieje bardzo mocno. To znaczy, jak coś trafia do czasopisma naukowego, jeżeli chodzi o AI, to już jest za późno. To już jest w większości przypadków przestarzałe. Bardzo wiele jest otwartych recenzji, otwartych publikacji, co tym samym wywraca trochę ten paradigma publikowania do góry nogami. Więc myślę, że tutaj dostajemy, można powiedzieć, takie duże zakłócenie od tej technologii i zaczynamy się na nowo uczyć komunikacji.

Tak więc jak najbardziej tak, ale są też teraz jeszcze większe zagrożenia, bo mamy większe możliwości. Pierwsza była firma Antropik, która pozwoliła ludziom robić coś takiego, jak oni to nazywali Computer Use Agents. To znaczy można zrobić tak, że poprosi się takie narzędzie, żeby przejęło na jakiś czas kontrolę nad moim komputerem i sobie tam podpikało myszką i klawiaturą. A po to, żeby na przykład zautomatyzować pewne czynności albo żeby pomóc mi wykonać pewne czynności, których nie wiem jak wykonać, co do których nie ma takiego programowego interfejsu między tym systemem AI a daną usługą. Na przykład mogę już zrobić tak, żeby AI autoryzować do mojego Whatsappa i żeby sobie tam pisał wiadomości do ludzi. Natomiast są inne usługi, bardzo często też właśnie osadzone w firmach, które nie mają takiej łatwej integracji, więc rozwijają się jednocześnie dwa światy.

I każdy człowiek, który miałby to pomieszczenie postawić, pewnie po jakimś czasie to zauważy. Taki system może długo tego nie zauważyć. Więc tutaj... Jest pewne niebezpieczeństwo w delegowaniu tego typu zadań. Zwłaszcza, że AI obecnie myli się z dużą pewnością. I to jest też duży problem. Dużo się mówi o halucynacji tych modeli, prawda? Dużo się mówi o halucynacjach, jeżeli już nazywamy to w taki sposób bardziej specyficzny. I o ile jest to mocno zminimalizowane w najnowszych modelach, W przypadku, kiedy dajemy im bezpośrednio w rozmowie kontekst co do wiedzy, na podstawie której mają odpowiedzieć, to jeżeli odwołujemy się do takiej wiedzy ogólnej, to jest jeszcze ciągle bardzo duży problem i moim zdaniem to w ogóle nie są być może narzędzia do tego, żeby w taki wolny sposób na temat wiedzy ogólnej z nimi dyskutować.

I ogólnie być może kontekst jeszcze tego, jak komunikujemy się o tych danych wcześniej czy później, który my nakładamy na taką rozmowę, którego społeczeństwo często nie nakłada. I tym samym my bardzo często obnażamy wtedy to, że dostaliśmy precyzyjną odpowiedź na podstawie dokumentu i to nie jest błąd AI, to jest błąd nas, którzy napisaliśmy tak dokument, że Daje on dwuznaczny przekaz w pewnych miejscach. Tyle, że my musimy być na to uczuleni, bo jeżeli nie będziemy, to dostaniemy z tego dwuznacznego przekazu coś, co nie jest prawdą i pójdziemy z tym dalej. Z drugiej strony modele są też trenowane na tekstach, które wynikają z naszej kultury, jakby ją kazują, nie wiem, które w niej wyrosły, więc chyba też trudno jakby uciec od kultury i tego całego kontekstu.

Więc to oznacza, że ludzie, którzy nie będą się wspomagać tego typu narzędziami, nie będą w stanie po prostu być skuteczni w swojej pracy i nie będą w stanie za jakiś czas nadążyć. Oczywiście może to nie dotyczyć jakiejś wąskiej grupy osób, które są mocno specjalizowane, albo może to później tę grupę osób dotknąć, ale dotyka to już w jakiś sposób wszystkich. Tutaj zacytuję może jedną z naszych rozmów z Andrzejem Draganem, w której on wspominał, że ma doktorantów, którzy korzystają z China AI do wygenerowania dużej części swojej pracy doktorskiej. No i oczywiście pojawiły się pewnego rodzaju, powiedziałbym, może problemy, wątpliwości, również takie sugestie, dlaczego tak.

No tak, ale widzę, że oczekujemy od sztucznej inteligencji tych wszystkich narzędzi, które z pomocą AI są tworzone, żeby były doskonałe, a z drugiej strony, no, każdy może coś chłapnąć. Pani na infolinii, asystent, no, cokolwiek, my sami. Oczywiście, oczywiście. Natomiast wrócę do tego, że... Te maszyny, które dostajemy teraz i te algorytmy, które dostajemy teraz, one cechują się determinizmem, czyli cechują się tym, że zawsze będą działać powtarzalnie. I my nawet nie wiemy, jak przez ostatnie 20-30 lat się do tego przyzwyczailiśmy, że jeżeli ja zrobię jakieś tam konkretne czynności, dostanę na wyjściu jakiś tam konkretny wynik. I zbudowaliśmy sobie cały świat bardzo mocno wokół tego, że maszyny liczą nie tylko szybciej od nas, ale że liczą zawsze poprawnie, jeżeli my je poprawnie poinstruujemy.

Jak stają się odpowiednio długie, to budujemy je na podstawie pewnych reguł czy mnemotechnik, co już na przykład narzędzie AI może złamać. Bo tak samo jak człowiek, jeżeli jesteśmy w stanie zobaczyć jakieś kilka starych haseł. No i też mamy wtedy taką pokusę, wydaje mi się, żeby gdzieś te hasła zapisywać czy przechowywać, prawda? I to na przykład jest pewnego rodzaju dodatkowy kontekst łamania haseł, który do tej pory był niemożliwy. To znaczy... Wielu hakerów o tym mówi, że ich praca to jest często praca socjalna wbrew pozorom i chodzi o to, żeby się czegoś o tej osobie dowiedzieć, bo te hasła, czy być może w ogóle wzorce użytkowania pewnych systemów będą pochodziły z tego, co widać w otoczeniu tej osoby.

No to teraz, jak mamy multimodalne systemy AI, to one mogą też z różnych zdjęć czy z otoczenia wywieźć różne informacje. Tutaj warto pomyśleć o tym, że mamy na przykład teraz modele, które są bardzo, bardzo mocne w takich zawodach geolokacyjnych, które polegają na tym, że uczestnicy dostają jakieś zdjęcie, to jest zdjęcie na przykład znaku drogowego, drzewa i muszą na podstawie szczegółów tego zdjęcia z jak największą dokładnością oszacować lokalizację, gdzie to zdjęcie wykonano. No i proszę sobie wyobrazić, że są ludzie, którzy są tak zaawansowani w tym sporcie, że potrafią tam się rozejrzeć, wziąć trzy oddechy i stwierdzić, że takie znaki drogowe są w tej części świata, takie drzewa są z kolei tylko w takim kraju, a jeżeli o tej godzinie widać cień z tamtej strony, to to musi być po tej i po tej stronie tego kraju, bo są tak i tak góry ułożone, więc to na pewno będzie w jakiejś takiej tam prowincji i potrafią sobie to pięknie zawęzić.

Aktualnie możemy korzystać z systemów AI, żeby tego typu testy wykonywać w sposób mocno zautomatyzowany i żeby te testy były wykonywane z kreatywnością, która staje się już podobna do kreatywności ludzkiej. Tym samym my możemy zrobić tak, że Jak tylko zmieniamy jakoś nasze oprogramowanie, to od razu jest ono sprawdzane i w cudzysłowie męczone przez takich wirtualnych testerów, a potem jak pojawi się błąd, to naprawienie tego błędu może zostać chociaż zasugerowane przez nich, nieważne w jakim momencie i w jakiej godzinie się to dzieje. Tym samym ten czas od znalezienia błędu do wprowadzenia poprawki może być skrócony, ale też ten czas do znalezienia błędu może być skrócony.

Stwierdzić narzędziem AI-owym, czy jesteśmy w danym momencie podczas jakiegoś ataku. To znaczy, jeżeli ja dostałem jakiegoś e-maila i zastanawiam się, czy odpowiedzieć, czy kliknąć w link z tego e-maila, no to akurat niczym niebezpiecznym nie będzie, chyba że dostałem tam jakieś informacje wrażliwe typu moje albo czyjeś dane osobowe, ale tak, to niczym problematycznym nie będzie, żeby zrobić screenshota tego e-maila, wrócić go chociażby do czata GPT i zapytać Wydaje mi się, że to jest phishing. Powiedz mi, jakie tutaj widzisz elementy, które są niewiarygodne, jakie widzisz, które są wiarygodne. Przy obecnym poziomie tych narzędzi one już sobie rozpoznają tam tekst, rozpoznają pewnego rodzaju obrazy i będą w stanie na przykład stwierdzić, że czy zauważyłeś, że tam w środku jest dziwny adres nadawcy. Czy widzisz też, że w tym linku jest jakaś dziwna domena, która nie pasuje mi do niczego i tak dalej i tak dalej.

I wtedy łatwiej nam sobie też samemu to wszystko rozpatrzeć, więc możemy w takich sytuacjach z tych narzędzi korzystać. Możemy też w ogóle zresztą korzystać z bardziej szeroko pojętego AI, czyli chociażby narzędzi machine learningi, analizy sekwencji czasowych. Żeby znajdować anomalie w różnych postępowaniach, żeby znajdować anomalie w tym, jak postępują pracownicy w danej firmie, żeby znajdować anomalie w tym, jak postępują różne części organizacji czy urządzenia. Tym samym, tak jak do tej pory znajdowano bardzo często w ten sposób chociażby błędy w urządzeniach, czy awarie, bo to jest problem, który się przewija od kilkudziesięciu lat właściwie już w tej sferze.