O technologii na głos – Odcinek 108: Cyberbezpieczeństwo w czasach AI

Skutecznym sposobem weryfikacji tożsamości w obliczu rozwoju sztucznej inteligencji będą technologie takie jak mObywatel czy też jego szerszy europejski odpowiednik. Natomiast to nie jest jeszcze tak, że w przypadku każdej usługi możemy tak się zweryfikować i nie jest też tak, że w przypadku jakichś rozmów prywatnych możemy się w taki sposób zweryfikować. Ale czy mObywatel mi pomoże, jeśli na Messengerze odezwie się do mnie ktoś, kto, nie wiem, podszywa się pod moją bliską koleżankę i jeszcze mówi jej głosem? Oczywiście, że nie pomoże. Tak samo jak nie pomoże chyba w przypadku jednego z bardziej rozbudowanych ataków tego typu, o którym słyszałem, gdzie rzecz rozpoczyna się już na portalu randkowym czy w aplikacji randkowej. I mamy wirtualnego agenta, który sobie rozmawia z nami, przenosi ten kontakt na jakieś płaszczyzny właśnie bardziej prywatne typu Messenger czy Whatsapp, żeby potem po kilku dniach nawiązywania takiej wirtualnej znajomości zacząć spychać w stronę tego, że na przykład zainwestujmy wspólnie razem albo coś podobnego.

Tak więc jak najbardziej tak, ale są też teraz jeszcze większe zagrożenia, bo mamy większe możliwości. Pierwsza była firma Antropik, która pozwoliła ludziom robić coś takiego, jak oni to nazywali Computer Use Agents. To znaczy można zrobić tak, że poprosi się takie narzędzie, żeby przejęło na jakiś czas kontrolę nad moim komputerem i sobie tam podpikało myszką i klawiaturą. A po to, żeby na przykład zautomatyzować pewne czynności albo żeby pomóc mi wykonać pewne czynności, których nie wiem jak wykonać, co do których nie ma takiego programowego interfejsu między tym systemem AI a daną usługą. Na przykład mogę już zrobić tak, żeby AI autoryzować do mojego Whatsappa i żeby sobie tam pisał wiadomości do ludzi. Natomiast są inne usługi, bardzo często też właśnie osadzone w firmach, które nie mają takiej łatwej integracji, więc rozwijają się jednocześnie dwa światy.

Świat, można powiedzieć, symulowania człowieka używającego komputer i świat takiej bezpośredniej integracji z różnymi aplikacjami. Ten pierwszy świat Jest przynajmniej wyobrażeniowo łatwiejszy dla wielu nietechnicznych użytkowników. No i tutaj rzadko się myśli o tym, że taki system może zrobić dla nas dobre zadania, ale może również wykonać właściwie dowolne czynności z naszą maszyną i część z tych czynności może nie być dla nas zbyt korzystna. Ja mam taki humorystyczny przypadek z mojego własnego testu, to znaczy wystąpiła taka sytuacja, Kiedy poprosiłem narzędzie tego typu o wykonanie konkretnej sekwencji, to było takie zaplanowanie podróży, żeby tam sprawdzić loty, dopasować do lotu w hotel i tak dalej i tak dalej.

Coś na czym właściwie testuję też tego typu usługi od już kilku lat. I okazało się, że część tego zadania została wykonana, a potem ten agent stwierdził sobie, że dużo pracy, czas na przerwę, dosłownie, otworzył sobie Paint'a i zaczął coś rysować losowego w Paint'cie. I zaczął tam odpisywać właśnie, reportując swoją pracę, że spójrz jaki dokładny trójkąt narysowałem, człowiek takiego nie potrafi. To oczywiście wyszło żartobliwie, ale pytanie, co innego mogłoby się stać? U mnie to było w zamkniętym środowisku, w wirtualnej maszynie, natomiast powstaje pytanie, jak wielu z nas ma świadomość tego, że należy izolować tego typu systemy, prawda? Tak więc to jest chyba takie najbardziej, bym powiedział, namacalne zagrożenie z wykorzystania tego typu narzędzi.

Teraz mamy dostępne w naszych biurkach tak abstrakcyjnie mocne komputery w stosunku do tego, co było 15-20 lat temu, że możemy już bardzo wydajnie łamać np. hasła do sieci bezprzewodowych, które są szyfrowane standardami sprzed 7-8 lat. No więc oznacza to, że jeżeli my nie aktualizujemy sobie tego typu systemów, to będziemy mieli coraz to większe problemy. No i mamy oczywiście nowe standardy szyfrowania, mamy rozwój kryptografii, a nad nami jeszcze stoi też można powiedzieć ten taki cichy potwór w postaci obliczeń kwantowych. Jeżeli uda nam się rozwinąć dosyć szybko i dosyć dobrze komputery kwantowe, no to z jednej strony będziemy mieli na pewno nowe możliwości, ale z drugiej strony duża część tej klasycznej kryptografii