O technologii na głos – Odcinek 108: Cyberbezpieczeństwo w czasach AI

Ja myślę, że odniosę się do tego w takim kontekście trochę oderwanym od czata GPT bezpośrednio, bo tych narzędzi jest teraz więcej. Tak, wszyscy mówią o czacie. Mamy też Geminaria od Google w różnych odmianach i formach. Mamy też narzędzia od firmy Antropic i tam właściwie wszędzie występują te same wektory ataku. Pierwsza i podstawowa kwestia to jest to, żeby zastanowić się nad tym, co się dzieje z odpowiedziami, które są generowane dla mnie i z moimi informacjami, które wpisuję do takiego narzędzia. Jedne narzędzia mają bardzo transparentną politykę tego, jak takie dane trzymają, jak długo i do czego je wykorzystują, inne nie. Tam, gdzie ta polityka nie jest transparentna, ja bym radził zakładać, że te dane są przechowywane i że są potencjalnie wykorzystywane do trenowania kolejnych modeli.

Tak więc jak najbardziej tak, ale są też teraz jeszcze większe zagrożenia, bo mamy większe możliwości. Pierwsza była firma Antropik, która pozwoliła ludziom robić coś takiego, jak oni to nazywali Computer Use Agents. To znaczy można zrobić tak, że poprosi się takie narzędzie, żeby przejęło na jakiś czas kontrolę nad moim komputerem i sobie tam podpikało myszką i klawiaturą. A po to, żeby na przykład zautomatyzować pewne czynności albo żeby pomóc mi wykonać pewne czynności, których nie wiem jak wykonać, co do których nie ma takiego programowego interfejsu między tym systemem AI a daną usługą. Na przykład mogę już zrobić tak, żeby AI autoryzować do mojego Whatsappa i żeby sobie tam pisał wiadomości do ludzi. Natomiast są inne usługi, bardzo często też właśnie osadzone w firmach, które nie mają takiej łatwej integracji, więc rozwijają się jednocześnie dwa światy.