Vigil Guard: polskie narzędzie, które chroni przed atakami AI - Tomasz Bartel

Czy można „zhakować” sztuczną inteligencję… samym tekstem? Okazuje się, że tak – i nazywa się to prompt injection. W tym odcinku rozmawiam z Tomkiem, ekspertem od cyberbezpieczeństwa, który stworzył Vigil Guard – narzędzie do wykrywania i blokowania takich ataków.Mówimy o tym, jak działają te zagrożenia, dlaczego język polski to zupełnie inna liga dla AI i co się dzieje, gdy model zaczyna ufać temu, czemu nie powinien. Bo w świecie AI bezpieczeństwo nie zaczyna się od kodu – tylko od słów.📝 Rozdziały:00:00:01 Wprowadzenie do tematu AI00:00:48 Historia narzędzia Vigil Guard00:02:34 Funkcje Vigil Guard00:7:57 Wsparcie dla języka polskiego00:11:09 Trening modelu do analizy00:12:14 Tłumaczenie ataków na język polski00:13:55 Kreatywność w atakach00:17:42 Integracja z SÓJKA00:18:50 Inne ataki na LLM00:23:01 Anonimizacja danych00:27:49 Lokalna instalacja Vigil Guard00:35:39 Demo działania Vigil Guard0:48:01 Podsumowanie i zakończenieOdwiedź mnie również na:☕ Postaw cyfrową kawkę: ⁠⁠⁠⁠⁠⁠https://suppi.pl/kporembinski⁠⁠⁠⁠⁠⁠🔹 Strona: ⁠⁠⁠⁠⁠⁠https://kamilporembinski.pl/⁠⁠⁠⁠⁠⁠🔹 LinkedIn: ⁠⁠⁠⁠⁠⁠https://www.linkedin.com/in/kamilporembinski/⁠⁠⁠⁠⁠⁠🔹 Facebook: ⁠⁠⁠⁠⁠⁠https://www.facebook.com/kamilporembinski/⁠⁠⁠⁠⁠⁠🔹 Instagram: ⁠https://www.instagram.com/kamilporembinski/⁠🔹 YouTube: ⁠https://www.youtube.com/@KamilPorembinski⁠Oraz mój podcast Spod Wody:🤿 ⁠⁠⁠⁠⁠⁠https://spodwody.pl/⁠⁠⁠⁠⁠⁠🤿 ⁠⁠⁠⁠⁠⁠https://www.youtube.com/c/SpodWody⁠⁠⁠⁠⁠⁠© Wszystkie znaki handlowe należą do ich prawowitych właścicieli.👌 Dziękuję za Waszą uwagę.