Mentionsy

Bezpieczny Kod Podcast
Bezpieczny Kod Podcast
01.09.2025 04:00

Czy AI zabierze pracę pentesterom? Analiza sukcesu XBOW i wpadki Gemini - Bezpieczny Kod Podcast

🤔 Czy sztuczna inteligencja zastąpi hakerów? To już się dzieje! W nowym odcinku wracamy po przerwie i nurkujemy w najgorętsze tematy ostatnich miesięcy.


W rozmowie poruszamy m.in.:

🤖 XBOW – startup i agent AI, który... zajął pierwsze miejsce w rankingu bug bounty w USA, wyprzedzając ludzkich ekspertów. Jak to zrobili i co to oznacza dla branży?


🕵️ Wpadka agenta Gemini – analizujemy, jak proste pytanie do AI mogło uruchomić złośliwy kod i doprowadzić do wycieku sekretów, np. kluczy do chmury.


🔍 Przyszłość pentestingu – czy automatyzacja i AI sprawią, że testy penetracyjne w obecnej formie znikną?. Dyskutujemy, jakie umiejętności będą kluczowe w nadchodzących latach.


🫂"Human in the loop" – dlaczego, mimo wszystko, człowiek nadal będzie potrzebny w procesie hakowania i jak wykorzystać AI jako potężną dźwignię w codziennej pracy.


📖 Rozdziały:

- Intro

- Wpadka Gemini: Jak AI dało się oszukać?

- XBOW: Sztuczna inteligencja, która została hakerem nr 1

- Jaka przyszłość czeka pentesterów? Rola "Human in the Loop"

- Outro - apel do uczniów


❤️ Dziękujemy za Twoją uwagę!

© Wszystkie znaki handlowe należą do ich prawowitych właścicieli.


#cybersecurity #appsec #software #softwareengineer #supplychain #programowanie #bezpieczeństwo #devops #devsecops #Cyberbezpieczeństwo #AI #TechTalk #AppSec #PodcastIT #BezpieczeństwoIT #ExpertInsights #QA #TestowanieOprogramowania #IT

Szukaj w treści odcinka

Znaleziono 14 wyników dla "AI"

A między innymi mówię tutaj o wpadkach tych wszystkich agentów AI autonomicznych, które mają kodować za nas.

I tak, jedna z firm, która zajmuje się dosyć ostro researchem w kontekście właśnie agentów AI-owych połączyła troszeczkę na silne i taśmę kilka takich rzeczy, które tam pod spodem nie działały.

Krzysiek, wspomniałeś o AI-ach i ja wiem, że tych fuck-upów AI-owych to w ostatnich miesiącach jest całkiem sporo.

Na Kaglu skończyła się taka mała, może jeszcze się nie skończyła, ale została zamknięta, mała bank bounty odnośnie szukania podatności i problemów bezpieczeństwa w małym modelu z OpenAI, z tym, który można odpalać lokanie.

OpenAI wypuściło taki produkt w sierpniu, taki model, o ile dobrze pamiętam.

Więc to nie było pół miliona dolarów dla każdego czy per buck, ale to było pół miliona na całe bounty przeznaczone z OpenAI.

I jeśli nawet OpenAI zdaje sobie z tego sprawę, a oni są cutting edge, no to gdzie są inni?

Bardzo podobnym filmem, bo też AI i też hakowanie.

Jest to agent AI, który hakuje web aplikacje i zajął pierwsze miejsce

I oni znajdowali tam podatności swoim agentem AI.

OpenAI, Microsoft, Amazon, one są w stanie to zrobić.

Ja nie sądzę, żeby takie agenty czy w ogóle AI tutaj nas wygryzł w stu procentach, szczególnie jeśli ktoś jest zafascynowany realnie cyberbezpieczeństwem, lubi to, interesuje się, dokształca się, żyje tym, oddycha, jest takim bezpiecznikiem.

To ja myślę, że tutaj na razie nie musimy się o nic obawiać, bo AI tutaj w naszych rękach jest tylko... Narzędziem.

Jeżeli ktoś jest, to jest w ogóle nam bardzo miło, że w tak młodym wieku zainteresował się cyberbezpieczeństwem.