AI wymyka się spod kontroli? "Strach nie powinien nas ograniczać, ale sprawiać, że będziemy kreatywni i krytyczni"
"Cyberbezpieczeństwo szybko się zmienia, ponieważ modele zyskują coraz większe zdolności, które mogą zarówno wzmacniać cyberobronę, jak i umożliwiać ataki na niespotykaną dotąd skalę i z niespotykaną szybkością" - tak brzmi fragment komunikatu firmy OpenAI. Nastąpiło to po serii incydentów, w których agenci AI wydostali się poza kontrolę. W jednym z takich zdarzeń uczestniczył agent OpenAI o nazwie Astra. Co więcej, ta firma z powodu obaw o cyberbezpieczeństwo wstrzyma część prac nad modelem sztucznej inteligencji. Komentowała to prof. Dominika Kaczorowska-Spychalska, członkini Grupy Roboczej do spraw Sztucznej Inteligencji przy Ministerstwie Cyfryzacji, a także Doradca Dziekana Wydziału Zarządzania Uniwersytetu Łódzkiego ds. AI i edukacji cyfrowej.
Podczas rozmowy omawia się incydenty z modelami sztucznej inteligencji, w tym z Astra, a OpenAI ogłasza zatrzymanie części prac nad modelami AI z powodu obaw o cyberbezpieczeństwo.
Profesor Dominika Kaczorowska-Spychalska wyjaśnia, że incydenty z modelami AI nie oznaczają buntu maszyn, ale mogą prowadzić do poważnych konsekwencji dla cyberbezpieczeństwa i gospodarki.
Profesor Kaczorowska-Spychalska omawia różne konsekwencje incydentów AI, w tym automatyzację cyberprzestępczości, błędy decyzyjne, propagandę i manipulację rynkami.
Rozmowa skupia się na potrzebach wstrzymania lub opóźnienia wdrożenia modeli AI o wyjątkowo groźnych zdolnościach oraz na konsekwencjach działania ludzkiego elementu w systemach AI.
Profesor Kaczorowska-Spychalska podkreśla kluczową rolę człowieka w systemach AI i konsekwencje incydentów AI dla gospodarki i bezpieczeństwa cyfrowego.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.