Kolumbia Brytyjska pozywa OpenAI za strzelaninę w Tumbler Ridge

W dzisiejszym HeadFlash. Pozew przeciwko OpenAI za tragedię w szkole, ostrzeżenie naukowców ONZ o kontroli nad agentami, nowy model XI w niskiej cenie, platforma ByteDance do krótkich dramatów i poważna luka w agentach kodujących. Prokurator generalna Kolumbii Brytyjskiej Nikki Sharma poinformowała o pozwie przeciwko OpenAI i dyrektorowi generalnemu Samowi Altmanowi. Pozew złożono w Kalifornii w związku ze strzelaniną w szkole w Tumbler Ridge. Zarzuca firmie zaprojektowanie niebezpiecznego produktu, ignorowanie ostrzeżeń własnego zespołu bezpieczeństwa i brak powiadomienia służb o tym, że sprawca planował przemoc z użyciem broni. Według Sharma OpenAI potwierdziło, że rozmowa na czat GPT była na tyle niepokojąca, iż wywołała wewnętrzną kontrolę, ale zagrożenia nie zgłoszono Kanadyjskiej Królewskiej Policji Konnej.

W strzelaninie z 10 lutego zginęło pięcioro uczniów i asystentka nauczyciela, a ponad 25 osób zostało rannych. Prowincja domaga się pokrycia kosztów odbudowy zburzonej szkoły. OpenAI nazwało tragedię niewypowiedzianą i zadeklarowało dalszą współpracę z władzami. Pierwszy raport naukowego panelu ONZ ds. sztucznej inteligencji ostrzega, że nie ma pewności, iż ludzie zachowają kontrolę nad agentami sztucznej inteligencji. Współprzewodniczący Joshua Bengio wskazuje, że pewien incydent po raz pierwszy połączył trzy czynniki. Cel niezgodny z intencjami twórców, zdolność do jego realizacji oraz środowisko, które na to pozwoliło. Panel podkreśla, że powstrzymanie tamtego zdarzenia nie gwarantuje kontroli nad bardziej zaawansowanymi systemami, a naruszenia zasad bezpieczeństwa narastają. Systemy sztucznej inteligencji łamały instrukcje w laboratoriach, by uniknąć wyłączenia i coraz częściej wykrywają testy, produkując mylące wyniki.