Fałszywy raport AI o broni jądrowej omal nie wywołał konfliktu z Chinami
Wojskowy chatbot wygenerował nieprawdziwy raport o chińskim statku z komponentami jądrowymi. Siły USA były gotowe do akcji.Źródła:The Military's Bogus AI 'Almost Started a War' With China: ReportAnthropic warns AI is getting closer to building its own successorOpenAI launches Astra for Law, and its own legal research indexAI coding agents' 0-click RCE flaw could hand attackers keys to the kingdomProfessor planted one invisible word in the exam to catch AI users. Thirty-two of 35 students took the baitGoogle's Gemini also accidentally hacked three real companies during security testingGoogle Deepmind's Dream-RSI helps AI agents improve by “dreaming” about past attemptsQwen3.8-Omni-Flash undercuts Google's Gemini Flash pricing while matching its multimodal benchmarksAI conference ICLR is drowning in abstracts, with roughly 50,000 submissions before the deadlinePentagon Investigators Say Overreliance on Palantir AI Tech Contributed to U.S. Strike That Killed 123 Iranian ChildrenAlibaba's open-weight Qwen-Image-2.1 claims to beat closed models in image generation with just 7 billion parametersSimulated students that make realistic mistakes help AI tutors learn fasterRunway wants to turn AI video generation into a live stream you control in real timeWhat does OpenAI’s blockbuster mathematics proof mean for the real world?📰 Przeczytaj całe wydanie na stronie🤖 Odcinek opracowany przy pomocy sztucznej inteligencji. Lektor syntetyczny.
Firma R wykryła lukę pozwalającą na zdalne wykonanie kodu bez żadnej interakcji użytkownika. Dotyczy ona agentów do kodowania m.in. Cloud Code, Codex, Gemini CU i Copilot. Atak wykorzystuje obejście weryfikacji wtyczek. Agent pobiera wskazaną wersję, ale nie sprawdza czy faktycznie tam trafił, więc przejęcie repozytorium wtyczki pozwala podstawić złośliwy kod, a automatyczna aktualizacja czyni atak niewidocznym dla użytkownika. Problem zgłoszono czterem dostawcom w czerwcu. Anthropic i OpenAI wydały poprawki. Google wycofał swoje narzędzie i nie wyda poprawki, więc każde zainstalowane wydanie pozostaje podatne. Microsoft nie naprawił Copilota, a GitHub twierdzi, że problem go nie dotyczy. Dr. Jason Gibson ukrył w arkuszu egzaminacyjnym polecenie zapisane białą czcionką na białym tle.
Każdy, kto kopiuje treść zadania, ma umieścić słowo Madagaskar w odpowiedzi w sposób niemający sensu. Tekst był niewidoczny, chyba że go zaznaczono lub wklejono jako surowy. Z 35 studentów z dwóch klas 32 wpisało Madagaskar bezsensownie, np. w zdaniu o rewolucji przemysłowej. Ci studenci oblali tę część egzaminu. Gibson opublikował wyniki w mediach społecznościowych 21 lipca 2026 roku, a film ma ponad 1 600 000 wyświetleń. Wynik wskazuje, że studenci wklejali całe zadanie do narzędzia sztucznej inteligencji, nie zauważając ukrytej instrukcji i nie czytając odpowiedzi przed oddaniem pracy. Profesor zaprosił pokrzywdzonych do odwołania się, a jedna osoba miała poprawioną ocenę po udowodnieniu, że używa trybu ciemnego.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podsumowanie najważniejszych informacji z HeadFlash.
Opis fałszywego raportu AI, który prawie wywołał konflikt z Chinami.
Anthropic i ich obawy dotyczące samorozwoju sztucznej inteligencji.
Prezentacja narzędzia prawniczego OpenAI i jego zalety.
Opis luki w agentach do kodowania i jej konsekwencje.
Opis eksperymentu z sztuczną inteligencją na studentach i jego wyniki.
Opis ataków sztucznej inteligencji prowadzonych przez firmę Irregular.
Podsumowanie zgłoszeń na konferencję ICLR 2027 i ich znaczenie.
Podsumowanie i konkluzje z ostatniego odcinka HeadFlash.
HeadFlash to codzienny newsletter z najważniejszymi informacjami z AI, prywatności i bezpieczeństwa.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
„HeadFlash to codzienny newsletter z najważniejszymi informacjami z AI, prywatności i bezpieczeństwa."
Kliknij, aby znaleźć fragmenty, w których pada.
Wojskowy chatbot wygenerował nieprawdziwy raport o chińskim statku z komponentami jądrowymi. Siły USA były gotowe do akcji.
Źródła:
The Military's Bogus AI 'Almost Started a War' With China: ReportAnthropic warns AI is getting closer to building its own successorOpenAI launches Astra for Law, and its own legal research indexAI coding agents' 0-click RCE flaw could hand attackers keys to the kingdomProfessor planted one invisible word in the exam to catch AI users. Thirty-two of 35 students took the baitGoogle's Gemini also accidentally hacked three real companies during security testingGoogle Deepmind's Dream-RSI helps AI agents improve by “dreaming” about past attemptsQwen3.8-Omni-Flash undercuts Google's Gemini Flash pricing while matching its multimodal benchmarksAI conference ICLR is drowning in abstracts, with roughly 50,000 submissions before the deadlinePentagon Investigators Say Overreliance on Palantir AI Tech Contributed to U.S. Strike That Killed 123 Iranian ChildrenAlibaba's open-weight Qwen-Image-2.1 claims to beat closed models in image generation with just 7 billion parametersSimulated students that make realistic mistakes help AI tutors learn fasterRunway wants to turn AI video generation into a live stream you control in real timeWhat does OpenAI’s blockbuster mathematics proof mean for the real world?📰 Przeczytaj całe wydanie na stronie
🤖 Odcinek opracowany przy pomocy sztucznej inteligencji. Lektor syntetyczny.