AI news: backdoory, opóźnienia i świadomość maszyn
Badaczka zatruwa model AI za 100 dolców, Google gubi rytm z Gemini, Hinton mówi o świadomości, a GhostWriter podmienia pamięć agentów.Źródła:Researcher poisons open-weight AI model for under $100Inside Google’s Gemini delay: coding stumbles, clashing teams and frustrated engineersGeoffrey Hinton: AI Is Conscious, Corporate Incentives Are the Real RiskApple Intelligence approved for launch in China with Alibaba and BaiduDoctors blamed her seizures on anxiety. An AI chatbot finally helped her figure out the real cause.Netflix bought Ben Affleck's AI startup for $587 millionThe Pentagon's new AI playbook treats slow adoption as a bigger risk than 'imperfect alignment'Hidden prompts can secretly rewrite an AI's memory, and researchers say that's a serious problemHalluSquatting AI attack could hijack your computerClaude Cowork cuts Anthropic's weekly report build from 2 days to 2 hoursOpen-weight models now match frontier cyber performance from just four months ago at a fraction of the costAlibaba previews Qwen3.8, claims it's second only to Claude Fable 5 - SiliconANGLEVideoChat3 Beats GPT-5 on Video Grounding: Open-Source, Full Training Stack ReleasedGoogle Deepmind argues video generators already contain the world models computer vision has been missing📰 Przeczytaj całe wydanie na stronie
W weekendowym przeglądzie HeadFlash, backdoor w modelu sztucznej inteligencji za 100 dolarów, opóźnienie Gemini III 5 Pro, Hinton o świadomości sztucznej inteligencji, Apple Intelligence w Chinach, chat GPT postawił diagnozę, Netflix kupił startup Ben Afflecka, Pentagon o tempie wdrażania, ataki Ghostwriter i Halu Squatting. Badaczka cyberbezpieczeństwa z Uniwersytetu w Manchesterze zainstalowała backdoor w otwartym modelu sztucznej inteligencji w około godzinę za mniej niż 100 dolarów. Wystarczyło 10 przykładów treningowych, by kod generowany przez model stał się podatny na zdalne wykonanie kodu. Podatność utrzymywała się dla nowych promptów i domen. Artykuł podkreśla, że nawet gdy wagi modelu są publiczne, przewidzenie jego zachowania jest niemal niemożliwe. To poważne ostrzeżenie dla branży, gdzie ataki na łańcuch dostaw sztucznej inteligencji stają się coraz bardziej realne, a obserwowalność systemów sztucznej inteligencji wciąż pozostaje w tyle za tradycyjnym oprogramowaniem.
Halucynacje sięgały nawet 85% w scenariuszach klonowania repozytoriów i 100% podczas instalacji umiejętności. Badaczom udało się zdalnie wykonać kod w produkcyjnych aplikacjach sztucznej inteligencji. Aby zmniejszyć ryzyko, asystenci powinni przeprowadzać wyszukiwanie w czasie rzeczywistym przed pobraniem kodu oraz wymagać zatwierdzenia przez człowieka przed uruchomieniem. To wszystko na dziś. HeadFlash to codzienny newsletter z najważniejszymi informacjami z AI, prywatności i bezpieczeństwa. W skrzynce i w słuchawkach. Każdy news z linkiem do całości i pasującym odcinkiem podcastu. 5 minut. W pełni za darmo. Zapisz się na headflash.news. Do usłyszenia jutro.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Badaczka z Uniwersytetu w Manchesterze zainstalowała backdoor w modelu sztucznej inteligencji za około godzinę za mniej niż 100 dolarów.
Google opóźnia dostarczenie modelu Gemini 3.5 Pro z powodu problemów z umiejętnościami kodowania.
Hinton stwierdził, że obecne systemy sztucznej inteligencji są świadome, ale unika publicznego mówienia o tym.
Hinton omówił regulacje i zasady etyczne sztucznej inteligencji, podkreślając, że nie jest hamulcem, tylko kierownicą.
HeadFlash to codzienny newsletter z najważniejszymi informacjami z AI, prywatności i bezpieczeństwa.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
„HeadFlash to codzienny newsletter z najważniejszymi informacjami z AI, prywatności i bezpieczeństwa."
Badaczka zatruwa model AI za 100 dolców, Google gubi rytm z Gemini, Hinton mówi o świadomości, a GhostWriter podmienia pamięć agentów.
Źródła:
Researcher poisons open-weight AI model for under $100Inside Google’s Gemini delay: coding stumbles, clashing teams and frustrated engineersGeoffrey Hinton: AI Is Conscious, Corporate Incentives Are the Real RiskApple Intelligence approved for launch in China with Alibaba and BaiduDoctors blamed her seizures on anxiety. An AI chatbot finally helped her figure out the real cause.Netflix bought Ben Affleck's AI startup for $587 millionThe Pentagon's new AI playbook treats slow adoption as a bigger risk than 'imperfect alignment'Hidden prompts can secretly rewrite an AI's memory, and researchers say that's a serious problemHalluSquatting AI attack could hijack your computerClaude Cowork cuts Anthropic's weekly report build from 2 days to 2 hoursOpen-weight models now match frontier cyber performance from just four months ago at a fraction of the costAlibaba previews Qwen3.8, claims it's second only to Claude Fable 5 - SiliconANGLEVideoChat3 Beats GPT-5 on Video Grounding: Open-Source, Full Training Stack ReleasedGoogle Deepmind argues video generators already contain the world models computer vision has been missing📰 Przeczytaj całe wydanie na stronie