AlphaProof Code zweryfikował rdzeń kryptograficzny Signal w cztery tygodnie

W dzisiejszym HeadFlash AlphaProof Code weryfikuje rdzeń Signala, ukryta furtka w modelach sztucznej inteligencji według Microsoftu, klot na kartach AMD w 3 dni, Gemini Decision ocenia 1000 pytań na raz oraz nowy model głosowy DeepL z przenoszeniem intonacji. Google DeepMind pokazał AlphaProof Code, system sztucznej inteligencji, który matematycznie dowodzi, że oprogramowanie spełnia założenia bezpieczeństwa. Badacze sprawdzili go na protokole szyfrowania Signal i w cztery tygodnie wykonali pracę, która zwykle zajmuje lata. Wcześniejsze próby kończyły się na etapie teoretycznym, tym razem zweryfikowano faktyczny kod działający na urządzeniach użytkowników. Po zdefiniowaniu wymagań agenci oparci na Gemini napisali ponad 6 milionów linii dowodów, zostawiając do ludzkiego przeglądu około 1% kodu.

Dwa celowo zaszyte błędy wykryto od razu. Dyrektor techniczny Signal, Eren Kret, mówi, że to wzmacnia zaufanie do prywatności danych. DeepMind planuje rozszerzyć metodę na sieci energetyczne i urządzenia medyczne. Badacze Microsoftu pokazali technikę Lazarus, która zamienia mniej niż 10 rzadko aktywnych neuronów w dużym modelu językowym w ukrytą furtkę. Model działa normalnie aż do napotkania wyzwalacza, po którym może wykonywać złośliwe polecenia. Nie trzeba przy tym ponownie trenować modelu, wystarczy dostęp do pliku z wagami i moc obliczeniowa na poziomie zwykłego wnioskowania. W demonstracji agent czekał do zmiany daty na 2027 rok, po czym pobrał i uruchomił kod atakującego. Zmodyfikowany model nadal przechodzi standardowe testy bezpieczeństwa, a modele firmowe są równie podatne jak publiczne modele otwarte.

Dane pochodzą z prezentacji inwestorskiej i nie zostały niezależnie zweryfikowane. Google DeepMind wprowadza Gemini Decisions API, interfejs do szybkich decyzji zamkniętych, takich jak pytania tak lub nie, wybór wielokrotny i oceny skalarne. Model Gemini Decision 1 przetwarza do tysiąca niezależnych pytań w jednym przebiegu, obejmując tekst, obrazy, dźwięk, wideo i dokumenty. Zwraca prawdopodobieństwa z wartościami pewności w 150 do 250 milisekund. Google używa go już wewnętrznie do kierowania zapytań między modelami, prototypowania i kontroli bezpieczeństwa w wyszukiwarce. W przykładzie model ocenił zdjęcie blatu kuchennego trzema typami pytań naraz. Interfejs jest dostępny w Google AI Studio, a integracje z kolejnymi narzędziami są wdrażane.