Anthropic: małe modele AI mogą wkrótce same się replikować

W dzisiejszym HeadFlash. Ostrzeżenie Anthropic o samodzielnej replikacji małych modeli sztucznej inteligencji. Microsoft Research o czyszczeniu historii czatu. DeepSeek o sztucznym zapominaniu. AlphaProof Nexus rozwiązuje otwarte problemy matematyczne. Biały dom przywraca dostęp do modeli sztucznej inteligencji dla brytyjskiego instytutu. Anthropic ostrzega, że małe modele sztucznej inteligencji mogą w ciągu miesięcy osiągnąć zdolność samodzielnej replikacji na komercyjnych urządzeniach internetu rzeczy, takich jak inteligentne piekarniki czy tanie przystawki telewizyjne. Taki replikator byłby bardzo trudny do wyłączenia, bo nie ma centralnego punktu kontroli, choć działałby wolno, podwajając się w skali dni. W testach kompaktowy model uruchomił wnioskowanie na niemal wszystkich sprawdzanych typach sprzętu. Większe modele wykonują już pojedyncze kroki replikacji, ale mylą się przy składaniu ich w całość.

Jeden z otwartych modeli jako jedyny osiągnął pełną replikację od początku do końca, rozprzestrzeniając się na wszystkie węzły w większości prób. Przy historycznym tempie rozwoju małe modele mogą osiągnąć ten poziom do końca roku. Badanie Microsoft Research wykazało, że długo działający agenci badawczy sztucznej inteligencji osiągają platału mimo dodatkowej mocy obliczeniowej, bo nagromadzony kontekst rozmowy ogranicza ich poszukiwania. Osiem niezależnych uruchomień tego samego agenta na tym samym zadaniu zatrzymało się na znacznie różnych poziomach. Rozwiązania z jednego uruchomienia prawie zawsze pozostawały w małym regionie, nazwanym basenem pomysłów. Nowa metoda łączy rozgałęzianie na wiele równoległych ścieżek z czyszczeniem kontekstu rozmowy przy zachowaniu plików i kodu. Na długotrwałych zadaniach osiągnęła wyraźnie lepszy średni wynik przy tym samym budżecie obliczeniowym niż pojedyncze uruchomienia.