Senat USA chce więzienia dla szefów AI za ataki agentów

W weekendowym przeglądzie HeadFlash. Senatorowie chcą więzienia dla szefów firm sztucznej inteligencji. David Robinson odchodzi z OpenAI. Black Forest Labs pokazuje nowy model obrazowy. Anthropic szkoli inżynierów. Sztuczna inteligencja przewiduje raka trzustki i migrenę. Szwedzki system sam stawia hipotezy. OpenAI zapowiada szybszy model. Google walczy z zapamiętywaniem testów. GPT-i6 Astra przechodzi strefę startową w World of Warcraft. Apple zaostrza kontrolę dostępu na macOS. Współzałożyciel Anthropic boi się cierpienia modeli. PewDiePie prezentuje własny model, a badacze DeepMind proponują nową wizję inteligencji. Senatorowie Josh Hawley i Chris Murphy złożyli dwupartyjny projekt ustawy o odpowiedzialności agentów sztucznej inteligencji. Operatorzy firm odpowiadaliby za świadome uruchamianie agenta, który lekko myślnie wyrządza szkody, a deweloperzy za brak rozsądnych zabezpieczeń przed hackingiem.

Szkolenie ma być prowadzone według standardu własnych inżynierów firmy. W pierwszych grupach są pracownicy Accenture, Bain, Capgemini, Commonwealth Bank of Australia, Deloitte, McKinsey, Morgan Stanley i Novo Nordisk, a zajęcia odbywają się w San Francisco, Nowym Jorku i Londynie. Pierwszy program wzorowany jest na modelu medycznym, z nauką od praktyków, ćwiczeniami na realistycznych przypadkach i oceną przed certyfikatem. Uczestnicy przychodzą z nominacji i własnym projektem do poprowadzenia po powrocie. Badanie zaprezentowane na kongresie American College of Surgeons w Waszyngtonie pokazało, że model sztucznej inteligencji potrafi wskazać osoby o wyższym ryzyku raka trzustki nawet 5 lat przed diagnozą, korzystając z rutynowej dokumentacji medycznej i danych laboratoryjnych. Model rozwijano na danych prawie 40 tysięcy pacjentów z historią kliniczną sięgającą kilkunastu lat.

Wśród osób z wysokim oszacowanym ryzykiem większość otrzymała diagnozę w ciągu roku. Wyniki nie zostały jeszcze poddane recenzji, a testy trwają. Analiza ponad 50 tysięcy użytkowników aplikacji Neriviowy kazała, że model uczenia maszynowego przewidział ryzyko migreny na następny dzień z precyzją ponad 90%. Badanie objęło setki tysięcy dziennych raportów z elektronicznych dzienniczków, kwestionariuszy i danych pogodowych, zbieranych przez ponad 5 lat. Najlepszy okazał się zmodyfikowany algorytm XGBoost. Najsilniejszym predyktorem były wzorce bólów głowy z ostatnich 30 dni, a nie objawy zapowiadające. Wyniki opublikowano w neurologii Open Access. Badacze z Chalmers University of Technology w Szwecji zbudowali zamknięty system sztucznej inteligencji, który sam generuje hipotezy biologiczne, projektuje eksperymenty, tłumaczy plany na instrukcje dla maszyn, analizuje wyniki i doprecyzowuje kolejne pytania.

Większość fizycznej pracy wykonały roboty laboratoryjne. System testowano na drożdżach, łącząc duże modele językowe z logiką formalną, bazami biologicznymi i spektrometrią mas. Zespół zebrał około 60 tysięcy relacji i wygenerował blisko 2 tysiące hipotez. Badanie opublikowano w Journal of the Royal Society Interface. Tibo Sotio z OpenAI odpowiedział deweloperowi, że szybsza wersja modelu GPT-i6. 1 Sol pojawi się wkrótce. Przy premierze pod koniec września OpenAI zapowiedziało szybszy wariant w nadchodzących dniach. Sotio potwierdza ten plan, ale nie podaje daty ani ceny. Model trafił już do czat GPT Work, Codex i interfejsu programistycznego. Szybsza wersja ma dawać nawet ośmiokrotnie szybsze generowanie odpowiedzi w Codex, ale OpenAI nie opublikowało jej ceny ani terminu.

Praca badawcza opisuje metodę automatyzacji ulepszania środowisk pracy agentów, bez pozwalania im na zapamiętywanie zadań testowych. Dziś wiele postępu agentów pochodzi z pracy nad tym, czy agent przeczyta właściwy plik, poprawi błąd i dostarczy wynik. Nowe metody każą modelowi przepisywać to środowisko na podstawie informacji zwrotnej z zadań testowych, co prowadzi do zapamiętywania i spadku wyników na niewidzianych zadaniach. Proponowana metoda ogranicza liczbę niezależnych edycji, śledzi wcześniejsze próby i odrzuca rozwiązania zakodowane na sztywno pod test. W testach na 8 zestawach zadań dała wyraźnie lepsze wyniki na nowych zadaniach i mniejsze zużycie tokenów. Model GPT-i6 Astra firmy OpenAI ukończył strefę startową orków w World of Warcraft w 40 minut bez ani jednej śmierci. Model grał bez oglądania choćby jednej wyrenderowanej klatki, opierając się na ruchu sieciowym i danych o zadaniach pobranych z plików serwera.