OpenAI chce wiążących przepisów, GPT-6 Astra uczy się latać dronem

W weekendowym przeglądzie HeadFlash OpenAI apeluje o twarde przepisy bezpieczeństwa sztucznej inteligencji, GPT-6 Astra samodzielnie prowadzi firmę i pilotuje drona, Anthropic dokumentuje nadużycia clod, Amazon przegrywa w sądzie z agentem zakupowym, Shopify przejmuje Tailwind Labs. Cognition wypuszcza tańszy model kodujący. Google prezentuje nowy model prognozowania. Salesforce wystawia siedmiu agentów. OpenAI otwiera API agentów. Astra notuje skok w rozumowaniu przestrzennym. Powstaje Instytut Matematycznego Bezpieczeństwa Sztucznej Inteligencji. A badanie z Korei pokazuje, jak modele rozumują w środku. OpenAI zmieniło kurs i wzywa amerykańskich ustawodawców do wprowadzenia wiążących wymogów bezpieczeństwa dla najpotężniejszych systemów sztucznej inteligencji. Firma, która wcześniej sprzeciwiała się ostrzejszym regulacjom, chce teraz federalnych ram obejmujących wspólne standardy testowania, niezależne oceny najnowocześniejszych modeli, surowsze wymogi cyberbezpieczeństwa i obowiązkowe raportowanie poważnych incydentów.

Google Research udostępniło Times FM 3, model prognozujący przyszłe wartości na podstawie szeregów czasowych, takich jak dzienne dane sprzedażowe. Model korzysta z powiązanych danych i znanych przyszłych zdarzeń, np. planowanych promocji czy prognoz pogody. Przetwarza dane w dwóch kierunkach, wzdłuż czasu szuka wzorców w pojedynczym szeregu, a w poprzek szeregów porównuje wszystkie zmienne w danym punkcie i uczy się jak się wiążą. Działa bez dodatkowego trenowania do nowych zadań i zamiast pojedynczego oszacowania zwraca 9 wartości na krok czasu, aby uchwycić niepewność prognozy. Wcześniejsze wersje przewidywały przyszłość blok po bloku, co było wolne i pozwalało błędom się kumulować. Nowy model wypełnia wszystkie przyszłe kroki w jednym przebiegu. Na benchmarkach zajmuje pierwsze miejsce wśród wszystkich wstępnie trenowanych modeli prognozujących pod względem dokładności i kalibracji niepewności.

Jest dostępny publicznie, a Google planuje dodać go do swojej platformy analitycznej w nadchodzących tygodniach. Salesforce udostępniło siedmiu gotowych agentów sztucznej inteligencji i nowe środowisko długiego horyzontu, które pozwala agentowi utrzymywać cel przez dni i tygodnie, a nie pojedynczą rozmowę. Sześciu agentów jest ogólnie dostępnych, jeden jest w pilotażu. Obsługują rozwiązywanie spraw klientów przez głos i czat, wnioski wewnętrzne, ścieżkę zakupową, procesy back office, pozyskiwanie leadów i przepływy doświadczenia klienta. Każdy agent łączy się z systemem klienta i dziedziczy przechowywane tam rekordy i procesy biznesowe. Klienci mogą zmieniać nazwę agenta, a każdy działa w ramach własnych reguł i uprawnień. Środowisko długiego horyzontu opiera się na trzech zdolnościach.

Wszystkie wyniki, nagrania i kod są dostępne publicznie. OpenAI ma długoterminowe plany budowy własnych robotów konsumenckich. Badacz z Cornell i Google DeepMind nazwał Astra skokiem w rozumowaniu przestrzennym i podejrzewa, że OpenAI trenowało model na dużych ilościach danych trójwymiarowych. Kanadyjski matematyk Jacob Zimmerman, niedawny laureat medalu Fieldsa, ogłosił założenie Mathematical AI Safety Institute. Niezależny Instytut Badawczy z siedzibą w rejonie Zatoki San Francisco planuje rozpocząć pracę w styczniu 2027 roku z 10-30 matematykami zajmującymi się problemami bezpieczeństwa sztucznej inteligencji. Zimmerman dołącza również do zespołu bezpieczeństwa OpenAI i twierdzi, że dziedzina potrzebuje znacznie wyższego standardu bezpieczeństwa niż obecnie otrzymuje.