OpenAI chce wiążących przepisów, GPT-6 Astra uczy się latać dronem

W weekendowym przeglądzie HeadFlash OpenAI apeluje o twarde przepisy bezpieczeństwa sztucznej inteligencji, GPT-6 Astra samodzielnie prowadzi firmę i pilotuje drona, Anthropic dokumentuje nadużycia clod, Amazon przegrywa w sądzie z agentem zakupowym, Shopify przejmuje Tailwind Labs. Cognition wypuszcza tańszy model kodujący. Google prezentuje nowy model prognozowania. Salesforce wystawia siedmiu agentów. OpenAI otwiera API agentów. Astra notuje skok w rozumowaniu przestrzennym. Powstaje Instytut Matematycznego Bezpieczeństwa Sztucznej Inteligencji. A badanie z Korei pokazuje, jak modele rozumują w środku. OpenAI zmieniło kurs i wzywa amerykańskich ustawodawców do wprowadzenia wiążących wymogów bezpieczeństwa dla najpotężniejszych systemów sztucznej inteligencji. Firma, która wcześniej sprzeciwiała się ostrzejszym regulacjom, chce teraz federalnych ram obejmujących wspólne standardy testowania, niezależne oceny najnowocześniejszych modeli, surowsze wymogi cyberbezpieczeństwa i obowiązkowe raportowanie poważnych incydentów.

Asystent działa lokalnie na maszynie użytkownika i zachowuje się jak zwykła przeglądarka, a jego wyróżniającą cechą jest opcjonalny agent wykonujący zadania na polecenie, w tym zakupy. Amazon argumentował, że agent może nie wybierać najlepszej ceny czy metody dostawy, ale sąd potraktował to jako twierdzenie o pogorszonej jakości doświadczenia, a nie o dowiedzioną szkodę. Panel ostrzegł przed zamienianiem nieszkodliwych zachowań w przestępstwa federalne tylko dlatego, że w grę wchodzi komputer. Sąd nie ustanawia jednak ogólnego reżimu prawnego dla autonomicznego oprogramowania i nie rozstrzyga, czy perplexity mogłoby odpowiadać w innych kontekstach. Shopify przejął Tailwind Labs, kanadyjski startup stojący za popularnym frameworkiem do stylowania stron. Przejęcie nastąpiło po tym, jak przychody firmy spadły o około 80% w niespełna 3 lata, bo narzędzia do kodowania sztucznej inteligencji wyeliminowały ruch w dokumentacji, na którym opierał się model komercyjny.

Asystenci kodowania przyjęli ten framework jako preferowany format wyjściowy, bo pojawiał się masowo w danych treningowych, a nazwy klas były czytelne dla człowieka. Powstała pętla sprzężenia zwrotnego. Narzędzia sztucznej inteligencji trenowane na kodzie pełnym tego frameworka generowały więcej takiego kodu, który deweloperzy wdrażali z powrotem. Dokumentacja straciła około 40% ruchu od szczytu, a instalacje rosły do ponad 110 milionów tygodniowo. Założyciel zwolnił 75% inżynierów i odrzucił propozycję ułatwienia dokumentacji dla modeli językowych, argumentując, że przyspieszyłoby to zachowanie niszczące model przychodów. Kilka firm sztucznej inteligencji weszło jako sponsorzy, zapewniając pomost finansowy. Framework i projekty otwarto-źródłowe pozostają dostępne, a zespół nadal je prowadzi przy wsparciu Shopify.