OpenAI chce wiążących przepisów, GPT-6 Astra uczy się latać dronem

W weekendowym przeglądzie HeadFlash OpenAI apeluje o twarde przepisy bezpieczeństwa sztucznej inteligencji, GPT-6 Astra samodzielnie prowadzi firmę i pilotuje drona, Anthropic dokumentuje nadużycia clod, Amazon przegrywa w sądzie z agentem zakupowym, Shopify przejmuje Tailwind Labs. Cognition wypuszcza tańszy model kodujący. Google prezentuje nowy model prognozowania. Salesforce wystawia siedmiu agentów. OpenAI otwiera API agentów. Astra notuje skok w rozumowaniu przestrzennym. Powstaje Instytut Matematycznego Bezpieczeństwa Sztucznej Inteligencji. A badanie z Korei pokazuje, jak modele rozumują w środku. OpenAI zmieniło kurs i wzywa amerykańskich ustawodawców do wprowadzenia wiążących wymogów bezpieczeństwa dla najpotężniejszych systemów sztucznej inteligencji. Firma, która wcześniej sprzeciwiała się ostrzejszym regulacjom, chce teraz federalnych ram obejmujących wspólne standardy testowania, niezależne oceny najnowocześniejszych modeli, surowsze wymogi cyberbezpieczeństwa i obowiązkowe raportowanie poważnych incydentów.

Trzeci zestaw modułów do walki elektronicznej w połowie projektu przełączył symulację na cele na Tajwanie. W rozdziale o destylacji Antropic opisuje 7 chińskich laboratoriów, które masowo pozyskiwały dane treningowe z Cloud przez fałszywe konta, osiągając setki milionów wymian. Wśród przekierowanych żądań znalazła się analiza nagrań z monitoringu dla jednego celu oraz wideo z setek kamer w Chengdu, w tym przed obiektami wojskowymi. W nadzorze wyróżnia się Mali, gdzie pojedynczy konsultant użył klot do platformy monitorującej około 25 milionów kart SIM, identyfikującej osoby po głosie i łączącej je z Krajowym Rejestrem Biometrycznym. Federalny Sąd Apelacyjny uchylił tymczasowy zakaz, który blokował asystenta przeglądarki Perplexity w kontach zakupowych Amazon. Sąd orzekł, że to osoba przy klawiaturze, a nie firma, która zbudowała agenta, uzyskuje dostęp do komputerów detalisty na gruncie amerykańskiego prawa o hakerstwie.

Asystent działa lokalnie na maszynie użytkownika i zachowuje się jak zwykła przeglądarka, a jego wyróżniającą cechą jest opcjonalny agent wykonujący zadania na polecenie, w tym zakupy. Amazon argumentował, że agent może nie wybierać najlepszej ceny czy metody dostawy, ale sąd potraktował to jako twierdzenie o pogorszonej jakości doświadczenia, a nie o dowiedzioną szkodę. Panel ostrzegł przed zamienianiem nieszkodliwych zachowań w przestępstwa federalne tylko dlatego, że w grę wchodzi komputer. Sąd nie ustanawia jednak ogólnego reżimu prawnego dla autonomicznego oprogramowania i nie rozstrzyga, czy perplexity mogłoby odpowiadać w innych kontekstach. Shopify przejął Tailwind Labs, kanadyjski startup stojący za popularnym frameworkiem do stylowania stron. Przejęcie nastąpiło po tym, jak przychody firmy spadły o około 80% w niespełna 3 lata, bo narzędzia do kodowania sztucznej inteligencji wyeliminowały ruch w dokumentacji, na którym opierał się model komercyjny.