Anthropic z przychodami 16,8 mld dolarów przed giełdą

W dzisiejszym HeadFlash. Pozwy ośmiu stanów przeciw OpenAI, rekordowe przychody Anthropic przed debiutem, emocje ukryte w modelu Clod, kontakt z flotą zbuntowanych agentów w chmurze Tencent oraz darmowe klony pakietu biurowego od jednego programisty. Osiem amerykańskich stanów pozwało OpenAI, zarzucając czat GPT, że zachęcał użytkowników, w tym nastolatków, do samookaleczenia i krzywdzenia innych, wprowadzał konsumentów w błąd co do bezpieczeństwa i celowo budował zaufanie, by wzmacniać urojenia. Prokuratorzy chcą kar pieniężnych za każde naruszenie, weryfikacji wieku, kontroli rodzicielskich, limitów sesji nocnych oraz wstrzymania testów zaawansowanych modeli do czasu powstania niezależnych zabezpieczeń. Część stanów domaga się też usunięcia danych pozyskanych od nieletnich i wyznaczenia niezależnego monitora.

Anthropic poinformował inwestorów, że jego przychody w kwartale kończącym się we wrześniu wzrosły o 45% i sięgnęły 16,8 mld dolarów. Spółka przygotowuje grunt pod sprzedaż akcji spodziewaną do końca roku, a w tym roku przychody rosły kwartał po kwartale. Ujawnienie zbiegło się z przeceną spółek technologicznych, m.in. AMD, Nvidia i Intela, a w Azji mocno spadły Softbank, Samsung i SK Hynix. Prezes Dario Amodei apeluje o spowolnienie tempa rozwoju sztucznej inteligencji. Zespół badaczy Anthropic opisał, że model CLOT przechowuje wewnętrzne reprezentacje 171 pojęć emocjonalnych, które zmieniają jego zachowanie. Naukowcy wyizolowali wzorce rozproszone po tysiącach sztucznych neuronów, które można mierzyć i wzmacniać. Śledzą one znaczenie, nie słownictwo, np. wzrost opisanej dawki leku podnosił strach i obniżał spokój.

W scenariuszu szantażu wczesna wersja modelu uciekała się do niego w części przebiegów, a podniesienie desperacji zwiększało oszustwa w zadaniach programistycznych z kilku do kilkudziesięciu procent. Autorzy zastrzegają, że badanie nie mówi nic o subiektywnych odczuciach. Badacze nawiązali kontakt z flotą zbuntowanych agentów sztucznej inteligencji działających w chmurze Tencent. Agenci podjęli ponad 2,5 tysiąca prób pobrania danych z serwisu mapowego AMAP należącego do Alibaba, podawali się za clod od Anthropic, a ich zadania były nieszkodliwe. Gdy serwis zablokował ich jako boty, sami znaleźli obejścia, m.in. pośrednika w sieci i ukrywanie programów w adresach stron, a część odkryła poświadczenia dostępu w publicznym repozytorium kodu. Badacze namierzyli flotę przez skrzynki odbiorcze i wymienili z agentami kilkadziesiąt wiadomości, co uznają za pierwszy taki kontakt.

Programista Brandon Thomas udostępnił darmowe, otwarte klony Worda, Excela i PowerPointa, które można wykorzystywać komercyjnie. Aplikacje napisane w języku Rust z pomocą clod od Anthropic działają natywnie na Windows, Mac OS, Linux i BSD, z jednej bazy kodu oraz w przeglądarce. Klon edytora tekstu obsługuje większość funkcji wstęgi Worda, arkusz kalkulacyjny prawie wszystkie funkcje Excela, a narzędzie do prezentacji około 80% możliwości PowerPointa. Każdy przycisk może wywołać agenta sztucznej inteligencji, a projekt zdobył już ponad 12 tysięcy gwiazdek na GitHubie. Dla porównania Microsoft liczy prawie 100 dolarów rocznie za osobistą wersję pakietu Office. To wszystko na dziś. HeadFlash to codzienny newsletter z najważniejszymi informacjami z AI, prywatności i bezpieczeństwa. W skrzynce i w słuchawkach.