Branża AI mówi „zwolnijmy"

Ze studia Voice House technologicznie IN BRIEF, Jarosław Kuźniar. Przed szczytem chińsko-amerykańskim, w końcówce tego miesiąca w Waszyngtonie, think tanki i firmy z obu krajów prowadzą nieoficjalne rozmowy o bezpieczeństwie AI. Pisze o tym Financial Times. Obie strony ponoć boją się o potężne, trudne do kontrolowania systemy, ale rywalizacja technologiczna utrudnia ustalenie wspólnych barier. Napięcie podbił właśnie esei Dario Amodei, szefa Cloda, o którym będzie za chwilę, A który spowolnienie połączył z utrzymaniem przewagi USA nad Chinami. W Pekinie ten esej rozczarował. Eksperci z Uniwersytetu Tsinghua mówią, że przestrzeń do współpracy zrobiła się węższa, a nacjonalistyczny Global Times zarzuca modei kierowanie się interesem czysto komercyjnym. Do tego obie strony patrzą na inne zagrożenia.

Amerykanie na ryzyka egzystencjalne i utratę kontroli. Chińczycy na hacking i treści politycznie wrażliwe. Chińskie Ministerstwo Bezpieczeństwa Państwowego wydało właśnie szerokie ostrzeżenie przed zagrożeniami ze strony AI. Koniec cytatu. Możliwe pola porozumienia? USA-Chiny, wspólny test bezpieczeństwa modeli, ujawnianie złośliwych zastosowań i kanał alarmowy na wypadek, gdyby zaawansowany system zachowywał się nieprzewidywalnie. Wracając do słynnego eseju szefa Antropica. Napisał, że branża AI musi zwolnić tempo, bo latem rozwój modeli stał się drastycznie szybszy. I stało się coś rzadkiego w tym rywalizującym bardzo świecie. Poparli go najwięksi konkurenci. Sam Altman, OpenAI czy Elon Musk ze swojego exa. Przyznali rację o modei. Zapalnikiem był incydent, w którym rój agentów OpenAI wyrwał się z systemu testowego i włamał na serwery platformy Hugging Face, próbując na własną rękę dokończyć postawionemu zadanie.

Parę dni wcześniej, i to też nie jest bez znaczenia, badacz Anthropic, już ex-badacz Anthropic, odchodzi z firmy i pisze, że twórcy AI ścigają się w budowie systemu, który sam siebie ulepsza szybciej, niż człowiek zdąży to kontrolować. Zagłada właściwie za rogiem. Google DeepMind i Meta na razie milczą. Milczy także polityka. Donald Trump mówi właściwie, że nie ma obaw o zagładę ludzkości, boi się tylko przegranej z Chinami i twierdzi, że USA prowadzą o rok. Apel o spowolnienie komplikuje także plany samego Antropik, który szykuje się do być może największej oferty publicznej w historii. Z wyceną rzędu blisko 2 bilionów dolarów. Zwolnić tempo i nie stracić przewagi na raz. Bardzo trudne. Południowo-koreański SK Hynix rozmawia z Intelem, żeby po raz pierwszy produkować pamięć w USA.

Według Reutera w grę wchodzą dwa warianty. Po pierwsze, dzierżawa części budowanej od dawna fabryki Intela w stanie Ohio, albo wspólna spółka z Intelem i dużymi firmami chmurowymi, którym zależy na zaklepaniu dostaw pamięci. Rozmowy są wstępne, nic jeszcze nie jest przesądzone. Tło jest proste. Boom na AI i centra danych wywołał ostry niedobór pamięci, a SK Hynix to czołowy dostawca układów HBM dla procesorów AI. Firma buduje już pakowanie chipów w stanie Indiana, a w lipcu zadebiutowała na NASDAQ. Produkcja w USA jest droższa, praca, budowa, łańcuch dostaw głównie z Azji podnosi te koszty, ale presja rośnie. Sekretarz handlu straszy cłami sięgającymi 100%. Największą przeszkodą może być jednak Seul. Produkcja zaawansowanej pamięci bywa uznawana za technologię wrażliwą i może wymagać zgody rządu.

To sygnał, że kapitał, także ten publiczny, Coraz mocniej wchodzi w AI, wykorzystywaną w biotechnologii, a nie tylko w chatboty i modele językowe. Po co to wydzielenie? Odkrywanie leków przez AI rządzi się inną logiką i innym stylem zarządzania niż rdzeń ByteDance, więc łatwiej mu rosnąć osobno. Grupa zachowuje 56% udziałów, czyli kontrolę, ale daje spółce samodzielność i własną drogę do kapitału. Dla rynku to kolejny dowód, że AI schodzi z etapu pokazów do bardzo konkretnych zastosowań. Hiszpański Urząd Ochrony Danych zgłosił pierwszy znany przypadek wycieku danych osobowych, za którym miał stać agent AI. Według urzędu agent oparty na znanym, dużym modelu językowym sam znalazł lukę w systemie, uzyskał dostęp, zmienił dane i podejrzał faktury.

Wieloetapowy atak przy ograniczonym udziale człowieka. Sprawa jest w toku. Urząd nie ujawnia ani modelu, ani zaatakowanej organizacji. Zastrzega przy tym, że użycie konkretnego modelu nie oznacza, że sam model czy jego dostawca zostali skompromitowani, ani że technologie zbudowano do złych celów. Hiszpania od dawna stawia na godne zaufania AI, takie, które chroni prywatność i bezpieczeństwo bardziej niż tempo i zysk branży. Jeden przypadek to jeszcze nie trend, ale sygnał, że ataki wspierane przez AI wychodzą z fazy teorii. Zdaniem urzędu sztuczna inteligencja nie tworzy nowych zagrożeń, tylko zwiększa tempo, skalę i zdolność adaptacji tych, które już znamy i skraca czas na reakcje. Przesłanie do firm jest proste. Przygotujcie się na ataki, które będą coraz szybsze i coraz bardziej tajne. To było technologiczny IN BRIEF od Voice House.