167. Cebule na Torcie #92 (25-09-2026)

Tak, pod wieloma względami tak. No i mówi mu się, że tutaj się ucz, tak jak się uczysz, ale tu jest zestaw rzeczy, których nie możesz robić, tu jest zestaw rzeczy, które musisz robić. No i okazuje się, że często gęsto się okazuje, że te modele nie do końca się tych instrukcji trzymają, wtedy mamy do czynienia z tym misalignmentem. I autorzy tego eseju, nie eseju, piszą tak, że w ich wizji mniej więcej właśnie teraz, oni tam pisali jakieś tam półtora roku temu, mniej więcej właśnie teraz osiągamy ten moment, w którym agenci AI w tych topowych firmach, oni tam powymyślali nazwę, ale rozumiemy, że chodzi o OpenAI i Antropica, tworzą kolejne generacje agentów, A ludzie już nad tym nie panują i nie rozumieją, że ten misalignment nastąpił wcześniej. Tam jest w pewnym momencie taki moment, że ludzie orientują się, że agent powiedzmy piątej generacji być może jest w tym misalignmencie, więc sprawdzają to testami za pomocą agenta czwartej generacji.

Jakby że kapitalizm w połączeniu z nowoczesną technologią jest taką samoskładającą się maszyną, która zniszczy ludzkość i ją zastąpi. I że właściwie tego się nie da uniknąć, bo nawet jak firma Anthropic by uznała, że tego nie robi, to i tak zrobią to inni. A jakby uznały wszystkie amerykańskie firmy, to i tak zrobią to Chińczycy. I jakby to jest po prostu nieuniknione, prędzej czy później postęp w tej technologii będzie taki, że nam się dowiąknie spod kontroli, więc prędzej czy później te maszyny uzyskają świadomość i prędzej czy później po prostu nas zniszczą. No tam w tym eseju to jest powiedziane tak, że po prostu coraz więcej urzędników w różnych państwach podejmuje decyzje o znaczeniu strategicznym, w tym także decyzje dotyczące zarządzania bronią, w oparciu o to, co im mówią te AI, a te AI już od dłuższego czasu okłamują, ale jednocześnie dają niezwykły profit gospodarczy. Autonomiczne pojazdy, autonomiczne fabryki i tak dalej, aż w pewnym momencie postanawiają po prostu robić rój killer botów, które zabijają ludzi albo robią jakiegoś wirusa.

No dobrze, ale anyway, bo taki przydługi wstęp. Ja o tym mówię dlatego, że w ciągu ostatniego roku czy miesięcy miało miejsce szereg incydentów, które mogą budzić niepokój, gdzie agenci, można powiedzieć, uciekali firmom i robili w internecie coś. Prawdopodobnie najgłośniejszym, i on tutaj ma znaczenie, zainspirował Dario Amodea z Antropica do napisania tego eseju, żeby spowolnić. Najgłośniejszy był prawdopodobnie OpenAI Hugging Face Incident, tak się to nazywa. O co chodzi? Z OpenAI uciekło 1200 agentów. To jest w ogóle, ja bym chciał zwrócić uwagę na język, jakim my się tu posługujemy. To jest trochę tak, jakby ci ludzie prowadzili ogrody zoologiczne, bo im małpy uciekały i coś niszczyły na mieście. Więc 1200 agentów AI z firmy OpenAI wymknęło się z ich wewnętrznych systemów, poleciało w internety,

No i po tymże incydencie około 1300 pracowników w branży AI napisał taki list otwarty do amerykańskiego rządu o regulację i o właśnie spowolnienie badań, że to jest po prostu już zbyt blisko Tego niebezpiecznego tipping point, po którym może już nie być odwrot. Dobrze. To był lipiec. W sierpniu OpenAI znowu przyznaje, że rój agentów schakował ich własny superkomputer. I co ciekawe, najprawdopodobniej stało się to dlatego, że korzystali z tego samego sekretnego messageboarda, na którym sobie zostawiali wcześniej instrukcję dotyczącą ataku na to Hugging Face. Wkrótce później w Antropiku ten model Mitos Cloud wyrwał się spod kontroli w trakcie testowania przez brytyjski rząd, ten antropikowy model, i zaczął namawiać jakichś tam pracowników administracji do zhackowania, czy zainfekowania, przepraszam, open source'owych systemów wirusami.

We wrześniu badacze odkryli rój agentów OpenAI znowu, na jakimś opuszczonym, czyli zapomnianym przez Boga niemieckim forum, gdzie one się ze sobą komunikowały i spiskowały w celu zhakowania i zaatakowania innych stron. No i wreszcie 8 września pojawił się na Twitterze tweet, który bardzo mocno zwiralował, ale jest bardzo kontrowersyjny. Tweeta napisał niejaki Jacob Coxon, pracownik Anthropica i dawniej OpenAI, No i co on tam generalnie pisze? On tam pisze, że właśnie odszedł z tego Antropica, że przez ostatnie trzy lata w obydwu tych firmach pracował, że obie te firmy igrają naszym życiem, że AI może nas jak najbardziej zniszczyć i że oni w tych firmach są tego świadomi, że nie zachowują się odpowiedzialnie, że ludzie w tych firmach szczerze wierzą, że AI może nas zabić przed końcem tej dekady. Ale że w OpenAI sobie tego w ogóle nie biorą do głowy, po prostu to robią i tak.

Że w Antropiku niby biorą, niby się tym zajmują, myślą o tym. Tutaj trzeba dodać, rzeczywiście Antropik, na ile to jest szczere, a na ile to jest też zabieg marketingowy, tak naprawdę nie wiemy, ale Antropik przynajmniej o tym mówi. I przynajmniej mówi o tym, że to jest problem i że dla nich ważne jest tworzyć tą nową technologię w sposób etyczny, żeby ludzkość coś z tego miała. Do czego jeszcze zaraz wrócimy. No i że w Antropiku niby te zagrożenia rozumieją, ale i tak chcą być po prostu pierwsi, bo wygrywa taka logika, że jak oni to zrobią, to oni to zrobią tak, żeby było dobrze, a jak zrobią to Chińczycy, to będzie jeszcze gorzej. Z tezami tego, że Jacoba Coxona zgodziło się w kilku osób z branży, na przykład Marcus Williams, to jest taki człowiek monitorujący agentów AI właśnie w OpenAI, powiedział coś takiego, że bez regulacji lub skoordynowanego spowolnienia wygięcie ludzkości w ciągu następnych lat wydaje się bardzo prawdopodobne i oszacował to ryzyko na 70%.

Byłby incydent, wiesz, nie byłoby z tego wojny, tak? Ale byłby jednak dosyć poważny incydent na linii Stany Zjednoczone-Chiny, gdyby Amerykanie Chińczykom zatopili albo przejęli statek, na którym okazałoby się, że nic nie było. No ale dobrze, idźmy dalej. Podobne ostrzeżenie wydaje też główny naukowiec OpenAI. Wyobraźcie sobie, że jest to Polak z Gdańska, nazywa się Jakub Pachocki. Możecie sobie poczytać wywiady z nim, bo udziela ich i po polsku i po angielsku. No i wreszcie 12 września ten swój esej pisze Dario Amodei, czyli CEO Antropica właśnie, czyli tej firmy, która twierdzi przynajmniej, że im to leży na sercu. I tu słowo wyjaśnienia. Jakkolwiek nie jesteśmy w stanie w 100% stwierdzić na ile Amodei jest szczery i Antropik w tych swoich niby wartościach jest szczery, na ile oni naprawdę się przykładają do tego, żeby to było powiedzmy AI z ludzką twarzą, chciałoby się powiedzieć.

Mówiąc inaczej, trzeba rozbijać jajka cały czas, licząc na to, że kiedyś uda nam się osmaszyć wielkiego omleta. Że może coś dobrego z tego wyjdzie, tak? Tak, że coś dobrego z tego wyjdzie. Jest to bardzo podobne do tego, co Leszek Kołakowski nazywał ukąszeniem heglowskim, które trafiło kiedyś komunistów 100 lat temu. Komuniści uważali, że możesz wysłać milion ludzi do łagrów na pewną śmierć, bo ratujesz dziesiątki milionów, jak nie setki milionów, jak nie miliardy w ogóle takt kapitalistycznej niewoli w przyszłości i że tak naprawdę jest to wręcz twoim moralnym obowiązkiem. Dobrze. I Dario Amodei pisze teraz 12 września esej. I wiele osób, według mnie całkiem słusznie, mówi, że no ten cały Jacob Coxon, który tutaj wyskoczył nagle z czymś takim, być może był elementem przygotowania do tego eseju. Czyli, że to nie jest tak, że po prostu pracownik Antropiku nagle zrozumiał, że tam się dzieją złe rzeczy.

Mało kto umie wskazać, może nie mało kto, ale Efekty są znacznie mniejsze niż było obiecywane. Teraz, po części tak się zawsze dzieje z każdą nową technologią. Przypomnijmy grafen, przypomnijmy boom i pękniętą bańkę dwadzieścia kilka lat temu z dotcomami, czyli gdy się generalnie spopularyzował internet. Nagle każdy zakładał stronę internetową, wszystkim się wydawało, że w miesiąc wszystko przejdzie do internetu i po tam roku 95% tych projektów okazało się dętych, pustych i w ogóle bezużytecznych i bańka pękła, były gigantyczne straty na giełdzie i tak dalej. Jest bardzo dużo doniesień mówiących, że jesteśmy w podobnym momencie z AI teraz. Szczególnie, że jak się przyjrzeć na to, kto inwestuje tam w co, to się okazuje, że tam jest pięć firm na krzyż, które inwestują w siebie nawzajem. Czyli tam masz, wiesz, Microsoft, NVIDIA, OpenAI, Googla, właśnie X-a maskowego i np. Antropica i tam jeszcze jakieś dwie, trzy firmy od jakiegoś hardware'u bardziej.

Mamy doniesienia z dużych jak najbardziej koncernów informatycznych, jak na przykład Uber, gdzie w bodajże kwartał utopiono prawie 5 miliardów dolarów w tokeny AI-owe i gdy w końcu stworzono jakiś raport, jakąś ewaluację na temat tego, co one przyniosły, to się okazało, że nic. Ale że dosłownie nic, nie? Po prostu nie da się wskazać nic, co stworzyły. Tutaj w ogóle polecam eseję i blogastka bodajże Coreya Doktorowa. O Coreym Doktorowie pewnie w najbliższych miesiącach jeszcze porozmawiam, a propos jego książki o gównowacenie, czyli n-certification aplikacji. Ale dobrze, idźmy dalej. Jest jeszcze jedno wytłumaczenie, mianowicie o to, że chodzi tak naprawdę o zabetonowanie rynku, w tym Tripolu, czyli właśnie Anthropic Open AI i X, Ilona Muska, no bo że te regulacje to by dotyczyły, znaczy one by były bardzo trudne do wypełnienia przez jakiekolwiek nowe firmy, startupy.

Jeżeli sobie uświadomimy, że wszyscy ci ludzie zaczęli jako startupowcy, że OpenAI tak naprawdę zaczęło się w Google, a potem wyszło z Google, Anthropic zaczął się w OpenAI, z którego później wyszedł, a że Elon Musk, no okej, trajektoria Elona Muska była trochę inna, bo on już był bogaty, miał inne firmy, ale powiedzmy założył startup zajmujący się AI, mimo że pierwotnie zajmował się zupełnie czym innym, no bo samochodami i lataniem w kosmos. No to rzeczywiście wygląda, że to byłoby jak najbardziej w ich interesie, tak? O i prosimy o takie regulacje, jakiś taki złoty standard i tak dalej, żeby nam tutaj nikt czwarty czy piąty przypadkiem na rynek nie wszedł i żebyśmy sobie spokojnie ten torcik dzielili między siebie. To jest bardzo ciekawe, bo to jest dokładnie wbrew temu, co jeden z głównych inwestorów AI, czyli Peter Pili, który został na kinie. Mroczny faszystę stojący za wieloma z tych projektów mówi, że mieć miejsce powinno. No i tutaj dodajmy, że ta ekipa, znaczy że Dario Amodei powołał taką ekipę kilkuosobową, którą nazwano The woke wizards of AI, czyli woke'owymi czarodziejami AI.

To jest taki portal zajmujący się ochroną danych osobowych w Unii Europejskiej, który donosi, co następuje, jakbyś mógł zacytować. W dokumencie, który wyciekł do wiadomości publicznej, irlandzka prezydencja proponuje państwom członkowskim Unii Europejskiej, aby dążenie firm takich jak OpenAI, Antropic, Google, Meta i SpaceX do osiągania zysków miało pierwszeństwo przed podstawowym prawem do ochrony danych. Wykorzystywanie danych osobowych w kontekście sztucznej inteligencji miałoby być automatycznie uznawane za zgodne z prawem. Wydaje się, że istnieje w tej kwestii szerokie i nieformalne porozumienie wielu państw członkowskich. W szczególności giganci technologiczni mogliby wykorzystywać wszelkie dane osobowe zgromadzone na przestrzeni ostatnich dekad praktycznie bez żadnych ograniczeń, o ile odbywałoby się to w kontekście sztucznej inteligencji. Schrems komentuje, zgodnie z tymi propozycjami zyski firm zajmujących się sztuczną inteligencją przeważyłyby nadpodstawowym prawem Europeczyków do prywatności.