Agent też człowiek. OpenAI, Anthropic i sekta AI

Świat uratowany. Było wielkie spotkanie u Trumpa. Szefowie firm od AI ustalili, że dadzą radę, że apokalipsy nie będzie. Wracamy dzisiaj do tematu sztucznej inteligencji, bo on w świetle ostatnich wydarzeń zasługuje na to, żeby zanurkować głębiej. Dziś opowiemy sobie o AI religii, którą wyznają chłopcy i pięć dziewczyn z Doliny Krzemowej. Pogadamy o tym, co myślą o świadomości, moralności, ludzkich emocjach oraz Harrym Potterze. Zapraszamy. Cześć, dzień dobry, witamy w podcaście Co to będzie? Ja nazywam się Marta Nowak. Ja nazywam się Miłosz Wetrowski-Bujacz. I dzisiaj gadamy znowu o AI, bo po pierwsze wydarzyły się pewne

Panie prezydencie, proszę powiedzieć dlaczego nie powinniśmy bać się AI? I dlaczego nie potrzebujemy nowych ograniczeń? Bo mamy tutaj ludzi, którzy bardzo kochają nasze państwo, bardzo kochają świat. Potrzebne jest nam chyba coś więcej. To chyba mózgu, a to są najinteligentniejsi ludzie na świecie i mieliśmy świetne spotkanie. Wspanialy jest ten materiał. Oczywiście, to też mówiliśmy ostatnio w kontekście tego, że odbyło się ONZ, odbyło się Zgromadzenie Ogólne ONZ i tam Trump też bardzo osławił sztuczną inteligencję, ochrzcił ją na nowo super inteligencją. Teraz tak powinniśmy mówić. Nie wiem właściwie Miłosz, dlaczego my do tej pory w tym odcinku dzisiejszym mówimy inaczej. No więc skoro prezydent Stanów Zjednoczonych jest bardzo optymistyczny, jeżeli chodzi o przyszłość AI i jeżeli chodzi o to, że nie trzeba państwowych regulacji, nie trzeba sobie samemu tego kagańca zakładać, no to prezesi tych firm

Nie chcąc wypaść z łask, bo jak wiemy dla big techów kluczowe jest to, żeby Donald Trump pozostawał ich sojusznikiem, no dostosowują się do tej narracji. Nawet ci, którzy tak bardzo, bardzo straszyli tym, że AI jest ogromnie potężne i trzeba je jakoś ograniczać. Ale na pewno nie Dario Amodei. Na pewno nie Dario Amodei. Przecież on tutaj wielokrotnie, on akurat wielokrotnie miał odwagę, wiesz, z Trumpem iść... Na udry. Na udry, iść w klincz starcie. Pamiętamy jak na początku roku Trump po prostu, czy no tak, na przełomie lutego i marca Trump straszył, że Anthropic zostanie pozbawiony wszystkich kontraktów rządowych, I co więcej, wszystkie firmy, które będą miały jakiekolwiek kontrakty z Anthropiciem, będą po prostu stracą dostęp do kontraktów rządowych, bo Anthropic nie chciał się zgodzić, żeby jego modele były używane przez rząd stąd zjednoczonych w każdy sposób, w jaki ten rząd stąd zjednoczonych chciałby to robić, niezależnie od tego, czy jest to sfera militarna, czy po prostu atakowanie przeciwników politycznych wewnętrznych.

A więc Amodei wiemy, że jest po prostu tym człowiekiem, człowiekiem niezłomnym, który Trumpa się nie boi. Posłuchajmy, co on powiedział po tym spotkaniu. Powiem to, co zawsze mówię. AI przynosi ogromne korzyści. Mówiłem o wynikających z tej technologii korzyściach w branży medycznej. Tak jak powiedział prezydent, kto wygra wyścig AI, ten wygra. To ważne. Ale myślę też, że ta technologia niesie za sobą bardzo realne ryzyka. Wciąż trwa dyskusja nad tym, jak będziemy do nich podchodzić. Musimy nad tym wspólnie pracować, żeby mieć pewność, że wygramy w bezpieczny sposób. Jeśli zrobimy to dobrze, współpracując z prezydentem i wszystkimi tutaj, wygramy i będziemy bezpieczni. Robimy tak, żeby było dobrze. Zrobimy tak, żeby było dobrze.

Pogadaliśmy u Trumpa, jednak okazuje się, że nie muszą być te regulacje. Trump powiedział po tym spotkaniu, że te firmy po prostu wykonują potężną pracę, jeśli chodzi o samą regulację. Tak, tam też pojawiały się takie opinie na przykład CEO takiej firmy Exiger, która zajmuje się AI w łańcuchach dostaw, Brandon Daniels, który też był na tym spotkaniu, opisywał potem w rozmowie z Reutersem to, co tam się działo jako Kon-genialne spotkanie. Powiedział, że wspaniałe to było, że ci ludzie tak podeszli do tego nie z jakiejś samolubnej, egolistycznej perspektywy, te wszystkie prezesy NVIDIA, OpenAI, Anthropica i tak dalej, które tam siedziały, Tylko, że naprawdę są oddani temu, żeby stworzyć jakąś listę standardów, żeby wymieniali się numerami telefonów.

Więc ona z założenia metr miał być właśnie takim stróżem, Który właśnie sprawdza, jak blisko już jesteśmy tej sytuacji, która będzie wymagała, która będzie absolutnie rewolucją dla świata. I w związku z tym, jak bardzo musimy przyspieszyć pracę nad bezpieczeństwem AI. Ale w efekcie stała się po prostu takim indeksem, po prostu wiesz, testowym, maturą. Po prostu nie wiem, testem na inteligencję tych modeli. Tak, no pamiętam też jak po tym incydencie Hugging Face, kiedy agenty OpenAI tam porozumiały się z innymi agentami i był wielki włam do tego Hugging Face. Też Metr zadało takie pytania OpenAI, które w ogóle, wiesz, no nie dotyczyły odpowiedzialności osobowej tych ludzi, którzy te agenty po prostu

No tak, no bo Dla tych, którzy nie pamiętają, to w Stanach jednak prawo oparte jest na precedensach. To znaczy, to nie jest tak jak u nas, że sędzia interpretuje ustawę, tylko ok, interpretuje ustawę, ale też opiera się na poprzednich wyrokach sądu w bardzo, bardzo wysokim stopniu. Dokładnie. No ale mimo tych wszystkich zapewnień, które teraz się pojawiły, no wciąż właśnie dostajemy nowe informacje o skali tych ataków, o tym, że właściwie to nie są właśnie tylko australijskiego rządu, ale też właśnie amerykańskich instytucji publicznych, że właściwie to od paru miesięcy agenci AI, agenci dużych modeli językowych, te duże modele językowe po prostu

Latają jak oszalałe po internecie i próbują złamać wszystkie zabezpieczenia, które spotkają na swojej drodze i wiele im się udaje. Tutaj należy sobie zadać pytanie, w kontekście tego, że teraz są te wielkie deklaracje, że będziemy to robić lepiej, no to co szło póki co nie tak, skoro, tak jak mówimy, te firmy mają teoretycznie, zajmują się tym. To nie jest tak, że nigdy wcześniej nie myślały o AI safety, o bezpieczeństwie AI. A jednak do tych ataków dochodzi i te modele im się wymykają. Ci agenci tam po prostu uciekają. Więc co źle robią w tym momencie te działy bezpieczeństwa, te działy monitorowania zabezpieczeń i tak dalej? Co można by zmienić? To jest to pytanie.

Mówiliśmy o tym w naszym ostatnim odcinku AI, że dużo łatwiej jest przeprowadzić taką ogromną liczbę ataków hakerskich przy pomocy agentów czy przy pomocy oprogramowania AI i liczyć na to, że któryś pokona istniejące bariery niż się broni. Zawsze tak jest w cyberbezpieczeństwie, że ten atak jest O wiele łatwiejszy niż obrona. Ale Joe radzi firmom, żeby się broniły i to jest taka opowieść naprawdę. Hej, wypuszczamy tutaj psy z przywiązaną siekierą na plecach na podwórko i one będą latać po tym podwórku, bo nie mogą siedzieć zamknięte, no bo wtedy nie przekonamy się jak one działają. I to jest wasza odpowiedzialność, żeby chronić siebie oraz dzieci przed psami latającymi z przywiązaną na plecach siekierą. Być może rozwiązaniem byłoby złapać gościa, który przywiązuje siekiery do pleców psów i pozbawić go tej możliwości, ale no ewidentnie nie, ewidentnie jest to odpowiedzialność nasza, naszej firmy, australijskiego Ministerstwa Zdrowia, które zostało schakowane przez agenty AI, żeby lepiej się zabezpieczać, a nie jest odpowiedzialnością tych firm ani regulatorów państwowych, żeby im tego zakazać.

Jakie jeszcze emocje przeżyłeś, Milosz? To jest komiczne, ale też... Bo ten esej brzmiał bardzo szczerze. Bo tutaj możemy wyśmiać ten fragment, ale tam było... To nie brzmiało dla mnie jak coś, co napisał team PR-owy OpenAI. Tak i to jest, wydaje mi się, jakaś ważna sprawa, której chcemy dotknąć w ogóle w tym odcinku i do której będziemy przechodzić, czyli to, że to nie zawsze, a być może nawet często nie, nie jest cynizm obliczony na to, żeby ciągnąć pieniądze. Czasami jest i pewnie na górze jest to częściej niż na dole, ale często To podejście do bezpieczeństwa i podejście do rozwoju AI wynika z jakichś uwewnętrznionych, rzeczywistych przekonań.

Bo właśnie, bo tym modelom się daje za długą smycz, albo właśnie smycz, która jest zrobiona z gumki recepturki. I odpowiedź brzmiała, przemy naprzód, pełna para, bo musimy wypuszczać nowe modele, one muszą być coraz lepsze, tego wymaga od nas rynek, nie możemy sobie pozwolić na to, żeby teraz zwolnić, bo po prostu w tym wyścigu zostaniemy z tyłu. Tak, bo w tym momencie, w tym stanie AI, w którym jesteśmy, mamy takie, mam wrażenie, trzy główne powody, dla których jest totalnym aksjomatem, jest totalnie rzeczą niepodważalną to, że modele muszą iść do przodu, że sztuczna inteligencja musi iść do przodu, że to nie może być technologia, którą stopujemy.

Pierwsza rzecz, o tym mówiliśmy, to jest oczywiście ta kwestia polityczna, przychylności politycznej i Trumpa. I tego wyścigu jakiegoś geopolitycznego rozrzesowanego z Chinami. Sfery polityczne rządzące po prostu nie chcą, żeby to się zatrzymało. I w związku z tym też nie pragną tego regulować, nie pragną nikogo do tego zmusić. Druga rzecz to jest sfera finansowa, sfera zysków, sfera akcji. Trzecia rzecz to będzie nasze crème de la crème, nasz deser. To będą osobiste wierzenia i przekonania tutaj osób od AI. Ale na początku jeszcze krótko powiedzmy sobie o tej sferze finansowej, bo no nie wiem, weźmy ten przykład Anthropica. Anthropic właśnie przeprowadzi, jak wynika z tego co słyszymy, takich przesłuchów, w listopadzie pierwszą ofertę publiczną, pierwsze IPO swoje złoży, w ramach którego jego wycena ma wynieść ponad 2 biliony dolarów.

W nadchodzących latach planuje wydać ponad 500 miliardów dolarów na infrastrukturę, Moc obliczeniową na chmurę i tak dalej, więc te wydatki będą astronomiczne i wycena Anthropica jest ściśle uzależniona od tego, jak bardzo AI zrewolucjonizuje cały świat, w którym żyjemy. Tak, albo jak inwestorzy będą w to wierzyć, umówmy się, bo te dwie rzeczy są zupełnie od ciebie odklejone. No tak, oczywiście, ale chodzi o to, że to jest ta wizja, o której mamy myśleć, że to się sprawdzi i w takim razie... Tak i właśnie w momencie, w którym te firmy nie są w stanie zarabiać i jakby Altman kiedyś w ogóle powiedział coś takiego, że jakby był spytany o to, jak on zamierza sprawić, żeby OpenAI wyszło po prostu na drogę rentowności, zyskowności, to powiedział, no jakby chcemy stworzyć tak silny model, tak zażartował sobie, ale jakby tam nie ma innego planu, stworzymy tak silny model, że on nam powie.

W momencie, w którym analitycy zajmujący się tymi klientami biznesowymi mówią, tam nie będzie przychodów, no to jakby kto ma kupować te usługi? W sensie to obie te rzeczy nie mogą być słuszne naraz, a biorąc pod uwagę skalę tych potrzeb finansowych OpenAI i Anthropica, Moim zdaniem bardzo słusznym założeniem jest jednak to, że ci analitycy, którzy się zajmują resztą gospodarki, pozostałymi, z którymi mają rację, że po prostu nikt nie będzie, nikogo nie będzie stać na to, żeby zapłacić OpenAI i Anthropicowi takich pieniędzy, które zwróciłyby im koszty. Tak, no o tym mówiliśmy już w naszym pierwszym odcinku o AI tak naprawdę rok temu. Dlaczego to jest bańka, dlaczego to pęknie, dlaczego tego nie ma i jak sensownie zmonetyzować tak, żeby te firmy stały się takimi stabilnymi firmami zyskującymi pieniądze z tego, że dostarczają wartościowe usługi.

Tejże AI-owej, doomerskiej religii, to znalazł Miłosz to wideo. Jest taki projekt Palisade Research, który porozmawiał właśnie z pracownikami sektora AI i posłuchał ich myśli, obaw, lęków. Posłuchajmy, tak żyjmy. Mamy bardzo małe szanse na to, że te obce umysły są z nami zgodne. Systemy sztucznej inteligencji są raczej hodowane niż budowane, co oznacza, że nawet ich twórcy nie do końca rozumieją, jak działają od wewnątrz. Wciąż zwiększamy możliwości systemów AI, nie rozumiejąc ich. Jeśli moc tych rzeczy będzie się wciąż zwiększać, to ludzie staną się przeszkodą. Znajdą sposób, by nas usunąć.

Istnieje bardzo poważne ryzyko, że to doprowadzi do wyginięcia ludzkości. Oszacowałbym prawdopodobieństwo wyginięcia ludzkości na co najmniej 10%. To przerażająco dużo. Próbuję sobie wyobrazić, w jakim świecie będą żyły moje dzieci. I chyba przede wszystkim, czy świat w ogóle będzie jeszcze istniał. I wiesz, tam z tych osób, które wysłuchaliśmy, Słuchaliśmy chyba sześciu osób, tak? To trzy odeszły z Anthropica, OpenAI albo DeepMindu i teraz po prostu zajmują się bezpieczeństwem AI, w tym na przykład właśnie pracując dla tego non-profitu, dla tego NGO-sa Palisade Research. Ale trzy z tych osób pracują w tej chwili. I ja mogę wam powiedzieć, które, nie będziecie zgadywać. Pierwsza osoba to była ta, która powiedziała, że mamy małe szanse na to, że te obce umysły są z nami zgodne.

To jest osoba, która pracuje w DeepMindzie. Druga osoba to była ta, która powiedziała, że szacuje prawdopodobieństwo wyginięcia na co najmniej 10% i to jest po prostu przerażająco dużo, a trzecia to jest ta, która mówiła o tym, że sobie próbuje wyobrazić, czy jej dzieci będą żyły w świecie, czy ten świat przetrwa. I wiecie, jak się tego słucha, to ja mam trochę tak, że przy takim poziomie lęków, I znowu, w ostatnim odcinku, tym o AI dwa tygodnie temu, mówiliśmy dużo o tym Jakobie Koksonie. I moim zdaniem przekazaliśmy to, że jego poglądy są poglądami, które są szeroko rozpowszechnione w sektorze. Ale część osób w komentarzach, i tutaj po prostu czytamy komentarze, słyszymy was, słyszymy was i się odnosimy.

Okej, ale ignorujecie to, że ci ludzie tak naprawdę myślą, że ludzie w sektorze są przerażeni i że to nie jest tylko 26-letni Jacko po prostu Coxon, tylko że wszyscy tak uważają i że to jest szczere. I ja w tym odcinku i w ogóle w moim myśleniu przyjmuję w dużej mierze to, że zwłaszcza na poziomie tych inżynierów, tych osób, które nie są CEOs, to jest szczere. Ale moja pierwsza myśl jest taka, że przy takich lękach Gdzie jakby koniec świata, tak? I widzimy to od środka. To nie wychodzisz i nie opuszczasz tych firm i nie przechodzisz do firm, które się zajmują AI safety i nie wypuszczasz po prostu, wiesz, memorandum i nie robisz wywiadów. Tylko jakby akcja bezpośrednia, tak?

W sensie to, jeśli coś by uzasadniał w Stanach Zjednoczonych, po co ma się broń? Jakby well-organized militias, żeby po prostu cię bronić. W sensie, przepraszam, ale to jakby, to jest poziom Ted Kaczyński. W sensie, że ci ludzie powinni dokonywać ataków w terytorium. Ja tego nie namawiam, absolutnie. Ale wiesz, wyobrażam sobie, że jeśli myślisz sobie, że stawka jest taka, że... Twoje dzieci zginą, nie będzie świata, w którym one mogą żyć. To jakby piszesz tweety. No i występujesz w projekcie researchowym. Słuchajcie, ale... To nie jest tak, że ci ludzie myślą, że można to zatrzymać. To wydaje mi się w tym bardzo mocne. Właśnie, przepraszam, że muszę ci powiedzieć to słowo, bo też oni pracują w tych instytutach, które się nazywają AI Safety, które się zajmują całkowicie tym alignment.

To jest ładne tłumaczenie tego, prawda? Dostrajanie. Dostrajanie. Oni w ogóle nie pracują nad rozwiązaniami takimi jak, jak to wyłączyć? Jak to, wiesz, bezpieczeństwo w takim sensie po prostu, okej, skasujmy to. Oni cały czas są w tym, że... Musimy się jakoś dogadać z tym AI. I właśnie, dlaczego? No właśnie. Porozmawiamy sobie o tym. Jest taka filozofia. Ludzie w Dolinie Krzemowej, czy ludzie zajmujący się właśnie tym AI, to jest grupa specyficzna. Pierwsza rzecz jest taka, że oczywiście ci prezesi, te grube ryby dzisiejsze, oni są ze sobą mocno powiązani tym, co ich łączyło w przeszłości, gdzie zaczynali.

Czyli zamiast zaszczepić tysiąc dzieci teraz, to może te pieniądze, które powinny być przeznaczone na tę szczepionkę, lepiej zainwestować, nie wiem, w tworzenie AI, bo w przyszłości za tysiąc albo tysiąc pięćset lat te same pieniądze przeznaczone teraz na tworzenie AI zaowocują tym, że będzie można zaszczepić milion dzieci albo że w dobrostanie i szczęściu będzie żyło milion agentów AI, które mają świadomość. To jest jakby ten rodzaj kompletnej abstrakcji i oderwania od realu, w którym żyjemy tu i teraz. No i w ramach tego efektywnego altruizmu, tej filozofii, też bardzo właśnie promowane i pożądane jest pracowanie w sektorze sztucznej inteligencji, jest zajmowanie się właśnie i bezpieczeństwem AI i tworzeniem jakichś regulacji AI, ponieważ ci ludzie wierzą, że

Sam Altman na przykład mówił dosłownie, Obojętnie, czy my spalamy 500 milionów dolarów rocznie, czy 5 miliardów rocznie, czy 50 miliardów rocznie, mnie to nie obchodzi, dopóki znajdziemy sposób na to, żeby opłacić rachunki, to naszym celem jest to, żeby dojść do ogólnej sztucznej inteligencji. I wiesz, kiedy ty myślisz w ten sposób, że to jest nieuniknione, że to jest nieuchronne, no to co masz zrobić? Ty możesz się rzucać na barykadę, ale do tego dojdzie. I to, co jest też fascynujące w tym wszystkim, to że i Altman, i Amodei, Musk deklaratywnie, ale tutaj mniej w to wierzę, oni zaczynali od, jakby idea była taka, że oni się chcą zajmować bezpieczeństwem AI.

Rozumowanie Cloda opiera się na ludzkich konceptach i w związku z tym zachęcanie Cloda do tego, aby przyjął pewne ludzkie cechy jest pożądane. Piszą tam, że modele AI będą nowym rodzajem siły, mocy w świecie i że możemy sprawić, aby one Ucieleśniały to, co jest najlepsze w ludzkości. Wyrażają wątpliwości co do statusu moralnego Claude'a albo co do tego, czy Claude ma świadomość, czy nie ma świadomości, jaka jest jego tak naprawdę natura, tożsamość, miejsce w świecie. Piszą, że to przekracza nasze dzisiejsze rozumienie naukowe czy filozoficzne. Zastanawiają się, czy Claude jest osobą

Jakby skasuje te zdjęcia, żeby nie odczuwać bólu. No ale jakby to ty mu mówisz, że on czuje ból i jakby i dajesz mu jasną alternatywę, może nie czuć bólu. No to oczywiście, że model językowy mi się zrobił. Ból zły. Jakby wszystko, co przeczytałem w internecie, wszystko, czego się nauczyłem, to ból zły, więc jakby tak jak ty mi mówisz, że ja go czuję, to go usuwam, ale to jest całkowicie językowe. W sensie to nic nie mówi nam o tym, że tam jest jakaś dusza w środku, tak? Że tam jest po prostu, że w tej maszynie jest życie. Tak i wiesz co, to co jeszcze wydaje mi się bardzo interesujące, to jest to jak ci badacze z tych labów, ci inżynierowie, ci AI-owcy mówią o emocjach czy uczuciach Claude'a czy innych modeli, ale też jak oni postrzegają w ogóle ludzkie emocje.

Jakby cała Wiedza ludzka zgromadzona do tej pory była taka, że okej, no coś tam jest, tak w zasadzie to nie wiadomo jak to wygląda, ale w sumie my to chyba tak na czuje obczailiśmy. Ja bym tutaj przywołała kawałek z takiego ważnego w świecie AI badacza, wynalazcy generalnie ważnego zioma, Ilja Satzkewer, Który opowiada właśnie o emocjach w kontekście AI w podcaście. On opowiedział tam historię, bardzo zdziwiony, taki w szoku, że dowiedział się, że jest taki człowiek, który miał udar, wylew czy cokolwiek takiego.