AI kontra ludzkość. Wszyscy zginiemy?

Jak to jest, co dzień chodzić do pracy i budować tam potwora, które ma wykończyć ciebie i wszystkich, których kiedykolwiek kochałaś? Co szykuje dla nas rozszalały rój agentów AI? Pandemię wszechczasów, wojnę atomową, a może zbiorową hipnozę? Dzisiaj pogadamy o końcu świata, które nam wywróżyły chłopaki z Antropik. Dlaczego akurat teraz dowiadujemy się o tym, że wszyscy zginiemy? Co tak naprawdę kryje się w tych bajkach o apokalipsie? I jak możemy postawić temę temu, co szykują dla nas laboratoria AI? Zapraszamy. Cześć, dzień dobry. Witamy w kolejnym odcinku podcastu Co to będzie? Ja nazywam się Marta Nowak. A ja nazywam się Miłosz Wiatrowski-Bujacz. Dzisiaj rozmawiamy o najnowszych osiągnięciach realnych oraz narracyjnych firm zajmujących się rozwojem sztucznej inteligencji, rozwojem LLM-ów, czyli dużych modeli językowych.

Osiągnięciach, groźbach, przestrogach, bo tak naprawdę te rzeczy się absolutnie przenikają. Myślę, że to o czym bardziej rozmawiamy, to co sprawiło, że ten temat wrócił tak mocno na pierwsze strony gazet, chociaż oczywiście on się w tych pierwszych stronach gazet cały czas jakoś pojawia, ale teraz właściwie jest jeden Jeden sposób mówienia i patrzenia i zastanawiania się nad tym jest to, czy w ciągu najbliższych paru lat sztuczna inteligencja doprowadzi do zagłady całej ludzkości i czy zginiemy wszyscy. Posłuchajmy sobie, co o tym powiedział taki ziomo dwudziestoparoletni, który odszedł właśnie z Anthropic, z firmy, która zbudowała Claude'a.

Zaczęło się tak, że Coxon chyba dziesięć dni temu, dwa tygodnie, całkiem niedawno, zaczęło się tak jak często się zaczyna przy wszystkich ludziach związanych ze sztuczną inteligencją i przy wszystkich takich zaostrzeżeniach, to znaczy on Ogłosił na Twitterze, na Iksie, że właśnie odszedł z Anthropic. Że odszedł z Anthropic dlatego, że zarówno Anthropic jak i OpenAI zachowują się skrajnie nieodpowiedzialnie i że on ocenia, że prawdopodobieństwo zagłady ludzkości wywołanej przez sztuczną inteligencję w ciągu najbliższych 5 lat wynosi co najmniej 10%. Tak i potem oczywiście dołączyli inni. Ktoś tam wiesz, jakiś ziomo powiedział, że no nawet może i więcej. Nie wiem czy Polimarket wszedł za mocno z tym szacowaniem prawdopodobieństwa, czy coś się wydarzyło, ale generalnie zaczęło się dużo takich głosów, ale to nie jest jedyny powód, dla którego rozmawiamy teraz o tych zagrożeniach związanych z super inteligentną AI.

Właśnie, bo Coxon pracował w Anthropic. Powiedziałeś, że to jest człowiek, który odczytywał Anthropic i oczywiście on tam pracował bodajże sześć tygodni. Więc co się wydarzyło? Jego argument jest taki, że wcześniej pracował w OpenAI przez dwa lata, no i przeszedł do Anthropic, które ma reputację, które się kreuje otwarcie marketingowo jako to odpowiedzialne laboratorium, jako to odpowiedzialna firma, która Robi wszystko, żeby doprowadzić do tego, żeby sztuczna inteligencja nam pomagała, a nie żeby doprowadzić do naszej zagłady. No i on tam poszedł, posiedział tam 6 tygodni, stwierdził, jeśli tak wygląda odpowiedzialna firma zajmująca się tym, żeby zadbać o interes ludzkości, no to ja już wiem wszystko. No ale przez te 6 tygodni też wydarzyły się rzeczy w świecie realnym, czy w świecie rozwoju sztucznej inteligencji.

No i na potwierdzenie tego, że on nie jest jedyny, odezwał się na to Ivan Habinger, który jest właśnie w Antropic. Osobom odpowiedzialnym za to, żeby sztuczna inteligencja była zgodna z celami ludzkości. Możemy o tym porozmawiać, powiedzmy, co to znaczy ta zgodność. Zgodność sztucznej inteligencji. Zgodność z czym, z kim, do tego przejdziemy, ale generalnie, że on jest ekspertem od tego, czy panujemy nad tą sztuczną inteligencją i czy mamy szansę panować. No i co on powiedział, Marta? No i on powiedział, że tak, Jacob Coxon ma rację, naprawdę my tutaj jako osoby tworzące to AI uważamy, że ono może zabić wszystkich ludzi.

Ja osobiście uważam, że to jest prawdopodobieństwo ponad 10% w ciągu najbliższej dekady i że Antropik, no robimy co możemy, prawda? Ale jeszcze nie mamy planu konkretnego na to, żeby to rozwiązać i żeby sprawić, że do tej zagłady ludzkości nie dojdzie. I on o tym w ogóle, w sensie ton tego tweeta, oczywiście możemy sobie doczytać takim głosem, jakim chcemy, ale jednak interpunkcja ma znaczenie. On użył wykrzyknika. Tak naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi. Wykrzyknik. Naprawdę w to wierzymy. Nie żartujemy. Ale dalej nad nim pracujemy i przejdziemy później do tego dlaczego. Jak właśnie sam Hubbinger tłumaczy dlaczego on osobiście nad tym pracuje.

I że jesteśmy w tej chwili na tym kursie, który spowoduje, że do końca przyszłego roku będzie, powstanie ta super inteligencja i nie będziemy w stanie, ona nie będzie zgodna, bo tak jak mówią właśnie osoby, które się zajmują tą zgodnością w Anthropic czy w OpenAI, nie jesteśmy blisko zależnie od tych sposobów, jak ją uzgodnić z nami, że to tempo rozwoju jest szybsze niż nasza zdolność jakoś tak założenia tych lejców. No i ona tak szybko idzie, że jeśli nic nie zrobimy, to w przyszłym roku, pod koniec przyszłego roku, papa. Więc właściwie nie wiem, my wiesz, mamy duże plany, jeśli chodzi o... Spansję naszego podcastu. Spansję naszego podcastu, o to, że przyszły rok, to wybory w Polsce. Dzieci narobiłeś. Dzieci narobiłem, ale wiesz, o tych wyborach w Polsce chcemy gadać. Może jednak nie trzeba będzie. Może będzie nami rządził jakiś imperator, po prostu super inteligentny, komputerowy.

I co? Myślisz, że w przyszłym roku to AI będzie mogło stworzyć wirusa, który nas wszystkich zabije? Albo zhakować kluczową infrastrukturę? Trzeźwo o tym dyskutują. Trust me bro, trzeźwo o tym dyskutują. Tak, tak, tak. To jest bardzo dobre pytanie w ogóle tego dziennikarza z NBC. Co się stało? Co on takiego zobaczył? Jakiego bazyliszka tam ujrzał w korytarzach Antropik, że uciekł spłoszony po sześciu tygodniach? I odpowiedź polega na tym, no my z kolegami rozmawiamy i koledzy, którzy są bardziej doświadczeni ode mnie też się boją o tym zjawisku tego, jak Inżynierowie, programiści, też bardzo specyficzna, umówmy się, grupa ludzi demograficznie, te właśnie kodoklepy z Doliny Krzemowej, siedzą i wzajemnie się straszą.

A w momencie, w sensie nie ma żadnej różnicy, czy ktoś powie 10%, czy 50%, czy 70%. Wiesz, jeśli to się wydarzy, jeśli za 5 lat AI doprowadzi do zagłady ludzkości, to czy Coxon albo po prostu szef zgodności AI w Anthropic mówiący, że to jest 10%, to oni mieli rację, czy nie? 10% to się wydaje trochę mało, nie? No ale z drugiej strony to nie zero. Przepraszam, jakby jak media mówiły w 2016 roku, że szanse Donalda Trumpa na wygranie wyborów prezydenckich wynoszą 10% i on potem je wygrał, to cała narracja była o tym, że jacy są z was idioci, bo on wygrał, a wy mówiliście, że 10%. Ocenialiśmy to po prostu jako, mówili, że 90%, że nie wygra, więc to bzdura.

Co on odpowiada, kiedy wprost dokładnie to samo pytanie, jak tego wirusa wynieść z laboratorium, zadaje mu dziennikarz. Jest sporo demo w internecie. Można podłączyć sobie czat GPT do żarówek, siedzieć w domu, rozmawiać z czatem GPT, połączyć go przez jakiś interfejs ze swoim domem i dać mu tym domem sterować. Mówisz, wyłącz światła. Czat wyłącza światła. Mówisz, przyciemnij. I przyciemnia. Interfejsy robotyczne, roboty laboratoryjne. AI potrafi też wysyłać e-maile. Jeden z modeli, Anthropic, próbował udawać kogoś, kim nie był, żeby zatwierdzić kod, zmianę kodu. Jest wiele sposobów na to, żeby modele AI działały w fizycznym świecie. Ludzie wszędzie je podłączają. Wcale nie trudno, żeby coś, co niby jest tylko w komputerze, wpłynęło na realny świat.

No, track record, tak? One możemy im, jakby państwa mogłyby zniszczyć świat, nawet te najgorsze mocarstwa, te najgorsze, najstraszniejsze, nie zrobiły tego. Ale nie niszczą, bo chcą mieć świat. I te Chiny, one są bardzo ciekawe i też pojawiły nam się niedawno w kontekście odpowiedzi na tę panikę, odpowiedzi na te apele o regulacje, które wystosowywali nie tylko szeregowi pracownicy, ale także szefowie, prezesi AI. Bo mieliśmy i w lipcu bardzo znany już list, pismo takie Pacing the Frontier, wielkie pismo, które i właśnie Sam Altman i Dario Amodei, czyli szefowie OpenAI i Anthropic podpisali i też Elon Musk i koleś od Deep Mind'a.

Czego na przykład nie obejmuje w tej chwili prawo ochrony konkurencji, że można by to zostać wywołane za jakieś tworzenie karteli czy koluzji, ale to w ogóle nie o to chodzi. Czyli poczekaj Miłosz, czyli żeby lepiej chronić ludzkość przed bogiem AI, trzeba znieść prawo o zakazie konkurencji? Znaczy prawo ochrony konkurencji. Tak, przepraszam. Nie, trzeba znieść prawo, które mogłoby na przykład źle patrzeć na to, żeby OpenAI i Anthropic dogadywały się do wszystkiego typu np. kiedy będzie premiera nowych modeli i jak one będą działać. I to, żeby zapewnić bezpieczeństwo ludzkości, tak? Absolutnie. To po to jest. To po to jest, całkowicie to po to jest.

I wiesz, to NVIDIA by się do końca pewnie nie podobało, gdyby się te dwie firmy dogadywały i mówiły Teraz to może jednak mniejsze moce obliczeniowe, wiesz, może nie potrzebujemy tylu tych centrów danych. No i czemu akurat teraz, wiesz, czemu teraz jest nagle wielka ofensywa tych... już Altman się może trochę wycofuje, gra na dwa fronty, ale Amodei nie. Czemu jest wielka ofensywa pod tytułem regulujcie nas, regulujcie nas, chcemy tato przyjść i wiesz, wyłącz mi komputer. Spank mi daddy. Tak, albo wprowadź mi po prostu taki na telefon program, który mi wyłączy go po 22, bo inaczej ja nie pójdę spać, tylko będę pisał na Signalu z dziewczynami. No o jednej rzeczy już wspomniałeś, czyli właśnie o tej konkurencji, o tych monopolach czy duopolach, bo to jest właśnie w zakresie tych proponowanych regulacji, żeby prawo o ochronie konkurencji było takie mniej restrykcyjne, bo OpenAI i Anthropic nie są jedynymi firmami na rynku, czy nie są jednymi podmiotami tworzącymi modele.

Trochę promesne, bo po prostu, wiesz, robią fundraising, tak? I jakby, no więc stworzą akcje, tylko nie giełdowe, tylko tak jak prywatna firma po prostu. Są już nie jak scenariusze, przecież prywatne im też. No i w oparciu o to możemy zbudować wycenę tej firmy rynkową. No i one są bardzo labilne. To znaczy, tak samo zresztą jak użytkowanie ich przez konsumentów. Jest lepszy moment Antropica i Antropic się wybija bardzo w górę, OpenAI spada i potem odrzucenie. To nie jest zbyt dobre dla tych firm. Dużo pewniej by się czuły, gdyby mogły się po prostu dogadać i mieć po te 50% udziału w rynku, czy 40% i się nie przejmować, czy zaraz będzie spadek, czy wzrost, jaka będzie ta trajektoria. To raz. Dwa, że faktycznie jako molochy mogą wydawać więcej pieniędzy na dostosowanie się do regulacji, zwłaszcza jeśli je ukształtują w taki sposób, który nie będzie im przeszkadzał.

Trzeci to, że tworząc tą atmosferę strachu, Kiedy mówimy o zbuntowanych agentach, o zbuntowanych modelach, no to Anthropic i OpenAI, które są właśnie tymi modelami zamkniętymi, mogą powiedzieć, my kontrolujemy nasze serwery, my kontrolujemy całą infrastrukturę, całe zaplecze. I oczywiście teraz mieliśmy incydenty i nie dopilnowaliśmy, dlatego właśnie potrzebujemy większych regulacji, ale my nie jesteśmy aż takim dużym zagrożeniem. Zagrożeniem są te modele open weight, czyli właśnie z otwartymi nie wagami, ale właśnie tymi parametrami, otwartych parametrach. No bo taki model każdy może mieć na swoim komputerze, każda firma może go sobie kupić.

Takie właśnie na tym hype się opierające, więc no jesteśmy trochę, kurczę, nie wiemy co robić. A jednocześnie chcemy, i to jest w wypadku Anthropic i OpenAI, chcemy zaraz wejść na giełdę. I to już zaraz, zaraz, znaczy OpenAI ogłosiło, że Altman powiedział, że my to jednak przesuwamy, może nie jest dobry moment, dużo się dzieje w branży, poczekamy, ale jakby one miały już, były bardzo, bardzo blisko wejścia na giełdę, co wymaga też właśnie Raportowania. Mówiliśmy o tym przy SpaceX. Te prospekty giełdowe są bardzo, bardzo szczegółowe. Obie te firmy przynoszą ogromne straty. Anthropic ogłosił właśnie inwestorom, że drugi kwartał z rzędu przynosi zyski, tylko że sposób ich księgowania zysków jest taki, że nie wliczają w to części kosztów.

Więc ogłosili, że jesteśmy na plus, jeśli nie wliczymy pewnej części kosztów, których nie wliczamy. Uzasadniają to oczywiście, Śmiech jest niesamowity, tak? No to jest tak, wiesz, jestem ze swoją pensją na plus, jak nie policzę kosztów wynajmu mieszkania, nie? Dokładnie, więc widziałem świetny wpis na Twitterze, że hej, jesteśmy tak potężni, że możemy stworzyć wszystko, to my, OpenAI i Antropic, możemy stworzyć wszystko poza własną zyskownością. Ale to poza tym, to jakby możemy zniszczyć świat, tylko jedyne, czego nie jesteśmy w stanie zrobić, to osiągnąć zyskowności, bo nawet teraz, kiedy kupuje się tokeny, to wciąż są pakiety, za najprostsze, które jednak, Przeżerasz więcej niż te tokeny kosztują, w sensie one są bardziej urealnione, ale wciąż, wciąż Anthropic dopłaca do biznesu, więc jest wiele powodów, dla których te firmy mają w tej chwili bardzo, bardzo mocne powody, żeby wywołać tolarum, powiedzieć coś trzeba zrobić, coś trzeba zrobić i niekoniecznie wynika to faktycznie z ich, z tego poziomu zagrożenia, nawet jeśli ideologicznie być może w nie wierzą, ale ten moment nie jest przypadkowy, ten moment jest bardzo

W czarną skrzynkę decyzji o tym, kiedy strzelać i kogo zabić. Choć oczywiście, mimo że te dyskusje w ONZ trwają, to można sobie zadawać wiele pytań na temat tego, na ile ONZ ma jakąkolwiek moc sprawczą w dzisiejszym świecie, bo już i Stany Zjednoczone, i Rosja, i Izrael powiedziały, że obra, obra, wy se regulujcie, mamy swoje zastrzeżenia i my byśmy woleli to krajowo regulować, więc nara. Tak, wiemy przecież, że w atakach na Iran cele były wyznaczane przez Claude'a, przez Antropik i ich priorytety tego właśnie, które cele atakować w pierwszej kolejności i tak dalej, to było też jasno powiedziane, że po prostu Pentagon korzystał Z Antropika swoją drogą w tym samym momencie, w którym jednocześnie zrywali kontrakt z Antropikiem i Antropik mówił to dlatego, że nie chcemy tutaj, żeby nasze oprogramowania były używane, czy nasze modele w sposób, który może być zły dla ludzkości.