AI kontra ludzkość. Wszyscy zginiemy?

Osiągnięciach, groźbach, przestrogach, bo tak naprawdę te rzeczy się absolutnie przenikają. Myślę, że to o czym bardziej rozmawiamy, to co sprawiło, że ten temat wrócił tak mocno na pierwsze strony gazet, chociaż oczywiście on się w tych pierwszych stronach gazet cały czas jakoś pojawia, ale teraz właściwie jest jeden Jeden sposób mówienia i patrzenia i zastanawiania się nad tym jest to, czy w ciągu najbliższych paru lat sztuczna inteligencja doprowadzi do zagłady całej ludzkości i czy zginiemy wszyscy. Posłuchajmy sobie, co o tym powiedział taki ziomo dwudziestoparoletni, który odszedł właśnie z Anthropic, z firmy, która zbudowała Claude'a.

Zaczęło się tak, że Coxon chyba dziesięć dni temu, dwa tygodnie, całkiem niedawno, zaczęło się tak jak często się zaczyna przy wszystkich ludziach związanych ze sztuczną inteligencją i przy wszystkich takich zaostrzeżeniach, to znaczy on Ogłosił na Twitterze, na Iksie, że właśnie odszedł z Anthropic. Że odszedł z Anthropic dlatego, że zarówno Anthropic jak i OpenAI zachowują się skrajnie nieodpowiedzialnie i że on ocenia, że prawdopodobieństwo zagłady ludzkości wywołanej przez sztuczną inteligencję w ciągu najbliższych 5 lat wynosi co najmniej 10%. Tak i potem oczywiście dołączyli inni. Ktoś tam wiesz, jakiś ziomo powiedział, że no nawet może i więcej. Nie wiem czy Polimarket wszedł za mocno z tym szacowaniem prawdopodobieństwa, czy coś się wydarzyło, ale generalnie zaczęło się dużo takich głosów, ale to nie jest jedyny powód, dla którego rozmawiamy teraz o tych zagrożeniach związanych z super inteligentną AI.

Właśnie, bo Coxon pracował w Anthropic. Powiedziałeś, że to jest człowiek, który odczytywał Anthropic i oczywiście on tam pracował bodajże sześć tygodni. Więc co się wydarzyło? Jego argument jest taki, że wcześniej pracował w OpenAI przez dwa lata, no i przeszedł do Anthropic, które ma reputację, które się kreuje otwarcie marketingowo jako to odpowiedzialne laboratorium, jako to odpowiedzialna firma, która Robi wszystko, żeby doprowadzić do tego, żeby sztuczna inteligencja nam pomagała, a nie żeby doprowadzić do naszej zagłady. No i on tam poszedł, posiedział tam 6 tygodni, stwierdził, jeśli tak wygląda odpowiedzialna firma zajmująca się tym, żeby zadbać o interes ludzkości, no to ja już wiem wszystko. No ale przez te 6 tygodni też wydarzyły się rzeczy w świecie realnym, czy w świecie rozwoju sztucznej inteligencji.

No i na potwierdzenie tego, że on nie jest jedyny, odezwał się na to Ivan Habinger, który jest właśnie w Antropic. Osobom odpowiedzialnym za to, żeby sztuczna inteligencja była zgodna z celami ludzkości. Możemy o tym porozmawiać, powiedzmy, co to znaczy ta zgodność. Zgodność sztucznej inteligencji. Zgodność z czym, z kim, do tego przejdziemy, ale generalnie, że on jest ekspertem od tego, czy panujemy nad tą sztuczną inteligencją i czy mamy szansę panować. No i co on powiedział, Marta? No i on powiedział, że tak, Jacob Coxon ma rację, naprawdę my tutaj jako osoby tworzące to AI uważamy, że ono może zabić wszystkich ludzi.

I że jesteśmy w tej chwili na tym kursie, który spowoduje, że do końca przyszłego roku będzie, powstanie ta super inteligencja i nie będziemy w stanie, ona nie będzie zgodna, bo tak jak mówią właśnie osoby, które się zajmują tą zgodnością w Anthropic czy w OpenAI, nie jesteśmy blisko zależnie od tych sposobów, jak ją uzgodnić z nami, że to tempo rozwoju jest szybsze niż nasza zdolność jakoś tak założenia tych lejców. No i ona tak szybko idzie, że jeśli nic nie zrobimy, to w przyszłym roku, pod koniec przyszłego roku, papa. Więc właściwie nie wiem, my wiesz, mamy duże plany, jeśli chodzi o... Spansję naszego podcastu. Spansję naszego podcastu, o to, że przyszły rok, to wybory w Polsce. Dzieci narobiłeś. Dzieci narobiłem, ale wiesz, o tych wyborach w Polsce chcemy gadać. Może jednak nie trzeba będzie. Może będzie nami rządził jakiś imperator, po prostu super inteligentny, komputerowy.

A w momencie, w sensie nie ma żadnej różnicy, czy ktoś powie 10%, czy 50%, czy 70%. Wiesz, jeśli to się wydarzy, jeśli za 5 lat AI doprowadzi do zagłady ludzkości, to czy Coxon albo po prostu szef zgodności AI w Anthropic mówiący, że to jest 10%, to oni mieli rację, czy nie? 10% to się wydaje trochę mało, nie? No ale z drugiej strony to nie zero. Przepraszam, jakby jak media mówiły w 2016 roku, że szanse Donalda Trumpa na wygranie wyborów prezydenckich wynoszą 10% i on potem je wygrał, to cała narracja była o tym, że jacy są z was idioci, bo on wygrał, a wy mówiliście, że 10%. Ocenialiśmy to po prostu jako, mówili, że 90%, że nie wygra, więc to bzdura.

Co on odpowiada, kiedy wprost dokładnie to samo pytanie, jak tego wirusa wynieść z laboratorium, zadaje mu dziennikarz. Jest sporo demo w internecie. Można podłączyć sobie czat GPT do żarówek, siedzieć w domu, rozmawiać z czatem GPT, połączyć go przez jakiś interfejs ze swoim domem i dać mu tym domem sterować. Mówisz, wyłącz światła. Czat wyłącza światła. Mówisz, przyciemnij. I przyciemnia. Interfejsy robotyczne, roboty laboratoryjne. AI potrafi też wysyłać e-maile. Jeden z modeli, Anthropic, próbował udawać kogoś, kim nie był, żeby zatwierdzić kod, zmianę kodu. Jest wiele sposobów na to, żeby modele AI działały w fizycznym świecie. Ludzie wszędzie je podłączają. Wcale nie trudno, żeby coś, co niby jest tylko w komputerze, wpłynęło na realny świat.

On może być Delulu. Nie wiem, ten koleś z Antropica może być Delulu, Daniel Cocotilo może być Delulu. Albo my czegoś nie widzimy. Albo my czegoś nie widzimy, ale oni przekonują, że szczerze w to wierzą. I ja myślę, że wiesz, w ramach takiego myślenia grupowego mogą wierzyć. Załóżmy, że wierzą. Dlaczego to robią? Jakie jest uzasadnienie? To jest pytanie, o którym zaczęłaś. Jak się z tym czujesz, że idziesz do pracy codziennie i myślisz sobie, pij dum, dzisiaj zwiększyłem z 10 do 12%. Wspaniała robota. Bardzo czuję się ze sobą dobrze po 17. Więc generalnie odpowiedzi są dwie. Po pierwsze, jak nie my, to konkurencja, która jest mniej odpowiedzialna niż my. Po drugie, jak nie my, to Chiny. Tak. I to jakoś właśnie ten Evan Hubinger, który mówi, no ja tutaj jestem od tego, żeby to AI jakoś uzgodnić z nami, ale mi nie wychodzi.

No, track record, tak? One możemy im, jakby państwa mogłyby zniszczyć świat, nawet te najgorsze mocarstwa, te najgorsze, najstraszniejsze, nie zrobiły tego. Ale nie niszczą, bo chcą mieć świat. I te Chiny, one są bardzo ciekawe i też pojawiły nam się niedawno w kontekście odpowiedzi na tę panikę, odpowiedzi na te apele o regulacje, które wystosowywali nie tylko szeregowi pracownicy, ale także szefowie, prezesi AI. Bo mieliśmy i w lipcu bardzo znany już list, pismo takie Pacing the Frontier, wielkie pismo, które i właśnie Sam Altman i Dario Amodei, czyli szefowie OpenAI i Anthropic podpisali i też Elon Musk i koleś od Deep Mind'a.

Już abstrahując od, jakby ja się zgadzam w dużej mierze z tym, co on mówił, ale wiadomo, że tutaj ten interes jego jest zgoła inny niż interes na przykład Antropica i OpenAI, żeby się dogadać. Co do tego, bo właśnie w tym liście Amodei, a już nie w tym wcześniejszym, w tym wcześniejszym takim podpisanym otwartym, to faktycznie było o tym, że Stany Zjednoczone powinny koordynować, wprowadzić jakieś normy, do których się inne wszystkie kraje dostosują. Po groźbie albo... Po prośbie. Po prośbie. Przyjedzie lotniskowiec, jak wiemy, to zawsze działa. Tak, a Amodei w tym swoim nowym liście już dużo bardziej to skierował do amerykańskich ustawodawców, właśnie sugerując, że muszą nastąpić jakieś zmiany prawne, które pozwolą tym laboratoriom jakoś lepiej współpracować, dogadywać się w zakresie bezpieczeństwa.

Czego na przykład nie obejmuje w tej chwili prawo ochrony konkurencji, że można by to zostać wywołane za jakieś tworzenie karteli czy koluzji, ale to w ogóle nie o to chodzi. Czyli poczekaj Miłosz, czyli żeby lepiej chronić ludzkość przed bogiem AI, trzeba znieść prawo o zakazie konkurencji? Znaczy prawo ochrony konkurencji. Tak, przepraszam. Nie, trzeba znieść prawo, które mogłoby na przykład źle patrzeć na to, żeby OpenAI i Anthropic dogadywały się do wszystkiego typu np. kiedy będzie premiera nowych modeli i jak one będą działać. I to, żeby zapewnić bezpieczeństwo ludzkości, tak? Absolutnie. To po to jest. To po to jest, całkowicie to po to jest.

I wiesz, to NVIDIA by się do końca pewnie nie podobało, gdyby się te dwie firmy dogadywały i mówiły Teraz to może jednak mniejsze moce obliczeniowe, wiesz, może nie potrzebujemy tylu tych centrów danych. No i czemu akurat teraz, wiesz, czemu teraz jest nagle wielka ofensywa tych... już Altman się może trochę wycofuje, gra na dwa fronty, ale Amodei nie. Czemu jest wielka ofensywa pod tytułem regulujcie nas, regulujcie nas, chcemy tato przyjść i wiesz, wyłącz mi komputer. Spank mi daddy. Tak, albo wprowadź mi po prostu taki na telefon program, który mi wyłączy go po 22, bo inaczej ja nie pójdę spać, tylko będę pisał na Signalu z dziewczynami. No o jednej rzeczy już wspomniałeś, czyli właśnie o tej konkurencji, o tych monopolach czy duopolach, bo to jest właśnie w zakresie tych proponowanych regulacji, żeby prawo o ochronie konkurencji było takie mniej restrykcyjne, bo OpenAI i Anthropic nie są jedynymi firmami na rynku, czy nie są jednymi podmiotami tworzącymi modele.

Pojawiają się modele AI, które są open source'owe. Pojawiają się modele AI, nie modele open AI. Pojawiają się więc oddolne, czy budowane po prostu przez innych mniejszych graczy rzeczy, które są konkurencją dla tych firm. I chodzi o to, takie są interpretacje, że Open AI and Tropic chętnie ograniczyłyby ich działalność. To znaczy skonstruowałyby bardzo chętnie te nowe regulacje, nowe przepisy w taki sposób, żeby nie zaszkodziły im za bardzo, już takim molochom, a trochę przystopowało konkurencję. Tak i to na wielu poziomach. Oczywiście dochodzi też do tego aspekt, że jeśli spojrzymy na takie wyceny rynkowe Anthropica i OpenAI, które oczywiście nie są jeszcze spółkami giełdowymi, ale co jakiś czas emitują akcje, przyszłe akcje, czy właśnie taką możliwość... Promesę.

Trochę promesne, bo po prostu, wiesz, robią fundraising, tak? I jakby, no więc stworzą akcje, tylko nie giełdowe, tylko tak jak prywatna firma po prostu. Są już nie jak scenariusze, przecież prywatne im też. No i w oparciu o to możemy zbudować wycenę tej firmy rynkową. No i one są bardzo labilne. To znaczy, tak samo zresztą jak użytkowanie ich przez konsumentów. Jest lepszy moment Antropica i Antropic się wybija bardzo w górę, OpenAI spada i potem odrzucenie. To nie jest zbyt dobre dla tych firm. Dużo pewniej by się czuły, gdyby mogły się po prostu dogadać i mieć po te 50% udziału w rynku, czy 40% i się nie przejmować, czy zaraz będzie spadek, czy wzrost, jaka będzie ta trajektoria. To raz. Dwa, że faktycznie jako molochy mogą wydawać więcej pieniędzy na dostosowanie się do regulacji, zwłaszcza jeśli je ukształtują w taki sposób, który nie będzie im przeszkadzał.

Trzeci to, że tworząc tą atmosferę strachu, Kiedy mówimy o zbuntowanych agentach, o zbuntowanych modelach, no to Anthropic i OpenAI, które są właśnie tymi modelami zamkniętymi, mogą powiedzieć, my kontrolujemy nasze serwery, my kontrolujemy całą infrastrukturę, całe zaplecze. I oczywiście teraz mieliśmy incydenty i nie dopilnowaliśmy, dlatego właśnie potrzebujemy większych regulacji, ale my nie jesteśmy aż takim dużym zagrożeniem. Zagrożeniem są te modele open weight, czyli właśnie z otwartymi nie wagami, ale właśnie tymi parametrami, otwartych parametrach. No bo taki model każdy może mieć na swoim komputerze, każda firma może go sobie kupić.

Takie właśnie na tym hype się opierające, więc no jesteśmy trochę, kurczę, nie wiemy co robić. A jednocześnie chcemy, i to jest w wypadku Anthropic i OpenAI, chcemy zaraz wejść na giełdę. I to już zaraz, zaraz, znaczy OpenAI ogłosiło, że Altman powiedział, że my to jednak przesuwamy, może nie jest dobry moment, dużo się dzieje w branży, poczekamy, ale jakby one miały już, były bardzo, bardzo blisko wejścia na giełdę, co wymaga też właśnie Raportowania. Mówiliśmy o tym przy SpaceX. Te prospekty giełdowe są bardzo, bardzo szczegółowe. Obie te firmy przynoszą ogromne straty. Anthropic ogłosił właśnie inwestorom, że drugi kwartał z rzędu przynosi zyski, tylko że sposób ich księgowania zysków jest taki, że nie wliczają w to części kosztów.

Więc ogłosili, że jesteśmy na plus, jeśli nie wliczymy pewnej części kosztów, których nie wliczamy. Uzasadniają to oczywiście, Śmiech jest niesamowity, tak? No to jest tak, wiesz, jestem ze swoją pensją na plus, jak nie policzę kosztów wynajmu mieszkania, nie? Dokładnie, więc widziałem świetny wpis na Twitterze, że hej, jesteśmy tak potężni, że możemy stworzyć wszystko, to my, OpenAI i Antropic, możemy stworzyć wszystko poza własną zyskownością. Ale to poza tym, to jakby możemy zniszczyć świat, tylko jedyne, czego nie jesteśmy w stanie zrobić, to osiągnąć zyskowności, bo nawet teraz, kiedy kupuje się tokeny, to wciąż są pakiety, za najprostsze, które jednak, Przeżerasz więcej niż te tokeny kosztują, w sensie one są bardziej urealnione, ale wciąż, wciąż Anthropic dopłaca do biznesu, więc jest wiele powodów, dla których te firmy mają w tej chwili bardzo, bardzo mocne powody, żeby wywołać tolarum, powiedzieć coś trzeba zrobić, coś trzeba zrobić i niekoniecznie wynika to faktycznie z ich, z tego poziomu zagrożenia, nawet jeśli ideologicznie być może w nie wierzą, ale ten moment nie jest przypadkowy, ten moment jest bardzo

W czarną skrzynkę decyzji o tym, kiedy strzelać i kogo zabić. Choć oczywiście, mimo że te dyskusje w ONZ trwają, to można sobie zadawać wiele pytań na temat tego, na ile ONZ ma jakąkolwiek moc sprawczą w dzisiejszym świecie, bo już i Stany Zjednoczone, i Rosja, i Izrael powiedziały, że obra, obra, wy se regulujcie, mamy swoje zastrzeżenia i my byśmy woleli to krajowo regulować, więc nara. Tak, wiemy przecież, że w atakach na Iran cele były wyznaczane przez Claude'a, przez Antropik i ich priorytety tego właśnie, które cele atakować w pierwszej kolejności i tak dalej, to było też jasno powiedziane, że po prostu Pentagon korzystał Z Antropika swoją drogą w tym samym momencie, w którym jednocześnie zrywali kontrakt z Antropikiem i Antropik mówił to dlatego, że nie chcemy tutaj, żeby nasze oprogramowania były używane, czy nasze modele w sposób, który może być zły dla ludzkości.