AI kontra ludzkość. Wszyscy zginiemy?

Jak to jest, co dzień chodzić do pracy i budować tam potwora, które ma wykończyć ciebie i wszystkich, których kiedykolwiek kochałaś? Co szykuje dla nas rozszalały rój agentów AI? Pandemię wszechczasów, wojnę atomową, a może zbiorową hipnozę? Dzisiaj pogadamy o końcu świata, które nam wywróżyły chłopaki z Antropik. Dlaczego akurat teraz dowiadujemy się o tym, że wszyscy zginiemy? Co tak naprawdę kryje się w tych bajkach o apokalipsie? I jak możemy postawić temę temu, co szykują dla nas laboratoria AI? Zapraszamy. Cześć, dzień dobry. Witamy w kolejnym odcinku podcastu Co to będzie? Ja nazywam się Marta Nowak. A ja nazywam się Miłosz Wiatrowski-Bujacz. Dzisiaj rozmawiamy o najnowszych osiągnięciach realnych oraz narracyjnych firm zajmujących się rozwojem sztucznej inteligencji, rozwojem LLM-ów, czyli dużych modeli językowych.

Jacob Coxon, on zalicza teraz tur po mediach i straszy, grozi, przestrzega przed tym, jak zabójcze mogą być dla nas modele AI. Posłuchajmy. Pracował Pan dla dwóch czołowych firm AI. Niech Pan wyjaśni, w najprostszy możliwy sposób, jako człowiek, który dogłębnie rozumie te technologie, naprawdę Pan uważa, że AI może nas wszystkich zabić w mniej niż 10 lat? Tak, naprawdę. I nie tylko ja. Ludzie w branży, dyrektorzy, doświadczeni badacze, szczerze uważają, że istnieje znaczne prawdopodobieństwo, że ta technologia mogłaby nas wszystkich zabić. To nie jest hiperbola ani chwyt marketingowy. To szczera opinia ludzi, którzy pracują nad rozwojem AI.

Zaczęło się tak, że Coxon chyba dziesięć dni temu, dwa tygodnie, całkiem niedawno, zaczęło się tak jak często się zaczyna przy wszystkich ludziach związanych ze sztuczną inteligencją i przy wszystkich takich zaostrzeżeniach, to znaczy on Ogłosił na Twitterze, na Iksie, że właśnie odszedł z Anthropic. Że odszedł z Anthropic dlatego, że zarówno Anthropic jak i OpenAI zachowują się skrajnie nieodpowiedzialnie i że on ocenia, że prawdopodobieństwo zagłady ludzkości wywołanej przez sztuczną inteligencję w ciągu najbliższych 5 lat wynosi co najmniej 10%. Tak i potem oczywiście dołączyli inni. Ktoś tam wiesz, jakiś ziomo powiedział, że no nawet może i więcej. Nie wiem czy Polimarket wszedł za mocno z tym szacowaniem prawdopodobieństwa, czy coś się wydarzyło, ale generalnie zaczęło się dużo takich głosów, ale to nie jest jedyny powód, dla którego rozmawiamy teraz o tych zagrożeniach związanych z super inteligentną AI.

No, kilka innych sytuacji, które napędzają teraz tę panikę czy te obawy przed zagładą. Pierwsza rzecz to jest Incident Hugging Face. Turbo w skrócie mówiąc. Hugging Face to jest taki github, takie repozytorium modeli, baz danych, bibliotek open source pod LLM-y. Po prostu właśnie tak jak github tylko pod AI. I Hugging Face ogłosiło, że zostało zaatakowane przez oprogramowanie AI. OpenAI, czyli firma od czata GPT przyznała się, że to ich modele właśnie tego ataku się dopuściły. To, co zaniepokoiło wiele osób, to jest to, że to oprogramowanie też zostawiło po sobie takie okruszki informacji, mimo usunięcia, wykasowania tego wszystkiego, które potem pozwoliły kolejnym wersjom, kolejnym iteracjom tych modeli szybciej dochodzić

Do tego, jak mogą naruszyć te zabezpieczenia i skuteczniej włamać się do istniejących systemów. Tu właśnie stąd się wziął ten rój mój ze wstępu, bo to rój agentów. Tak, tak. Wściekłe szerszenie AI. Wściekłe szerszenie, a drugim takim bardzo, bardzo ważnym, głośnym elementem tego, jak rozmawiamy w tej chwili o AI w kontekście jego rozwoju jest bardzo, bardzo niedawno ogłoszenie przez OpenAI, że modele OpenAI rozwiązały jeden z problemów, matematycznych problemów milenijnych. To są takie 7 bodajże problemów, które właśnie w 2000 roku uznano za Jakoś tam najtrudniejsze, pozostawiające najwięcej pytań, problemy matematyczne, których matematykom nie udaje się rozwiązać od wielu lat, wielu dekad, a które właśnie, jeśli uda się je rozwiązać, no to pchnie się naukę bardzo mocno do przodu.

Zarówno naukę, w sensie matematykę, jak i szerzej. I OpenAI, podobno modele OpenAI rozwiązały ten problem w 88 godzin. No i słyszymy też o tym, że laboratoria AI pracują nad nowymi modelami, które są bardzo groźne, bardzo potężne, bardzo są takie, że oj no tutaj jest się czego bać, jeszcze wam tego nie pokazaliśmy, jeszcze to trzymamy u siebie, ale tam się dzieją rzeczy w tych nowych modelach. Dokonał się skok. I oczywiście tak. Pytanie jest, czy ten skok rzeczywiście się dokonał, bo jeżeli ktoś ma pamięć dłuższą niż Złota Rybka, to być może pamięta, jak wcześniejsze modele były opisywane również i przez te osoby, które je tworzyły i przez media.

Ja pamiętam na przykład, jak w 2019 roku miał wejść czat GPT-2, którego zdolności polegały na tym, że na przykład umiał napisać akapit tekstu w stylu Tolkiena I nagłówki prasowe były wtedy w stylu, czytam, przytaczam to rzeczywiste nagłówki prasowe, które pisali dziennikarze technologiczni. OpenAI założone przez Elona Muska buduje sztuczną inteligencję tak potężną, że musi być trzymana pod kluczem dla dobrej ludzkości. Inny nagłówek. AI potrafi pisać tak jak ja. Szykujcie się na apokalipsę robotów. W sensie ostrzeżenia o tym, że kolejne modele będą tak potężne, że ola boga co one zrobią ze światem, pojawiają się, tak naprawdę mam wrażenie, przy każdym kolejnym nowym modelu.

A jednocześnie zbuntowane. Nie mamy nad nimi kontroli. Mamy powody, żeby się martwić o to, że jednak nad nimi nie mamy takiej kontroli, jak chcemy. No i wtedy właśnie wychodzi najpierw pan Jacob Coxon. Jacob Coxon. I mówi, i wrzuca na Twittera najpierw, a potem dopiero to wielkie turny po mediach, że on odchodzi, bo jego zdaniem tak zwany P. Doom. To też warto wspomnieć, bo ci ludzie bardzo używają specyficznego słownictwa. Ludzie z dziedzin właśnie z tej... Bańki AI, czyli P-Doom, czyli takie matematyczne zapisanie prawdopodobieństwa Doom, końca świata, że on ocenia na co najmniej 10%. I on nie jest jedyny, tak jak mówił w telewizji, bo ten zacytowany fragment z telewizji był jakoś tam powtórzeniem tego, co on najpierw ogłosił w świecie.

No i na potwierdzenie tego, że on nie jest jedyny, odezwał się na to Ivan Habinger, który jest właśnie w Antropic. Osobom odpowiedzialnym za to, żeby sztuczna inteligencja była zgodna z celami ludzkości. Możemy o tym porozmawiać, powiedzmy, co to znaczy ta zgodność. Zgodność sztucznej inteligencji. Zgodność z czym, z kim, do tego przejdziemy, ale generalnie, że on jest ekspertem od tego, czy panujemy nad tą sztuczną inteligencją i czy mamy szansę panować. No i co on powiedział, Marta? No i on powiedział, że tak, Jacob Coxon ma rację, naprawdę my tutaj jako osoby tworzące to AI uważamy, że ono może zabić wszystkich ludzi.

Ja osobiście uważam, że to jest prawdopodobieństwo ponad 10% w ciągu najbliższej dekady i że Antropik, no robimy co możemy, prawda? Ale jeszcze nie mamy planu konkretnego na to, żeby to rozwiązać i żeby sprawić, że do tej zagłady ludzkości nie dojdzie. I on o tym w ogóle, w sensie ton tego tweeta, oczywiście możemy sobie doczytać takim głosem, jakim chcemy, ale jednak interpunkcja ma znaczenie. On użył wykrzyknika. Tak naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi. Wykrzyknik. Naprawdę w to wierzymy. Nie żartujemy. Ale dalej nad nim pracujemy i przejdziemy później do tego dlaczego. Jak właśnie sam Hubbinger tłumaczy dlaczego on osobiście nad tym pracuje.

Ale on nie jest jedyny taki były pracownik, były badacz z OpenAI Daniel Kokotajło. Daniel Kokotajło? Który w tej chwili przewodzi takiej organizacji, która nazywa się AI Futures Project i właśnie przestrzega przed tym, na jak niebezpiecznym kursie jesteśmy, a jednocześnie radzi na jaki kurs moglibyśmy przejść. To jest dobre, polecam, posłuchaj teraz. To on powiedział, że jego zdaniem szansa na to, że będzie ta apokalipsa to jest 70%. I że on osobiście już zrezygnował ze swojego funduszu emerytalnego. Nie dokłada do niego, bo nie widzi sensu. Oczywiście jako osoba, która pracowała w OpenAI przez dwa lata między 2022 i 2024 jest absolutnie pewne, że on ma akcje, w sensie obietnice akcji OpenAI, które będą miały ogromną wartość w momencie, w którym OpenAI już wejdzie na giełdę.

Myślę, że nie musi się jakoś szczególnie przejmować swoim funduszem emerytalnym, bo łatwo to powiedzieć w momencie, w którym ma się po prostu promesę akcji o wartości pewnie paru dziesięciu, paruset milionów dolarów, no ale na emeryturę nie odkłada. I czy to jest ten moment, kiedy ja o nim trochę więcej powiem, o tym AI Futures Institute, czy nie? No jak chcesz to powiedz. To bardzo, bardzo krótko, żeby rozrysować jacy ludzie, potem będziemy do tego pewnie wracać, jacy ludzie się przejmują najbardziej, czy są w awangardzie przestrzegających przed tą zagładą. Ta organizacja Cocotilo AI Features Project przewiduje, że do końca przyszłego roku de facto dojdzie do tej zagłady. Oni mają taki właśnie scenariusz AI 2027.

A jego najlepszy scenariusz tego całego projektu, Instytutu AI Futures Project, taki Do czego dążą. Optymistyczny. Najbardziej optymistyczny nazywa się AI 2040 scenariusz A. I ten scenariusz A to jest opowieść o tym, jak przez najbliższe 14 lat tak powoli oswajamy i przygotowujemy tą super inteligencję, tego boga sztucznej inteligencji do tego, żeby zszedł na ziemię pomiędzy nas. I też my się oswajamy jako ludzie i dzielimy zyski z tej sztucznej inteligencji, które po drodze powstają tak, żeby właśnie nie tworzyć jakichś napięć społecznych, aż w końcu dochodzimy do tego 2040. Sztuczna inteligencja, ten bóg sztucznej inteligencji dostaje kody atomowe po prostu wszystkich państw i staje się władcą wszystkiego.

On sam mówi, że to wynika z rozmów z kolegami, prawda? Że on tak zrozumiał to, bo koledzy. Tak. Posłuchajmy tego fragmentu w ogóle z Jacoba Coxona o kolegach. Pracował Pan w czołowych firmach AI. Czy doświadczył Pan tam, albo był świadkiem, czegoś, co Pana rzeczywiście zszokowało w kwestii możliwości AI? Tak, szczerze mówiąc, moje rozmowy z osobami, które pracują nad tą technologią, ludzie uznaliby pewnie za naprawdę szokujące. Inżynierowie, programiści, ludzie głęboko zanurzeni w branży, nie jacyś wariaci z Twittera, ani ludzie, którzy szukają sensacji, tylko koderzy, programiści, rozmawiają ze sobą w taki sposób.

I co? Myślisz, że w przyszłym roku to AI będzie mogło stworzyć wirusa, który nas wszystkich zabije? Albo zhakować kluczową infrastrukturę? Trzeźwo o tym dyskutują. Trust me bro, trzeźwo o tym dyskutują. Tak, tak, tak. To jest bardzo dobre pytanie w ogóle tego dziennikarza z NBC. Co się stało? Co on takiego zobaczył? Jakiego bazyliszka tam ujrzał w korytarzach Antropik, że uciekł spłoszony po sześciu tygodniach? I odpowiedź polega na tym, no my z kolegami rozmawiamy i koledzy, którzy są bardziej doświadczeni ode mnie też się boją o tym zjawisku tego, jak Inżynierowie, programiści, też bardzo specyficzna, umówmy się, grupa ludzi demograficznie, te właśnie kodoklepy z Doliny Krzemowej, siedzą i wzajemnie się straszą.

Pięknie napisał Cory Doctorow, jeden z moich ulubionych analityków, ekspertów od technologii, też miłośnik tego starego, dobrego internetu, który przez chwilę mieliśmy i moglibyśmy go mieć, gdyby go inni nie zepsuli. On też jest swoją drogą pisarzem sci-fi, który jest dobrym pisarzem sci-fi. Ale dobrze, więc dr. Rowe już ze 3 lata temu pisał o tym zjawisku w ten sposób. Wszystko to staje się jasne, kiedy człowiek zrozumie, jak wygląda kultura korporacyjna w tych firmach AI, w tych hiperskalerach AI. Ci ludzie zamykają się w łazience, świecą sobie latareczką pod brodą i wyją uuuuuu, dopóki sami ze strachu nie zlają się spodnie. W sensie straszą sami siebie, rzucają te żarciki, a będzie koniec świata, no będzie koniec świata, a może nie będzie.

I nie ma tam Połączenia z rzeczywistością, z wydarzeniami, które faktycznie sprawiają, że ten bazyliszek krąży po korytarzach, to jest wszystko na poziomie jakiejś meta rozmowy i żarcików na slacku, ale atmosfera zagrożenia narasta. Tak, i on wspomina, jeszcze nie Doctor Who, tylko nasz ulubiony Jacob Coxon, że ci doświadczeni hakerzy, programiści, inżynierowie, że oni się wymieniają. Co myślisz, jaka jest prawdopodobieństwo, że stworzy wirusa, czy właśnie schakuje jakieś programowanie? Generalnie wszyscy, którzy działają, którzy pracują nad AI, mają ten PIDUM, o którym mówimy. To jest po prostu, wiesz, rozmowa o tym, jaki jest twój PIDUM.

A w momencie, w sensie nie ma żadnej różnicy, czy ktoś powie 10%, czy 50%, czy 70%. Wiesz, jeśli to się wydarzy, jeśli za 5 lat AI doprowadzi do zagłady ludzkości, to czy Coxon albo po prostu szef zgodności AI w Anthropic mówiący, że to jest 10%, to oni mieli rację, czy nie? 10% to się wydaje trochę mało, nie? No ale z drugiej strony to nie zero. Przepraszam, jakby jak media mówiły w 2016 roku, że szanse Donalda Trumpa na wygranie wyborów prezydenckich wynoszą 10% i on potem je wygrał, to cała narracja była o tym, że jacy są z was idioci, bo on wygrał, a wy mówiliście, że 10%. Ocenialiśmy to po prostu jako, mówili, że 90%, że nie wygra, więc to bzdura.

Czy Coxon nas przestrzega, czy wręcz nas uspokaja? Te liczby nie mają absolutnie żadnego znaczenia. Ten Cocotilo, o którym wspominałem mówi, że 70%. Inny mój po prostu ulubiony Jeffrey Hinton, po prostu ojciec, założyciel AI, taki faktycznie już Bardziej wiekowy brytyjski naukowiec, który zasłynął tym, że w 2016 roku powiedział, że w ciągu pięciu lat radiolodzy staną się kompletnie zbędni. Nie będzie już radiologów, bo sztuczna inteligencja czy bardziej algorytmy są w stanie analizować po prostu skany radiologiczne na poziomie Równie dobrym co radiolodzy albo będą w stanie w ciągu pięciu lat. No i on ostatnio w tym roku powiedział, że nie miałem racji.

Można to empirycznie sprawdzić, radiolodzy wciąż są. No tak. I powiedział tak, no takim meta powodem, głównym powodem było to, że nie do końca rozumiałem na czym polega radiologia. No i właśnie, i tutaj dochodzimy do tego, że ci ludzie, którzy piszą kod niekoniecznie muszą być ekspertami w każdej kolejnej dziedzinie, ale to, co chciałabym jeszcze tutaj podkreślić, to jest to, że nie wiem szczerze, jak miałaby wyglądać Stworzona przez AI zagłada świata, wybicie całej ludzkości. Nie, wiecie, katastrofa, że systemy bankowe padną. Nie, że tutaj nastąpi włamanie do Pentagonu, cokolwiek, co może zrobić komputer, tylko wyginie cała ludzkość.

Zabójczy wirus. W jaki sposób zakładamy, że ludzkość nie wymyśli na to w którymś momencie szczepionki? Jak mają zostać wybite, izolowane plemiona żyjące wciąż jeszcze w Puszczy Amazońskiej? Zrobiłam w ogóle karuzelkę na Instagramie o tej zagładzie ludzkości teraz w poniedziałek i dostałam na przykład komentarz, że oj pani Marto, to jest jednak łatwiejsze niż pani myśli, bo my się sami wybijemy po miesiącu jak będzie globalny blackout, jak nie będzie prądu. W jaki sposób ma nie być prądu przez miesiąc? Jak AI ma wyłączyć jednocześnie cały prąd na całym świecie i żadni inżynierowie, cała ludzka wiedza ma Przez miesiąc nie dojdzie do tego, jak włączyć ten prąd z powrotem.

Agenty AI nie potrafią w tym momencie zsynchronizować stref czasowych w kalendarzu twoim w telefonie, jak lecisz do innego kraju daleko na Ziemi. Ale spoko, zrobią blackout globalny i przez miesiąc nie odkryjemy, jak to odwrócić, a w międzyczasie zrobimy takiego Mad Maxa, że po miesiącu po prostu zostanie jeden człowiek, który zabije się ze smutku, że nie ma z kim rozmawiać. Tak, w pełni się z tym zgadzam. Wiesz, często w ogóle też te wizje są trochę o tym, że tym brakującym elementem, że okej, czemu ludzie nic z tym nie zrobią, jest ten element takiej hipnozy, o której ja wspomniałem żartobliwie przy samym wstępie. To znaczy ta super inteligencja będzie od nas o tyle inteligentniejsza, że nas zmanipuluje, że mniej więcej jakby nas zaczarowała, powiedziała teraz nie jedz. I zagłodzimy się na śmierć.

Co on odpowiada, kiedy wprost dokładnie to samo pytanie, jak tego wirusa wynieść z laboratorium, zadaje mu dziennikarz. Jest sporo demo w internecie. Można podłączyć sobie czat GPT do żarówek, siedzieć w domu, rozmawiać z czatem GPT, połączyć go przez jakiś interfejs ze swoim domem i dać mu tym domem sterować. Mówisz, wyłącz światła. Czat wyłącza światła. Mówisz, przyciemnij. I przyciemnia. Interfejsy robotyczne, roboty laboratoryjne. AI potrafi też wysyłać e-maile. Jeden z modeli, Anthropic, próbował udawać kogoś, kim nie był, żeby zatwierdzić kod, zmianę kodu. Jest wiele sposobów na to, żeby modele AI działały w fizycznym świecie. Ludzie wszędzie je podłączają. Wcale nie trudno, żeby coś, co niby jest tylko w komputerze, wpłynęło na realny świat.

Czyli wcale nie trudno, to jest groźniejsze niż myślicie, ale podaj konkretne przykłady. Smart homes, które istnieją od początku XXI wieku i też agent AI potrafi wysłać maila. Także ludzkość, mamy przerąbane już po nas. Generalnie realizujcie PPK, wyciągajcie hajs, bo emerytury nie będzie. Ale dobrze, załóżmy, bo bardzo... Bardzo mało osób, które się znają na tych różnych dziedzinach, jak ktokolwiek się zna na tych dziedzinach, o których mówimy, to podkreśla, nie, nie dojdzie do zagłady świata. Ale zakładając, że tacy ludzie jak Coxon szczerze w to wierzą, to przejdźmy właśnie do tego elementu okej, on może

On może być Delulu. Nie wiem, ten koleś z Antropica może być Delulu, Daniel Cocotilo może być Delulu. Albo my czegoś nie widzimy. Albo my czegoś nie widzimy, ale oni przekonują, że szczerze w to wierzą. I ja myślę, że wiesz, w ramach takiego myślenia grupowego mogą wierzyć. Załóżmy, że wierzą. Dlaczego to robią? Jakie jest uzasadnienie? To jest pytanie, o którym zaczęłaś. Jak się z tym czujesz, że idziesz do pracy codziennie i myślisz sobie, pij dum, dzisiaj zwiększyłem z 10 do 12%. Wspaniała robota. Bardzo czuję się ze sobą dobrze po 17. Więc generalnie odpowiedzi są dwie. Po pierwsze, jak nie my, to konkurencja, która jest mniej odpowiedzialna niż my. Po drugie, jak nie my, to Chiny. Tak. I to jakoś właśnie ten Evan Hubinger, który mówi, no ja tutaj jestem od tego, żeby to AI jakoś uzgodnić z nami, ale mi nie wychodzi.