AI kontra ludzkość. Wszyscy zginiemy?

Ja pamiętam na przykład, jak w 2019 roku miał wejść czat GPT-2, którego zdolności polegały na tym, że na przykład umiał napisać akapit tekstu w stylu Tolkiena I nagłówki prasowe były wtedy w stylu, czytam, przytaczam to rzeczywiste nagłówki prasowe, które pisali dziennikarze technologiczni. OpenAI założone przez Elona Muska buduje sztuczną inteligencję tak potężną, że musi być trzymana pod kluczem dla dobrej ludzkości. Inny nagłówek. AI potrafi pisać tak jak ja. Szykujcie się na apokalipsę robotów. W sensie ostrzeżenia o tym, że kolejne modele będą tak potężne, że ola boga co one zrobią ze światem, pojawiają się, tak naprawdę mam wrażenie, przy każdym kolejnym nowym modelu.

To znaczy, że zrównań wynika w określonych warunkach, że na przykład ciecz osiąga nieskończoną prędkość, no a jakby wiemy, że fizycznie jest to niemożliwe. Więc czy te równania się trzymają, czy są spójne w każdych warunkach, przy każdych jakby konfiguracjach, czy też istnieją konfiguracje tych równań, przy których one się załamują I to nam powinno dać jakoś tam do myślenia, że nie zawsze możemy na nich polegać. A jakby te równania są używane, nie wiem, przy budowaniu samolotów, przy aerodynamice i tak dalej, i tak dalej. Więc one, same równania są bardzo ważne w świecie rzeczywistym i nie wiem, w inżynierii, no ale To rozwiązanie teoretyczne, czy istnieje jakiś scenariusz, w którym one dochodzą do ściany i po prostu wybuchają? To jest bardzo teoretyczna kwestia, która nie ma jakiejś takiej super aplikowalności.

I że jesteśmy w tej chwili na tym kursie, który spowoduje, że do końca przyszłego roku będzie, powstanie ta super inteligencja i nie będziemy w stanie, ona nie będzie zgodna, bo tak jak mówią właśnie osoby, które się zajmują tą zgodnością w Anthropic czy w OpenAI, nie jesteśmy blisko zależnie od tych sposobów, jak ją uzgodnić z nami, że to tempo rozwoju jest szybsze niż nasza zdolność jakoś tak założenia tych lejców. No i ona tak szybko idzie, że jeśli nic nie zrobimy, to w przyszłym roku, pod koniec przyszłego roku, papa. Więc właściwie nie wiem, my wiesz, mamy duże plany, jeśli chodzi o... Spansję naszego podcastu. Spansję naszego podcastu, o to, że przyszły rok, to wybory w Polsce. Dzieci narobiłeś. Dzieci narobiłem, ale wiesz, o tych wyborach w Polsce chcemy gadać. Może jednak nie trzeba będzie. Może będzie nami rządził jakiś imperator, po prostu super inteligentny, komputerowy.

Wielokrotnie w tym czasie już będziemy w kosmosie wszyscy z nas. No i generalnie żyjemy w chillera utopia, nie ma z kim walczyć, bo nie ma po co, jest pizza i tak dalej. Tak, wiecie co, ja słuchając tego myślę, że są ludzie, którzy powinni zostać złymi pisarzami sci-fi, zamiast zakładać jakieś organizacje doradcze ngosy. Ale to, co wydaje mi się istotne w tych wszystkich wizjach tego, co zrobi, co nie zrobi ta sztuczna inteligencja, jak ona się rozwinie, jakim ona będzie półbogiem czy demiurgiem, to jest to, że nie dostajemy żadnych konkretów. Nie dostajemy konkretów, jak do tego miałoby dojść, co konkretnie tam miałoby się zadziać. Ten Jacob Coxon, którego będziemy tu jeszcze kilkukrotnie cytować... Męczyć. Tak, będziemy go męczyć, bo zmilkujemy chłopa.

No ale robię to, bo wiem, że inne laboratoria, w domyśle np. OpenAI, ale też jeszcze inne, mniej odpowiedzialne, nie pokładają Nie przykładają do tego takiej wagi jak ja, więc ja muszę tutaj heroicznie walczyć, żeby nasze modele pierwsze osiągnęły super inteligencję, żeby one stały się po prostu tą inteligencją, która jest w stanie zrobić wszystko, bo my jednak, bo jeśli tak będzie, no to ja wierzę w to, że ja jestem w stanie może coś z tym zrobić. Może nie? Ale się staram, przynajmniej się szczerze staram, więc lepiej, żebyśmy to byli my, niż na przykład OpenAI czy Chiny zwłaszcza. No i tutaj po pierwsze się pojawia pytanie, znaczy jest to jakieś takie założenie, że pierwsza firma, która stworzy taki model, będzie miała pełnię władzy nad innymi modelami, tak?

No, track record, tak? One możemy im, jakby państwa mogłyby zniszczyć świat, nawet te najgorsze mocarstwa, te najgorsze, najstraszniejsze, nie zrobiły tego. Ale nie niszczą, bo chcą mieć świat. I te Chiny, one są bardzo ciekawe i też pojawiły nam się niedawno w kontekście odpowiedzi na tę panikę, odpowiedzi na te apele o regulacje, które wystosowywali nie tylko szeregowi pracownicy, ale także szefowie, prezesi AI. Bo mieliśmy i w lipcu bardzo znany już list, pismo takie Pacing the Frontier, wielkie pismo, które i właśnie Sam Altman i Dario Amodei, czyli szefowie OpenAI i Anthropic podpisali i też Elon Musk i koleś od Deep Mind'a.

Czego na przykład nie obejmuje w tej chwili prawo ochrony konkurencji, że można by to zostać wywołane za jakieś tworzenie karteli czy koluzji, ale to w ogóle nie o to chodzi. Czyli poczekaj Miłosz, czyli żeby lepiej chronić ludzkość przed bogiem AI, trzeba znieść prawo o zakazie konkurencji? Znaczy prawo ochrony konkurencji. Tak, przepraszam. Nie, trzeba znieść prawo, które mogłoby na przykład źle patrzeć na to, żeby OpenAI i Anthropic dogadywały się do wszystkiego typu np. kiedy będzie premiera nowych modeli i jak one będą działać. I to, żeby zapewnić bezpieczeństwo ludzkości, tak? Absolutnie. To po to jest. To po to jest, całkowicie to po to jest.

Trochę promesne, bo po prostu, wiesz, robią fundraising, tak? I jakby, no więc stworzą akcje, tylko nie giełdowe, tylko tak jak prywatna firma po prostu. Są już nie jak scenariusze, przecież prywatne im też. No i w oparciu o to możemy zbudować wycenę tej firmy rynkową. No i one są bardzo labilne. To znaczy, tak samo zresztą jak użytkowanie ich przez konsumentów. Jest lepszy moment Antropica i Antropic się wybija bardzo w górę, OpenAI spada i potem odrzucenie. To nie jest zbyt dobre dla tych firm. Dużo pewniej by się czuły, gdyby mogły się po prostu dogadać i mieć po te 50% udziału w rynku, czy 40% i się nie przejmować, czy zaraz będzie spadek, czy wzrost, jaka będzie ta trajektoria. To raz. Dwa, że faktycznie jako molochy mogą wydawać więcej pieniędzy na dostosowanie się do regulacji, zwłaszcza jeśli je ukształtują w taki sposób, który nie będzie im przeszkadzał.

W związku z tym nagle firmom Przestaje się to opłacać. To jest dokładnie to, o czym my mówiliśmy rok temu w odcinku o AI, w którym przestrzegaliśmy szefów przed uzależnianiem się od AI, bo niedługo zaczną windować ceny i co wy wtedy zrobicie prezesy? Jak pozwalniacie swoich ludzkich pracowników? No i to właśnie się dzieje w tym momencie. Więc z jednej strony chcemy, żeby te firmy dalej kupowały nasze produkty, mimo że one są dużo droższe, a z drugiej strony mierzymy się z tym, że te produkty są przehypowane i że coraz drożej jest rozwijać nowe modele, a musimy to robić, bo nasz model biznesowy jest oparty na ciągłym wzroście, wzroście, wzroście, wzroście. Nie jesteśmy stabilną firmą, tylko właśnie opieramy się na tym, jak duże jest nami zainteresowanie

Takie właśnie na tym hype się opierające, więc no jesteśmy trochę, kurczę, nie wiemy co robić. A jednocześnie chcemy, i to jest w wypadku Anthropic i OpenAI, chcemy zaraz wejść na giełdę. I to już zaraz, zaraz, znaczy OpenAI ogłosiło, że Altman powiedział, że my to jednak przesuwamy, może nie jest dobry moment, dużo się dzieje w branży, poczekamy, ale jakby one miały już, były bardzo, bardzo blisko wejścia na giełdę, co wymaga też właśnie Raportowania. Mówiliśmy o tym przy SpaceX. Te prospekty giełdowe są bardzo, bardzo szczegółowe. Obie te firmy przynoszą ogromne straty. Anthropic ogłosił właśnie inwestorom, że drugi kwartał z rzędu przynosi zyski, tylko że sposób ich księgowania zysków jest taki, że nie wliczają w to części kosztów.

Więc ogłosili, że jesteśmy na plus, jeśli nie wliczymy pewnej części kosztów, których nie wliczamy. Uzasadniają to oczywiście, Śmiech jest niesamowity, tak? No to jest tak, wiesz, jestem ze swoją pensją na plus, jak nie policzę kosztów wynajmu mieszkania, nie? Dokładnie, więc widziałem świetny wpis na Twitterze, że hej, jesteśmy tak potężni, że możemy stworzyć wszystko, to my, OpenAI i Antropic, możemy stworzyć wszystko poza własną zyskownością. Ale to poza tym, to jakby możemy zniszczyć świat, tylko jedyne, czego nie jesteśmy w stanie zrobić, to osiągnąć zyskowności, bo nawet teraz, kiedy kupuje się tokeny, to wciąż są pakiety, za najprostsze, które jednak, Przeżerasz więcej niż te tokeny kosztują, w sensie one są bardziej urealnione, ale wciąż, wciąż Anthropic dopłaca do biznesu, więc jest wiele powodów, dla których te firmy mają w tej chwili bardzo, bardzo mocne powody, żeby wywołać tolarum, powiedzieć coś trzeba zrobić, coś trzeba zrobić i niekoniecznie wynika to faktycznie z ich, z tego poziomu zagrożenia, nawet jeśli ideologicznie być może w nie wierzą, ale ten moment nie jest przypadkowy, ten moment jest bardzo

I oni w tym filmie dokumentalnym przeprowadzają rozmowy z Izraelczykami, z izraelskimi żołnierzami, którzy używali właśnie broni z użyciem AI. W kampanii w Gazie. To jest to, o czym my z kolei mówiliśmy już dwa lata temu, o tych systemach Who's Your Daddy, o tych systemach Lavender. Już nie pamiętam. Ale generalnie tutaj zalinkujemy wam i ten nasz poprzedni odcinek o AI, i ten nasz odcinek ówczesny o Izraelu i Gazie, bo tam opisujemy szeroko jak te systemy działają, to jest rzeczywiście okropne. Ostatnio była sesja ONZ, która podjęła temat właśnie używania autonomicznej broni, żeby stworzyć jednak jakąś rezolucję, w której będzie napisane, w jaki sposób mamy ustanawiać, pilnować ludzkiego nadzoru nad bronią, że nie możemy oddawać

W czarną skrzynkę decyzji o tym, kiedy strzelać i kogo zabić. Choć oczywiście, mimo że te dyskusje w ONZ trwają, to można sobie zadawać wiele pytań na temat tego, na ile ONZ ma jakąkolwiek moc sprawczą w dzisiejszym świecie, bo już i Stany Zjednoczone, i Rosja, i Izrael powiedziały, że obra, obra, wy se regulujcie, mamy swoje zastrzeżenia i my byśmy woleli to krajowo regulować, więc nara. Tak, wiemy przecież, że w atakach na Iran cele były wyznaczane przez Claude'a, przez Antropik i ich priorytety tego właśnie, które cele atakować w pierwszej kolejności i tak dalej, to było też jasno powiedziane, że po prostu Pentagon korzystał Z Antropika swoją drogą w tym samym momencie, w którym jednocześnie zrywali kontrakt z Antropikiem i Antropik mówił to dlatego, że nie chcemy tutaj, żeby nasze oprogramowania były używane, czy nasze modele w sposób, który może być zły dla ludzkości.

I tak już były i były od lat. Jest też kwestia autonomicznych dronów. To też jest ogromna innowacja na wprowadzeniu wojen, że dochodzimy do sytuacji, w której po prostu są drony, Dochodzimy do takiego rozwoju. Drony, które są zarządzane przez AI i one faktycznie podejmują całkowicie autonomiczne decyzje o identyfikacji celu i o tym, czy strzelać, czy nie. To jest coś, co mnie martwi. To nie jest doom scenario, ale prawdopodobieństwo, że to nam zaszkodzi i że to jest zły rozwój dla ludzkości oceniam na 100%. Zgadzam się. A trzecim aspektem, który wydaje mi się jest teraz najbardziej aktualny i regulacji tego właśnie najbardziej by nie chcieli Altman z Amodeim, to jest cyberbezpieczeństwo.

Nie powinniśmy pozwalać, by dyskusje o nowych regulacjach prawnych odwracały uwagę od faktu, że w przypadku sztucznej inteligencji nie obowiązują żadne wyłączenia spod przepisów już istniejących. Bo to, co się w tej chwili dzieje, to jest coś takiego jakby... Wiesz, wjeżdżają elektryczne samochody na ulice i ludzie zamiast oczekiwać, że elektryczne samochody, tak samo jak samochody spalinowe, będą jechały 50 km na godzinie w terenie zabudowanym, nagle stwierdzali, to jest nowa technologia, musimy napisać nowe prawo drogowe pod samochody elektryczne, a tymczasem, póki nie napiszemy, niech one jeżdżą jak chcą. Musimy okiełznać tych nowych bogów naszych ulic. On teraz przejechał 150 na po prostu 30. On to potrafi. On to potrafi.

One nie dzieją się Znikąd. Nie spływają na nas z niebios. Te rzeczy robią ludzie. Media się na to łapią. The Economist niedawno pisał o incydencie Hugging Face. Gdyby zrobili to ludzie, to mogłyby na nich ciążyć zarzuty. To zrobili ludzie. To oprogramowanie napisali ludzie. Tam były ludzkie zaniedbania. Ziomo zostawił program, żeby coś tam robił, nie załączył mu plików i przez miesiąc nikt tego nie wykrył, bo takie mają beznadziejne systemy bezpieczeństwa. Tak, to jest włącz inżynieryjny, no po prostu. Tak. Bardzo jasny. A kiedy próbuje się to, wiesz, są te próby teraz, słynny METR, czyli właśnie organ, który tutaj dochodzi do tego, co tam się właściwie wydarzyło w tym OpenAI, w tym Hugging Phase, ustala z OpenAI zakres pytań, na które OpenAI będziemy odpowiadać w tych pytaniach.

Są same takie o to, co wiedziały te agenty, co one zrobiły, co one myślały. Nie ma żadnych pytań o odpowiedzialność ludzką. Kto pisał program, kto co zaniedbał. Trzeba obarczać odpowiedzialnością ludzi, którzy to tworzą. Jak pisze Timnit Gebru, kiedy most się zawala, to nie pytamy, co myślał sobie most. Tak i wiesz, dlatego też te firmy mówią o zgodności. My będziemy pracować nad zgodnością. Kwestia nie jest zgodności, tylko kontroli i konsekwencji. Oni jakby nigdy nie myślą o tym, że jeśli to nam grozi, to powinien być po prostu wyłącznik awaryjny, tak? Nie, my musimy pracować nad tym, żeby się lepiej dogadać.