AI kontra ludzkość. Wszyscy zginiemy?

No bo jakby w przeciwnym razie zakładam, okej, my zrobimy pierwszy, a Chiny po miesiącu i co wtedy? No i tak Chiny nas wykończą, więc jak rozumiem, albo ta sztuczna inteligencja po prostu W pierwszym swoim kroku bycia dobrą, uczynną superinteligencją. Przyjdzie do pana Xi i zapuka do jego drzwi. Nie no i po prostu wiesz, wysadzi te laboratoria, zabije wszystkich naukowców, którzy nad tym pracują. W ramach obrony ludzkości, w ramach tej zgodności z naszymi celami, no to będzie trzeba po prostu sama Altmana sprzątnąć, sprzątnąć wszystkich chińskich naukowców zajmujących się już tą inteligencją, żeby nie ryzykować. Albo po prostu im powie słuchajcie, Tu jest nasz poradnik, jak być dobrą sztuczną inteligencją. Myślę, że może wam się przydać, skorzystajcie. Wiesz, jest to strasznie naiwne myślenie. Druga moja myśl jest taka, że jeśli mam do wyboru,

No, track record, tak? One możemy im, jakby państwa mogłyby zniszczyć świat, nawet te najgorsze mocarstwa, te najgorsze, najstraszniejsze, nie zrobiły tego. Ale nie niszczą, bo chcą mieć świat. I te Chiny, one są bardzo ciekawe i też pojawiły nam się niedawno w kontekście odpowiedzi na tę panikę, odpowiedzi na te apele o regulacje, które wystosowywali nie tylko szeregowi pracownicy, ale także szefowie, prezesi AI. Bo mieliśmy i w lipcu bardzo znany już list, pismo takie Pacing the Frontier, wielkie pismo, które i właśnie Sam Altman i Dario Amodei, czyli szefowie OpenAI i Anthropic podpisali i też Elon Musk i koleś od Deep Mind'a.

No i też do tego chóru, bo to już jest właśnie chór, dołączy Mark Zuckerberg, który powiedział, że no my w Meta to myśmy opóźnili premiera naszego modelu o kilka miesięcy, żeby się skupić na bezpieczeństwie, nie robiliśmy wielkich listów, nie pisaliśmy pism, apeli, nie wiadomo czego, po prostu to zrobiliśmy, bo na tym polega nasza praca. I Zuckerberg mówi, że są dwa mechanizmy, które według niego wystarczą do tego, żeby moderować ten rozwój AI. Pierwszy to rynek, czyli że ludzie nie będą chcieli korzystać z agentów, które robią rzeczy wbrew ich woli. A druga sprawa to jest odpowiedzialność prawna. Jeżeli modele wyrządzą szkody, to firmy będą musiały zapłacić, więc jak będą się bały, że się z tego nie wypłacą, no to nie. I tutaj już widać, do tego dojdziemy, że Zuckerberg funkcjonuje w innych realiach trochę niż Amodei i Altman, bo AI, nie traktujemy AI jak innych firm zajmujących się oprogramowaniem, zajmującymi się rzeczami komputerowymi.

Ale sam Altman, sam, sam Altman, też niedawno zmienił front nagle. On podpisywał wszystkie pisma, straszył nie wiadomo co i nagle teraz we wtorek wyszedł na konferencję i powiedział Ok, regulacje regulacjami, ale świat powinien nam zaufać, że postąpimy właściwie. O co chodzi? Bo czujemy wagę tej sprawy. Tak, bo wiemy, że tutaj co leży na stole. Tak, bo tu jest w ogóle duże napięcie. Jensen Huang jest, tak jak powiedziałaś, prezesem NVIDII, czyli jego rentowność i gigantyczna wycena rynkowa, giełdowa NVIDII polega właśnie na założeniu, że NVIDIA będzie sprzedawać cały czas te Procesory, tak? Że będzie sprzedawać te karty. No więc jakby oczywiście, że on nie uważa, że oni powinni zwolnić, tak?

I wiesz, to NVIDIA by się do końca pewnie nie podobało, gdyby się te dwie firmy dogadywały i mówiły Teraz to może jednak mniejsze moce obliczeniowe, wiesz, może nie potrzebujemy tylu tych centrów danych. No i czemu akurat teraz, wiesz, czemu teraz jest nagle wielka ofensywa tych... już Altman się może trochę wycofuje, gra na dwa fronty, ale Amodei nie. Czemu jest wielka ofensywa pod tytułem regulujcie nas, regulujcie nas, chcemy tato przyjść i wiesz, wyłącz mi komputer. Spank mi daddy. Tak, albo wprowadź mi po prostu taki na telefon program, który mi wyłączy go po 22, bo inaczej ja nie pójdę spać, tylko będę pisał na Signalu z dziewczynami. No o jednej rzeczy już wspomniałeś, czyli właśnie o tej konkurencji, o tych monopolach czy duopolach, bo to jest właśnie w zakresie tych proponowanych regulacji, żeby prawo o ochronie konkurencji było takie mniej restrykcyjne, bo OpenAI i Anthropic nie są jedynymi firmami na rynku, czy nie są jednymi podmiotami tworzącymi modele.

Takie właśnie na tym hype się opierające, więc no jesteśmy trochę, kurczę, nie wiemy co robić. A jednocześnie chcemy, i to jest w wypadku Anthropic i OpenAI, chcemy zaraz wejść na giełdę. I to już zaraz, zaraz, znaczy OpenAI ogłosiło, że Altman powiedział, że my to jednak przesuwamy, może nie jest dobry moment, dużo się dzieje w branży, poczekamy, ale jakby one miały już, były bardzo, bardzo blisko wejścia na giełdę, co wymaga też właśnie Raportowania. Mówiliśmy o tym przy SpaceX. Te prospekty giełdowe są bardzo, bardzo szczegółowe. Obie te firmy przynoszą ogromne straty. Anthropic ogłosił właśnie inwestorom, że drugi kwartał z rzędu przynosi zyski, tylko że sposób ich księgowania zysków jest taki, że nie wliczają w to części kosztów.

I tak już były i były od lat. Jest też kwestia autonomicznych dronów. To też jest ogromna innowacja na wprowadzeniu wojen, że dochodzimy do sytuacji, w której po prostu są drony, Dochodzimy do takiego rozwoju. Drony, które są zarządzane przez AI i one faktycznie podejmują całkowicie autonomiczne decyzje o identyfikacji celu i o tym, czy strzelać, czy nie. To jest coś, co mnie martwi. To nie jest doom scenario, ale prawdopodobieństwo, że to nam zaszkodzi i że to jest zły rozwój dla ludzkości oceniam na 100%. Zgadzam się. A trzecim aspektem, który wydaje mi się jest teraz najbardziej aktualny i regulacji tego właśnie najbardziej by nie chcieli Altman z Amodeim, to jest cyberbezpieczeństwo.

Sam Altman i Dario Amodei jeszcze tego nie wiedzą. I to, co też wydaje mi się tutaj istotne, to jest to, że OpenAI na przykład ostatnio, dosłownie chyba dzisiaj czy wczoraj, Ujawniło kolejne 6 nowych incydentów bezpieczeństwa i mówi o tym dokładnie w takiej narracji, jak ty tutaj opowiadasz. No wydarzyło się i teraz razem będziemy pracować, żeby to się już nie wydarzyło. Kurde, jak ktoś Rozumiesz, jak ktoś podpali las, bo zapalił papierosa w lesie, to nie ma opowieści o tym, no już teraz wiem, że jak się podpali fajka w lesie, to jest pożar. Wszyscy się z tego czegoś nauczyliśmy. Wszyscy się nauczyliśmy, że nie wolno palić fajek w lesie. No trochę powinniście wiedzieć, że jak się pisze oprogramowanie, to jest wasz job, dokładnie tak jak mówi Jensen Huang.