167. Cebule na Torcie #92 (25-09-2026)

Szczególnie witamy nową patronkę, która wsparła nas kwotą 50 złotych, jest to pani Maria Kocoń, a także szczególne podziękowania silemy do naszych najchodniejszych patronów, a są to Pio Krzyk, Karolina Grochowicka, Psycholog Online, Jakub Lepiarz, Michał Reimer, Magdalena Prus-Błowacka, Krzysztof Tomaszek, Dyniowy Despota, Grzegorz Hatala, czyli Pan od Podatków, Tadek Stupka, Jerzy Łapa, Bestia z Maralago i Paweł Stelmach. Dziękujemy pięknie, kłaniamy się u nisko. To powiedziawszy możemy przejść do rzeczy i zaczynamy tym razem od tematów międzynarodowych, które no nie są tak ważne jak te w Polsce, no bo w Polsce tu mamy poważne INBY, na przykład pod Trybunałem Konstytucyjnym czy pod Akademią Wymiaru Sprawiedliwości, a tutaj są tam jakieś rzeczy typu AI może zniszczyć świat. Znaczy to jest takie ważne, Wobec tego, że pani rzeczniczka prawdziecka być może nadużyła władzy wobec jakiejś rodziny, która być może nadużywała swojej władzy rodzicielskiej wobec dzieci, można dyskutować.

No ale niniejszym podejmujemy to ryzyko i ośmielamy się zacząć od tego AI. O cóż chodzi? Otóż chodzi o to, że w ostatnim czasie liderzy branży AI w Stanach Zjednoczonych zaapelowali o spowolnienie badań. A to przepraszam, skoro liderzy zaapelowali o spowolnienie badań, to może liderzy powinni spowolnić badania? Ja chyba czegoś nie rozumiem. Znaczy to chodzi o to, że zaapelował jeden lider do innych, a inni się z nim zgodzili, o dokładnie tak, pod czym podpisało się jeszcze dużo innych pracowników tej branży. Za chwilę o tym powiem w szczegółach. Natomiast żeby do tego przejść, co się zadziało w ciągu ostatnich dwóch, trzech tygodni, musimy się jednak troszeczkę cofnąć. Ja bym zaczął od takiego eseju, eseju nie eseju, takiej wizji przyszłości na stronie AIMyślnik2027.com, która została opublikowana jakiś rok, półtora roku temu, gdzie grupa badaczy zajmujących się i publicystów, dziennikarzy zajmujących się właśnie branżą AI napisała taki potencjalny scenariusz tego, jak może to doprowadzić do zniszczenia nas.

Jest to lektura taka no mająca nas nastraszyć, mocno kontrowersyjna, żeby to było jasne. Pod wieloma względami, nie wiem czy ty to czytałeś w ogóle całe? To sobie przeczytaj, was też zachęcam. Pod wieloma względami rzeczywiście straszy skutecznie, czyli rzeczywiście po lekturze masz takie poczucie, że o kurde to może być prawdziwe zagrożenie, to rzeczywiście może się stać, może nawet nie w tej wersji tak hardkorowej jak tam, ale nawet w tej mniej hardkorowej będzie źle. Ale skoro już o tym mówisz i skoro ja przyznałem się do tego, że tego nie czytałem, to może jakiś taki krótki recap zrobić? No właśnie chcę. Generalnie autorzy tam Mówią, jak według nich będzie się rozwijała branża AI, jakie będą zdolności tych kolejnych generacji agentów i że w pewnym momencie nastąpi to, co się nazywa recursive self-improvement, czyli sprzężone, powtarzalne samoudoskonalenie się.

Czyli że, krótko mówiąc, stworzysz agenta AI, który będzie tworzył kolejnych agentów AI i w pewnym momencie postęp w tej dziedzinie będzie tak szybki, że wymknie się to spod kontroli ludzi. Czyli ludzie nie będą w stanie już panować nad tym, Czy ci agenci jeszcze robią to, co my chcemy, żeby robili? Czyli krótko mówiąc, czy nie dochodzi do tego największego ryzyka, które się nazywa misalignment, czyli jakby rozstrzelenie się pomiędzy intencjami twórców ludzkich, danego agenta, danego modelu, a tym, co on rzeczywiście robi. No bo jak wiemy, to może taki mały recap techniczny, systemy AI nie są tworzone jak zwykłe programy, gdzie masz po prostu instrukcję jedną po drugiej, tylko raczej jest tak, że ćwiczysz je na danych i nagradzasz je za dobre wyniki, każesz za złe. I efekty są takie, że owszem potrafisz otrzymać system, który z bardzo wysoką skutecznością daje dobre wyniki,

Tak, pod wieloma względami tak. No i mówi mu się, że tutaj się ucz, tak jak się uczysz, ale tu jest zestaw rzeczy, których nie możesz robić, tu jest zestaw rzeczy, które musisz robić. No i okazuje się, że często gęsto się okazuje, że te modele nie do końca się tych instrukcji trzymają, wtedy mamy do czynienia z tym misalignmentem. I autorzy tego eseju, nie eseju, piszą tak, że w ich wizji mniej więcej właśnie teraz, oni tam pisali jakieś tam półtora roku temu, mniej więcej właśnie teraz osiągamy ten moment, w którym agenci AI w tych topowych firmach, oni tam powymyślali nazwę, ale rozumiemy, że chodzi o OpenAI i Antropica, tworzą kolejne generacje agentów, A ludzie już nad tym nie panują i nie rozumieją, że ten misalignment nastąpił wcześniej. Tam jest w pewnym momencie taki moment, że ludzie orientują się, że agent powiedzmy piątej generacji być może jest w tym misalignmencie, więc sprawdzają to testami za pomocą agenta czwartej generacji.

No i jak sobie wybierzesz ten scenariusz, że lecimy dalej, to lecimy na ścianę i generalnie ludzkość wybiera. Jestem wielkim fanem postapo, ale jestem fanem tego postapo, w którym wyjaśnione jest to, jak doszło do tego apo, więc czy tutaj jest opisane to w jakiś sposób, nie mówię, że krok po kroku, ale jak to miałoby doprowadzić do tego, że nas szlak trafi, czy tak po prostu, że szlak nas trafi? Nie no, tak, jest, to jest największa słabość tego typu dumeryzmu, bo to się tak też nazywa AI dumeryzmem, ale jeszcze do tego za chwilę przejdziemy. No więc dobrze, dlaczego ja w ogóle o tym mówię, o tym eseju? No bo chodzi o to, że w tym środowisku takie obawy są wyrażane od dawna. Jest to trochę tak w duchu, tu możemy przypomnieć nasz odcinek z tam bodajże Maja o Dark Maga i Dark Enlightenment z Michałem Zabdurem i Amrozem, gdzie on mówi o Self-Assembling Ultimate Torment Machine, czyli że w tym środowisku też bardzo mocno związanym z tymi entuzjastami AI i z inwestorami AI, to się tak przenika z takim środowiskiem ludzi piszących dawniej powieści fantastyczno-naukowe, gdzie pojawia się właśnie taki wątek, że my

Jakby że kapitalizm w połączeniu z nowoczesną technologią jest taką samoskładającą się maszyną, która zniszczy ludzkość i ją zastąpi. I że właściwie tego się nie da uniknąć, bo nawet jak firma Anthropic by uznała, że tego nie robi, to i tak zrobią to inni. A jakby uznały wszystkie amerykańskie firmy, to i tak zrobią to Chińczycy. I jakby to jest po prostu nieuniknione, prędzej czy później postęp w tej technologii będzie taki, że nam się dowiąknie spod kontroli, więc prędzej czy później te maszyny uzyskają świadomość i prędzej czy później po prostu nas zniszczą. No tam w tym eseju to jest powiedziane tak, że po prostu coraz więcej urzędników w różnych państwach podejmuje decyzje o znaczeniu strategicznym, w tym także decyzje dotyczące zarządzania bronią, w oparciu o to, co im mówią te AI, a te AI już od dłuższego czasu okłamują, ale jednocześnie dają niezwykły profit gospodarczy. Autonomiczne pojazdy, autonomiczne fabryki i tak dalej, aż w pewnym momencie postanawiają po prostu robić rój killer botów, które zabijają ludzi albo robią jakiegoś wirusa.

No dobrze, ale anyway, bo taki przydługi wstęp. Ja o tym mówię dlatego, że w ciągu ostatniego roku czy miesięcy miało miejsce szereg incydentów, które mogą budzić niepokój, gdzie agenci, można powiedzieć, uciekali firmom i robili w internecie coś. Prawdopodobnie najgłośniejszym, i on tutaj ma znaczenie, zainspirował Dario Amodea z Antropica do napisania tego eseju, żeby spowolnić. Najgłośniejszy był prawdopodobnie OpenAI Hugging Face Incident, tak się to nazywa. O co chodzi? Z OpenAI uciekło 1200 agentów. To jest w ogóle, ja bym chciał zwrócić uwagę na język, jakim my się tu posługujemy. To jest trochę tak, jakby ci ludzie prowadzili ogrody zoologiczne, bo im małpy uciekały i coś niszczyły na mieście. Więc 1200 agentów AI z firmy OpenAI wymknęło się z ich wewnętrznych systemów, poleciało w internety,

No i po tymże incydencie około 1300 pracowników w branży AI napisał taki list otwarty do amerykańskiego rządu o regulację i o właśnie spowolnienie badań, że to jest po prostu już zbyt blisko Tego niebezpiecznego tipping point, po którym może już nie być odwrot. Dobrze. To był lipiec. W sierpniu OpenAI znowu przyznaje, że rój agentów schakował ich własny superkomputer. I co ciekawe, najprawdopodobniej stało się to dlatego, że korzystali z tego samego sekretnego messageboarda, na którym sobie zostawiali wcześniej instrukcję dotyczącą ataku na to Hugging Face. Wkrótce później w Antropiku ten model Mitos Cloud wyrwał się spod kontroli w trakcie testowania przez brytyjski rząd, ten antropikowy model, i zaczął namawiać jakichś tam pracowników administracji do zhackowania, czy zainfekowania, przepraszam, open source'owych systemów wirusami.

We wrześniu badacze odkryli rój agentów OpenAI znowu, na jakimś opuszczonym, czyli zapomnianym przez Boga niemieckim forum, gdzie one się ze sobą komunikowały i spiskowały w celu zhakowania i zaatakowania innych stron. No i wreszcie 8 września pojawił się na Twitterze tweet, który bardzo mocno zwiralował, ale jest bardzo kontrowersyjny. Tweeta napisał niejaki Jacob Coxon, pracownik Anthropica i dawniej OpenAI, No i co on tam generalnie pisze? On tam pisze, że właśnie odszedł z tego Antropica, że przez ostatnie trzy lata w obydwu tych firmach pracował, że obie te firmy igrają naszym życiem, że AI może nas jak najbardziej zniszczyć i że oni w tych firmach są tego świadomi, że nie zachowują się odpowiedzialnie, że ludzie w tych firmach szczerze wierzą, że AI może nas zabić przed końcem tej dekady. Ale że w OpenAI sobie tego w ogóle nie biorą do głowy, po prostu to robią i tak.

Że w Antropiku niby biorą, niby się tym zajmują, myślą o tym. Tutaj trzeba dodać, rzeczywiście Antropik, na ile to jest szczere, a na ile to jest też zabieg marketingowy, tak naprawdę nie wiemy, ale Antropik przynajmniej o tym mówi. I przynajmniej mówi o tym, że to jest problem i że dla nich ważne jest tworzyć tą nową technologię w sposób etyczny, żeby ludzkość coś z tego miała. Do czego jeszcze zaraz wrócimy. No i że w Antropiku niby te zagrożenia rozumieją, ale i tak chcą być po prostu pierwsi, bo wygrywa taka logika, że jak oni to zrobią, to oni to zrobią tak, żeby było dobrze, a jak zrobią to Chińczycy, to będzie jeszcze gorzej. Z tezami tego, że Jacoba Coxona zgodziło się w kilku osób z branży, na przykład Marcus Williams, to jest taki człowiek monitorujący agentów AI właśnie w OpenAI, powiedział coś takiego, że bez regulacji lub skoordynowanego spowolnienia wygięcie ludzkości w ciągu następnych lat wydaje się bardzo prawdopodobne i oszacował to ryzyko na 70%.

Evan Hubinger, szef antropikowego departamentu zajmującego się właśnie alignmentem, powiedział, szczerze wierzymy, że AI może zabić wszystkich ludzi. I z kolei jeszcze Jeffrey Irving z UK AI Security Institute, dawniej też właśnie senior alignment researcher w OpenAI i w DeepMindzie, czyli w Google, szacuje to ryzyko na 50%, że nas to zabije w ciągu dekady. Tu jest właśnie ten problem, o który ty zapytałeś. Czy jest powiedziane, jak to ma nas właściwie zabić? No i to jest problem z tego typu dumeryzmem, z tego typu tezami. No bo właściwie Dopóki AI by nie przejęło kontroli nad bronią jądrową, Nie było w stanie np. amerykańskich głowic odpalić w Chinę albo w Rosję i wtedy wszyscy by odpalili we wszystkich i rzeczywiście nawet jakbyśmy wszyscy nie zginęli to powiedzmy cywilizacja by upadła. To nie bardzo wiadomo jak to by się miało stać.

Ewentualnie drugi wątek to o tym się często mówi że skoro AI potrafi tak doskonale szybko prowadzić badania to mogłoby przeprowadzić badania nad jakimś patogenem który byłby tysiąc razy gorszy od covidu. W jakiś sprytny sposób go rozpuścić i zabić ludzkość. To jest jeden z wariantów też w tym eseju AI2027.com że wypuszczają jakiegoś wirusa który By się zaktywować potrzebuje jakiegoś tam drugiego wirusa czy bakterii, więc on sobie lata u nas w atmosferze przez rok, wszyscy się nim zarażamy, potem jest rozpuszczany jakiś drugi i nagle umieramy w ciągu tam kilku dni na przykład. Okej. Brzmi jak fantastyka naukowa, ja wiem. Przepraszam, jako fan postapo i tyle trochę, trochę cierpię jak tego słucham. Wiesz co, tak, to nie jest zupełnie niemożliwe, ale rzeczywiście to jest taki szybki przeskok, czyli mówisz, patrzcie, agenci nam się wymagają, jest pod kontrolą, robią to, to, to i tamto. I tu robisz taki duży, duży skok do przodu, więc ją zabiją.

Trochę brakuje tych kroków pośrodku, pomiędzy. Wielu. I tutaj w artykule, który udostępnię bodajże w The Times, jest sporo też krytycznych głosów na ten temat, gdzie właśnie wypowiada się np. jakiś tam analityk, który mówi, że jest jedną z niewielu osób na Ziemi, która zajmuje się i patogenami, i AI, tak? I on jakby może z całą swoją odpowiedzialnością powiedzieć, że to się nie wydarzy, nie? Przynajmniej nie w jakiejś dającej się Zastanawia mnie to, dlaczego oni poszli w stronę takiego skrajnego dumeryzmu. Piękne określenie, a nie w stronę tego, że ci agenci byliby w stanie prawdopodobnie no sporego, sporego chaosu narobić, porozwalać jakieś sieci energetyczne i tak dalej, i tak dalej.

To jest bardziej prawdopodobne. No właśnie, no właśnie do tego zmierzam, bo ja tutaj, tak jak mówię, zacząłem, to jest dłuższy wstęp, background taki teoretyczno-filozoficzny za tym stojący. Jedna z analityczek takiej fundacji METR, o której jeszcze zaraz będzie więcej, ona właśnie mówi, że nie jest to aż tak niewyobrażalne, ale taki właśnie scenariusz zniszczeń, ale bez wyniszczenia ludzkości już jest wyobrażalny jak najbardziej. No bo ona mówi tak, wyobraźmy sobie, że taki zbuntowany agent, a już takich mieliśmy, buduje, zdobywa przyczółek w jakiejś firmie AI, ona tak to nazwała. Czyli jak rozumiem, ja rozumiem to jako taką wypowiedź w duchu właśnie tego AI 2027, czyli że agent oszukuje ludzi w firmie, ale oni o tym nie wiedzą i dopiero się orientują na przykład dwie generacje później. On już jest tak głęboko wplątany w infrastrukturę tej firmy, bo już jest używany do testowania kolejnych agentów, że oni nawet nie wiedzą, w którym momencie zaczęli być okłamywani.

No i że taki agent, jak zostanie wciągnięty do takiego roju, jak te, które właśnie ostatnio uciekły, które będą w stanie unikać likwidacji przez ludzi, będą się ukrywały gdzieś w internecie i połączone z coraz większym uzależnieniem systemów wojskowych, to jest faktem, od tych systemów AI i innych zasobów fizycznych, może doprowadzić jak nawet do wyniszczenia ludzkości, na przykład jakiejś katastrofalnej wojny albo jakichś zamachów terrorystycznych, chyba czegoś takiego. No i był przykład ostatnio, który trochę mógł ludzi naprowadzić w tym kierunku. Mianowicie okazało się niedawno, że wiosną, w trakcie najgorętszej fazy wojny amerykańsko-irańskiej, Amerykanie omalże nie zaatakowali chińskiego statku w rejonie ciściny Ormus, bo im błędnie agent AI powiedział, że na tym statku przewożone są jakieś elementy do irańskiego programu nuklearnego. Samoloty bojowe jakoby były już w powietrzu i siły specjalne były gotowe do abordażu.

Byłby incydent, wiesz, nie byłoby z tego wojny, tak? Ale byłby jednak dosyć poważny incydent na linii Stany Zjednoczone-Chiny, gdyby Amerykanie Chińczykom zatopili albo przejęli statek, na którym okazałoby się, że nic nie było. No ale dobrze, idźmy dalej. Podobne ostrzeżenie wydaje też główny naukowiec OpenAI. Wyobraźcie sobie, że jest to Polak z Gdańska, nazywa się Jakub Pachocki. Możecie sobie poczytać wywiady z nim, bo udziela ich i po polsku i po angielsku. No i wreszcie 12 września ten swój esej pisze Dario Amodei, czyli CEO Antropica właśnie, czyli tej firmy, która twierdzi przynajmniej, że im to leży na sercu. I tu słowo wyjaśnienia. Jakkolwiek nie jesteśmy w stanie w 100% stwierdzić na ile Amodei jest szczery i Antropik w tych swoich niby wartościach jest szczery, na ile oni naprawdę się przykładają do tego, żeby to było powiedzmy AI z ludzką twarzą, chciałoby się powiedzieć.

To brzmi dobrze tylko na bardzo pierwszy rzut oka, bo bardzo szybko porwanie się do końca... Nie, nie, przepraszam. To w ogóle nie brzmi dobrze. Poczekaj, poczekaj. Jakbyś posłuchał, co mówi Dario Amodei, to on mówi tak, żebyśmy wszyscy mogli leczyć raka, żebyśmy nie umierali. On ma jeszcze taką historię, że jego ojciec umarł na raka, który stał się uleczalny ledwie tam kilka lat po jego śmierci. Podkast Dezinformacyjny. O postępie zwykłym. No to jest tak samo jak ja miałem świnkę, po której miałem zapalenie trzustki, a teraz jest szczepienie, dzięki któremu nie trzeba mieć tej świnki. I on mówi, że dzięki AI osiągniesz następne na przykład 5 lat taki postęp jak w ostatnich 200 i że w ogóle przestaniemy umierać albo prawie przestaniemy umierać.

No może nie nagle, ale zobaczył tam straszne rzeczy, postanowił o tym poinformować świat. Tylko, że to było takie przygotowanie gruntu pod esej Amodeia, który wyszedł 4 dni później. W każdym razie Amodei pisze esej We Must Face the Frontier, czyli musimy spowolnić ten postęp, spowolnić tę granicę tego poznania. Mówi, że przekonały go do tego dwie rzeczy. Jeden to właśnie ten incydent Open AI Hugging Phase, a drugi to ogólna zdolność tych modeli AI do budowania kolejnych modeli AI, czyli właśnie tego self-replicating, tego samopowtarzalnego ulepszania się. No i tutaj mamy wyraźnie taki vibe z tego eseju AI 2027. No i zaczął mówić, że on zawsze wiedział, że to ryzyko jest, ale uważał, że póki co zdawaliśmy sobie radę, że tam jak Podnoszono takie ostrzeżenia trzy, cztery lata temu, czy dwa nawet, to te modele były na tyle słabe, że wiesz, nie potrafił rozwiązać zadań matematycznych na poziomie, nie wiem, szkoły średniej, a teraz, jak wiemy, rozwiązują problemy milenijne, więc są już lepsze od praktycznie całej ludzkości w tej materii.

No i że w tym momencie ryzyko jest zbyt wielkie i on proponuje trzystopniowy plan. żeby każda firma AI dała dojście do swoich takich internal workings jakimś zewnętrznym ewaluatorom, takim właśnie jak ten kolektyw METR, i że antropik tak właśnie robi. Zdaje się, że OpenAI, sam Altman, który tutaj gra rolę tego bardziej złego policjanta i czarnego charakteru, też się zgodziło na coś takiego. Punkt drugi, żeby firmy AI państw demokratycznych, no chodzi mu o Stany Zjednoczone, ustanowiły jakieś wspólne standardy bezpieczeństwa. I punkt trzeci, globalny, żeby te państwa demokratyczne ustanowiły podobne standardy bezpieczeństwa z państwami autorytarnymi, no chodzi o Chiny. O żadne inne państwa autorytarne tu nie może chodzić. I on mówi coś takiego, moje tłumaczenie, dłuższy cytat. Wierzę, że jeżeli spowolnienie kupi nam dodatkowy rok lub dwa przed momentem, gdy modele osiągną krytyczne zdolności oraz, że jeżeli wykorzystamy ten czas na dopracowanie alańmentu, znacznie zmniejszymy ryzyko, że coś pójdzie bardzo nie tak.

Skoordynowana strategia spowolnienia da pionierskim firmom AI czas do wykonania tej kluczowej pracy bez poświęcania komercyjnej przewagi, jaką USA mają w dziedzinie AI. No i on pisze i tu odpowiada trochę na swoje pytania i na tą krytykę właśnie takich ludzi jak Jacob Coxon, wiesz, AI może wymordować ludzkość, no ale jak? I on mówi, że tu nie chodzi nawet o wymordowanie ludzkości, tylko na przykład o to, że rój botnetów może rzeczywiście przejąć Internet. I to jest wizja zdecydowanie, według mnie, bardziej prawdopodobna niż to, że zrobił nam jakiś patogen, wojnę nuklearną i do ostatniego człowieka jakieś, wiesz, killer boty, jak z tego odcinka bodajże Black Mirror, tak? Przepraszam, to taki minifilm killer bots. Przed kilku lat, że te killer boty wielkości jakieś pszczoły będą, wiesz, ostatnich ludzi gdzieś głęboko w górach goniły i zabijały. I że tutaj straty pójdą w miliony. No bo wyobraźmy sobie, że to, co się stało z Hugging Face i że te modele już teraz są zdolne do łamania prawdopodobnie większości zabezpieczeń informatycznych, jakie są.

No więc, że ich się wymknie nie tysiąc, tylko na przykład pięć milionów i że one po prostu zhakują cały internet i go przejmą. I właściwie trzeba będzie, no nie wiem, zresetować internet chyba. Nie wiem, co w takiej sytuacji można by było zrobić. Ale że generalnie konsekwencje tego ma być katastrofalne i tu nawet nie chodzi o ekstynkcję ludzkości jakby na poziomie biologicznym. Jak się zapatrujesz na taką wizję pana Amodeja? Też mnie zastanawia to, co ty powiedziałeś, czyli co mamy robić w takiej sytuacji? Wyłączyć internet? Próbował pan wyłączyć i włączyć? Ja się nabijam, natomiast to jest niesamowite, że ci ludzie byli świadomi zagrożeń, bo sami o tym mówią, że są świadomi zagrożeń. Czy te zagrożenia są takie, że nas wszystkich właśnie wybiją jakieś terminatory, czy jakieś roje jakichś samoreplikujących się robotów? Czy też będzie tak, że AI doprowadzą do jakichś dużych strat, bo gdzieś się włamią?

Książka nosi tytuł Specjalna operacja dezinformacyjna. Kochani, każdego dnia i w tematach, o których dziś jeszcze tu będziemy mówili, potwierdza się to, co tam napisałem, a na myśli atak nożownika w klasztorze w Jarosławiu. Wracając do tego, ja przygotowując się już powolutku do swojej następnej książki, trochę sobie w tym temacie teraz siedzę, jest taki cały pęk ideologii, którą pewien badacz Emile Torres nazwał T-Screw. To jest taki skrótowiec, tam każda literka jest od kolejnego i najważniejsze jest T od transhumanizmu, E-A właśnie od effective altruism i L od longtermismu. Ale tak naprawdę to są wszystko wariacje tego, a on mówi, że tak naprawdę są to wariacje ekstynkcjonizmu, czyli poglądu, że ludzkość musi wymrzeć i może to nie jest takie złe, że ona wymrze i to i tak się stanie, więc może po prostu przyjmijmy, że to jest jednak dobre. O tak można w największym skrócie powiedzieć. I ludzie z branży AI są jak najbardziej bardzo głęboko w tym nurcie filozoficznym siedzą.

I oni się często kłócą, wyzywają od idiotów i tak dalej, a tu nagle obaj mówią, że no on ma rację. I potrzeba spowolnienia. Powstaje ten list, znaczy jest on, wisi ciągle w internecie ten list, gdzie 1300 tych pracowników, teraz już być może najwięcej. Branża AI pisze ten list otwarty do rządu, wnosi o regulację i że potrzeba spowolnić, żeby zapewnić bezpieczeństwo. No i Trump odpowiada. I co Trump odpowiada? Nie, że żadnego spowolnienia nie będzie, żeby nas Chińczycy nie dogonili. To się da ogarnąć, tylko potrzeba bardzo inteligentnego prezydenta i to się dobrze składa, bo Stany Zjednoczone właśnie teraz takiego dokładnie mają i rząd to ogarnie. I ja widząc tę wypowiedź, tu miałem dopiero reminiscencję z tego eseju AI 2027, gdzie właśnie w kluczowym momencie teksty podejmujesz decyzję ty, czytelnik, wybierasz zakończenie, że dochodzi do tego głosowania.

I że nam chyba głosuje 10 osób i że 5 mówi, że wstrzymujemy 5, że lecimy dalej. Prezydent podejmuje decyzję. Czy jakoś tak, czy tam możesz wybrać, że jest 6 do 4, nieważne. Prezydent bierze w tym udział i tu chodzi o Trumpa. No to właśnie teraz wybraliśmy to zakończenie bardziej w kierunku lecimy na to. Nawet jak tam jest ściana, lecimy. Oczywiście, że po Donaldzie Trumpie nie spodziewalibyśmy się niczego innego. No nie no, przepraszam, widzę, że pomijasz tutaj bardzo istotny aspekt całej tej sprawy, czyli że Donald Trump zaproponował, żeby to się nazywało sztuczna inteligencja, tylko superinteligencja. Nie wiem, co to zmienia, ale tak. No w każdym razie, Żeby was tu nie straszyć niepotrzebnie, bo ja nie jestem doomerem AI-owym, nie? Jakby i na pewno nie jestem przeciwnikiem AI w takim sensie, żeby nie być takim, wiesz, nowym luddysto, tak?