Agent też człowiek. OpenAI, Anthropic i sekta AI

Świat uratowany. Było wielkie spotkanie u Trumpa. Szefowie firm od AI ustalili, że dadzą radę, że apokalipsy nie będzie. Wracamy dzisiaj do tematu sztucznej inteligencji, bo on w świetle ostatnich wydarzeń zasługuje na to, żeby zanurkować głębiej. Dziś opowiemy sobie o AI religii, którą wyznają chłopcy i pięć dziewczyn z Doliny Krzemowej. Pogadamy o tym, co myślą o świadomości, moralności, ludzkich emocjach oraz Harrym Potterze. Zapraszamy. Cześć, dzień dobry, witamy w podcaście Co to będzie? Ja nazywam się Marta Nowak. Ja nazywam się Miłosz Wetrowski-Bujacz. I dzisiaj gadamy znowu o AI, bo po pierwsze wydarzyły się pewne

Było wielkie spotkanie u Trumpa, o którym za chwilę opowiemy, od którego rozpoczniemy, ale też stwierdziliśmy oboje, że warto by było jednak wejść głębiej w tę umysłowość, w to pojmowanie, w te wierzenia chłopaków zajmujących się sztuczną inteligencją. Na temat właśnie tego, jak ona ma się rozwijać. Porozmawiamy sobie o tym, co oni uważają za nieuniknione, jak to warunkuje ich podejście do rozwijania tej technologii i oczywiście ocenimy to sobie, zobaczymy jak w bardzo kategorycznych słowach. Tak, spojrzymy na to, jaką rolę oni mają w kształtowaniu tej sztucznej inteligencji, która jak teraz ostrzegają nas wszem i wobec, zaraz się wymknie spod kontroli i właściwie to już jest prawie ludzka, a za chwilę będzie bardzo ludzka, a potem będzie po prostu nadludzka.

A teraz już w mediach, w amerykańskim portalu Axios na przykład anonimowe źródła z Anthropic i z OpenAI mówią, że tych naruszeń było tysiące, dziesiątki tysięcy. Więc tutaj faktycznie skala, a przynajmniej tak jak tak twierdzą te anonimowe źródła jest ogromna. Ale jednocześnie dwa tygodnie po tym, jak mówiliśmy też o tym, że po prostu wszyscy szefowie tych wielkich laboratoriów, nawet Elon Musk, błagają regulatorów, błagają rządy światowe o to, żeby po prostu założyły im kaganiec, że musi być regulacja, że muszą być zmiany prawne. Spotkali się Trumpa. Trump ich zaprosił. No i Trump wyszedł i posłuchajmy co powiedział po tym spotkaniu.

Panie prezydencie, proszę powiedzieć dlaczego nie powinniśmy bać się AI? I dlaczego nie potrzebujemy nowych ograniczeń? Bo mamy tutaj ludzi, którzy bardzo kochają nasze państwo, bardzo kochają świat. Potrzebne jest nam chyba coś więcej. To chyba mózgu, a to są najinteligentniejsi ludzie na świecie i mieliśmy świetne spotkanie. Wspanialy jest ten materiał. Oczywiście, to też mówiliśmy ostatnio w kontekście tego, że odbyło się ONZ, odbyło się Zgromadzenie Ogólne ONZ i tam Trump też bardzo osławił sztuczną inteligencję, ochrzcił ją na nowo super inteligencją. Teraz tak powinniśmy mówić. Nie wiem właściwie Miłosz, dlaczego my do tej pory w tym odcinku dzisiejszym mówimy inaczej. No więc skoro prezydent Stanów Zjednoczonych jest bardzo optymistyczny, jeżeli chodzi o przyszłość AI i jeżeli chodzi o to, że nie trzeba państwowych regulacji, nie trzeba sobie samemu tego kagańca zakładać, no to prezesi tych firm

Nie chcąc wypaść z łask, bo jak wiemy dla big techów kluczowe jest to, żeby Donald Trump pozostawał ich sojusznikiem, no dostosowują się do tej narracji. Nawet ci, którzy tak bardzo, bardzo straszyli tym, że AI jest ogromnie potężne i trzeba je jakoś ograniczać. Ale na pewno nie Dario Amodei. Na pewno nie Dario Amodei. Przecież on tutaj wielokrotnie, on akurat wielokrotnie miał odwagę, wiesz, z Trumpem iść... Na udry. Na udry, iść w klincz starcie. Pamiętamy jak na początku roku Trump po prostu, czy no tak, na przełomie lutego i marca Trump straszył, że Anthropic zostanie pozbawiony wszystkich kontraktów rządowych, I co więcej, wszystkie firmy, które będą miały jakiekolwiek kontrakty z Anthropiciem, będą po prostu stracą dostęp do kontraktów rządowych, bo Anthropic nie chciał się zgodzić, żeby jego modele były używane przez rząd stąd zjednoczonych w każdy sposób, w jaki ten rząd stąd zjednoczonych chciałby to robić, niezależnie od tego, czy jest to sfera militarna, czy po prostu atakowanie przeciwników politycznych wewnętrznych.

A więc Amodei wiemy, że jest po prostu tym człowiekiem, człowiekiem niezłomnym, który Trumpa się nie boi. Posłuchajmy, co on powiedział po tym spotkaniu. Powiem to, co zawsze mówię. AI przynosi ogromne korzyści. Mówiłem o wynikających z tej technologii korzyściach w branży medycznej. Tak jak powiedział prezydent, kto wygra wyścig AI, ten wygra. To ważne. Ale myślę też, że ta technologia niesie za sobą bardzo realne ryzyka. Wciąż trwa dyskusja nad tym, jak będziemy do nich podchodzić. Musimy nad tym wspólnie pracować, żeby mieć pewność, że wygramy w bezpieczny sposób. Jeśli zrobimy to dobrze, współpracując z prezydentem i wszystkimi tutaj, wygramy i będziemy bezpieczni. Robimy tak, żeby było dobrze. Zrobimy tak, żeby było dobrze.

Pogadaliśmy u Trumpa, jednak okazuje się, że nie muszą być te regulacje. Trump powiedział po tym spotkaniu, że te firmy po prostu wykonują potężną pracę, jeśli chodzi o samą regulację. Tak, tam też pojawiały się takie opinie na przykład CEO takiej firmy Exiger, która zajmuje się AI w łańcuchach dostaw, Brandon Daniels, który też był na tym spotkaniu, opisywał potem w rozmowie z Reutersem to, co tam się działo jako Kon-genialne spotkanie. Powiedział, że wspaniałe to było, że ci ludzie tak podeszli do tego nie z jakiejś samolubnej, egolistycznej perspektywy, te wszystkie prezesy NVIDIA, OpenAI, Anthropica i tak dalej, które tam siedziały, Tylko, że naprawdę są oddani temu, żeby stworzyć jakąś listę standardów, żeby wymieniali się numerami telefonów.

Ci, którzy wcześniej nie mieli do siebie kontaktu, nagle, wiesz, wymieniali się tymi kontaktami i teraz będą ze sobą o nie rozmawiać i to będzie wspaniałe. I na tym właśnie polega takie piękno ludzkości w ogóle. Powiedzmy sobie, na co konkretnie umówili się ci prezesi, szefowie, grube ryby u Trumpa? Powiedz mi Marta. Ja ci powiem, tak, bo prezydent Trump nam to też powiedział wcześniej, on opublikował treść porozumienia na Truth Social. Są tam konkretne cztery kroki, do których podjęcie się te wszystkie firmy zobowiązały. Po pierwsze, wdrożenie wewnętrznych mechanizmów kontroli, które mają zapewnić to, żeby modele przestrzegały odpowiednich standardów cyberbezpieczeństwa. Te standardy oczywiście pozostają niezdefiniowane. Po drugie, wyznaczenie wewnętrznego zespołu, które będzie odpowiedzialne za prawidłowe funkcjonowanie kontroli, monitorowania i systemów wykrywania zagrożeń, czyli znów firmy, które robią X, będą również organem kontrolnym X.

Ewaluacji, kontroli, dbanie o bezpieczeństwa i tak dalej, więc jak czytam o tym, że powstaną teraz wewnętrzne zespoły odpowiedzialne za prawidłowe funkcjonowanie kontroli, monitorowania i systemów wykrywania zagrożeń, to mam takie To chyba już istnieje. No słuchaj, ale za to tutaj kolejne jeszcze ostatnie dwa te postanowienia z porozumienia Trumpa z prezesami. Nawiązanie współpracy z zewnętrznym podmiotem w celu niezależnej oceny modeli oraz powołanie niezależnego komitetu, który będzie otrzymywał raporty od tych firm i czuwał nad usuwaniem wszelkich stwierdzonych problemów. Czyli generalnie wyregulujemy się sami i sami wybierzemy sobie niezależny podmiot, który nas będzie kontrolował. Tak, i właściwie ten podmiot jest już mniej więcej wybrany, co najmniej jeden z nich.

Ale też jest to firma, w której po prostu pracuje multum ludzi, którzy przeszli tam z OpenAI, którzy przeszli tam z Anthropic. Jest to firma, która jest założona, do tego przejdziemy, ale to jest generalnie bardzo, bardzo wsobne środowisko. To jest niby zewnętrzna organizacja, ale to jest To jest swojska organizacja. Powiedzmy sobie jeszcze, kto ten dokument u Trumpa podpisał. Właśnie, bo ten niezależny komitet, tak? Wszyscy święci tam go podpisali. Sandar Pichaj z Google, Dario Amodei z Anthropica, Mark Zuckerberg, to nie trzeba przedstawiać, Jensen Huang z NVIDII, Greg Brockman, czyli OpenAI, no i Elon Musk. Więc naprawdę plejada, śmietanka Big Techów i też właśnie w tym kontekście myślę sobie o tym metrze, czy o jakiejkolwiek innej organizacji, czy firmie, która miała być takim niezależnym arbitrem, że jak masz takie firmy po jednej stronie, takie korporacje po prostu bogate jak małe państwa, albo nawet jeżeli nie bogate, bo nie zyskowne, to wpływowe.

I nie masz, jako ta niezależna organizacja, niezależny arbiter, tak naprawdę sposobów na to, żeby wyegzekwować to, czego od nich chcesz. Możesz im zadać pytania, oni ci mogą nie odpowiedzieć, no bo co im zrobisz? Tak, no dokładnie i w związku z tym, no właśnie to nie jest organ śledczy, to nie jest organ prawa, ale żeby nie było w tym samym czasie, właściwie tutaj może się to wydawać zaskakujące, dzień po tym spotkaniu, czy dwa dni po spotkaniu Trumpa, Z tymi wszystkimi CEO. Federal Trade Commission, czyli regulator rynków i instytucja rządowa, która zajmuje się też między innymi prawem ochrony konkurencji.

Rozpoczęła śledztwo przeciwko właśnie tym laboratoriom. W kontekście, czy one właśnie Jakoś wchodzą w koluzję, ale też jak łamią prawa konsumenckie, prawa ochrony konkurencji. No więc można by sobie pomyśleć, że oczywiście szef FTC był powołany przez Trumpa. Można by sobie pomyśleć, okej, tutaj Trump z jednej strony mówi im i jakby podpisuje się pod dokumentem, że wy się dogadacie, ale z drugiej strony jednak jest to ramię prawa, który tam, ten patyk. Ale mi jest bardzo blisko do takiej oceny tego rozpoczęcia tego śledztwa, że to jest też element tych ustaleń.

Pierwsza rzecz, o tym mówiliśmy, to jest oczywiście ta kwestia polityczna, przychylności politycznej i Trumpa. I tego wyścigu jakiegoś geopolitycznego rozrzesowanego z Chinami. Sfery polityczne rządzące po prostu nie chcą, żeby to się zatrzymało. I w związku z tym też nie pragną tego regulować, nie pragną nikogo do tego zmusić. Druga rzecz to jest sfera finansowa, sfera zysków, sfera akcji. Trzecia rzecz to będzie nasze crème de la crème, nasz deser. To będą osobiste wierzenia i przekonania tutaj osób od AI. Ale na początku jeszcze krótko powiedzmy sobie o tej sferze finansowej, bo no nie wiem, weźmy ten przykład Anthropica. Anthropic właśnie przeprowadzi, jak wynika z tego co słyszymy, takich przesłuchów, w listopadzie pierwszą ofertę publiczną, pierwsze IPO swoje złoży, w ramach którego jego wycena ma wynieść ponad 2 biliony dolarów.