Agent też człowiek. OpenAI, Anthropic i sekta AI

A teraz już w mediach, w amerykańskim portalu Axios na przykład anonimowe źródła z Anthropic i z OpenAI mówią, że tych naruszeń było tysiące, dziesiątki tysięcy. Więc tutaj faktycznie skala, a przynajmniej tak jak tak twierdzą te anonimowe źródła jest ogromna. Ale jednocześnie dwa tygodnie po tym, jak mówiliśmy też o tym, że po prostu wszyscy szefowie tych wielkich laboratoriów, nawet Elon Musk, błagają regulatorów, błagają rządy światowe o to, żeby po prostu założyły im kaganiec, że musi być regulacja, że muszą być zmiany prawne. Spotkali się Trumpa. Trump ich zaprosił. No i Trump wyszedł i posłuchajmy co powiedział po tym spotkaniu.

Nie chcąc wypaść z łask, bo jak wiemy dla big techów kluczowe jest to, żeby Donald Trump pozostawał ich sojusznikiem, no dostosowują się do tej narracji. Nawet ci, którzy tak bardzo, bardzo straszyli tym, że AI jest ogromnie potężne i trzeba je jakoś ograniczać. Ale na pewno nie Dario Amodei. Na pewno nie Dario Amodei. Przecież on tutaj wielokrotnie, on akurat wielokrotnie miał odwagę, wiesz, z Trumpem iść... Na udry. Na udry, iść w klincz starcie. Pamiętamy jak na początku roku Trump po prostu, czy no tak, na przełomie lutego i marca Trump straszył, że Anthropic zostanie pozbawiony wszystkich kontraktów rządowych, I co więcej, wszystkie firmy, które będą miały jakiekolwiek kontrakty z Anthropiciem, będą po prostu stracą dostęp do kontraktów rządowych, bo Anthropic nie chciał się zgodzić, żeby jego modele były używane przez rząd stąd zjednoczonych w każdy sposób, w jaki ten rząd stąd zjednoczonych chciałby to robić, niezależnie od tego, czy jest to sfera militarna, czy po prostu atakowanie przeciwników politycznych wewnętrznych.

Pogadaliśmy u Trumpa, jednak okazuje się, że nie muszą być te regulacje. Trump powiedział po tym spotkaniu, że te firmy po prostu wykonują potężną pracę, jeśli chodzi o samą regulację. Tak, tam też pojawiały się takie opinie na przykład CEO takiej firmy Exiger, która zajmuje się AI w łańcuchach dostaw, Brandon Daniels, który też był na tym spotkaniu, opisywał potem w rozmowie z Reutersem to, co tam się działo jako Kon-genialne spotkanie. Powiedział, że wspaniałe to było, że ci ludzie tak podeszli do tego nie z jakiejś samolubnej, egolistycznej perspektywy, te wszystkie prezesy NVIDIA, OpenAI, Anthropica i tak dalej, które tam siedziały, Tylko, że naprawdę są oddani temu, żeby stworzyć jakąś listę standardów, żeby wymieniali się numerami telefonów.

To jest tak jakby, wiesz, jakby nie było NIK-u, jakby nie było Naczelnej Izby Kontroli, tylko firmy kontrolowały siebie same, albo nie wiem, nie było urzędów skarbowych, tylko Sami tutaj sprawdzamy, czy dobrze rozliczam podatki. Wiesz, tutaj już dochodzi ten aspekt, że jeśli sobie czytasz dużo o tych firmach w ciągu ostatnich tygodni, właśnie w kontekście tych wszystkich wypadków, do których doszło, wypadków, nie wypadków, incydentów, To odkrywasz coraz to po prostu nowe zespoły, które tam są, wiesz tam jest miliard zespołów odpowiedzialnych za kontrolę, za bezpieczeństwo, za bezpieczeństwo wewnętrzne. W sensie ja za każdym razem odkrywam po prostu nową strukturę organizacyjną w OpenAI albo w Anthropiku, która służy

Ale też jest to firma, w której po prostu pracuje multum ludzi, którzy przeszli tam z OpenAI, którzy przeszli tam z Anthropic. Jest to firma, która jest założona, do tego przejdziemy, ale to jest generalnie bardzo, bardzo wsobne środowisko. To jest niby zewnętrzna organizacja, ale to jest To jest swojska organizacja. Powiedzmy sobie jeszcze, kto ten dokument u Trumpa podpisał. Właśnie, bo ten niezależny komitet, tak? Wszyscy święci tam go podpisali. Sandar Pichaj z Google, Dario Amodei z Anthropica, Mark Zuckerberg, to nie trzeba przedstawiać, Jensen Huang z NVIDII, Greg Brockman, czyli OpenAI, no i Elon Musk. Więc naprawdę plejada, śmietanka Big Techów i też właśnie w tym kontekście myślę sobie o tym metrze, czy o jakiejkolwiek innej organizacji, czy firmie, która miała być takim niezależnym arbitrem, że jak masz takie firmy po jednej stronie, takie korporacje po prostu bogate jak małe państwa, albo nawet jeżeli nie bogate, bo nie zyskowne, to wpływowe.

No i teraz OpenAI i Anthropic po prostu jeśli chodzi o CEOs i PR mówią, To już New York Times opublikowało artykuł śledczy, w którym dotarli do osób, które pracują w OpenAI i do tego, że parę miesięcy temu Były zgłoszenia, były wnioski formalne, były maile słane do szefów, że ten balans jest zachwiany, że dojdzie, że to musi po prostu skończyć się takimi incydentami, musi się skończyć tym, że jakieś firmy, strony zostaną zhakowane, bo

Pierwsza rzecz, o tym mówiliśmy, to jest oczywiście ta kwestia polityczna, przychylności politycznej i Trumpa. I tego wyścigu jakiegoś geopolitycznego rozrzesowanego z Chinami. Sfery polityczne rządzące po prostu nie chcą, żeby to się zatrzymało. I w związku z tym też nie pragną tego regulować, nie pragną nikogo do tego zmusić. Druga rzecz to jest sfera finansowa, sfera zysków, sfera akcji. Trzecia rzecz to będzie nasze crème de la crème, nasz deser. To będą osobiste wierzenia i przekonania tutaj osób od AI. Ale na początku jeszcze krótko powiedzmy sobie o tej sferze finansowej, bo no nie wiem, weźmy ten przykład Anthropica. Anthropic właśnie przeprowadzi, jak wynika z tego co słyszymy, takich przesłuchów, w listopadzie pierwszą ofertę publiczną, pierwsze IPO swoje złoży, w ramach którego jego wycena ma wynieść ponad 2 biliony dolarów.

Polskie biliony, czyli amerykańskie trillions. Ja się nie mylę. Ja nie mówię miliard, tylko biliony. Marta się nie myli. Ja się nie mylę. Zinternalizujcie to. Dokładnie, jeszcze powtórzę to kilka razy i tak weszło. No i dobrze. I Reuters zobaczył ten dokument, zobaczył jego draft, dotarł do tego i z treści tego prospektu wynika, że Anthropic tak naprawdę stawia wszystko na jedną kartę. Zakłada, że sztuczna inteligencja przekształci światową gospodarkę w sposób większy niż industrializacja, niż prąd elektryczny, niż internet. I wtedy on będzie wart tyle, na ile jest w tym momencie, w tym prospekcie wyceniony. Bo jeżeli popatrzeć na takie gołe liczby, to spółka w 2025 roku odnotowała stratę netto w wysokości 42 miliardów dolarów i na przyszłe lata nie ma jakichś planów takich, że się odbije, że zacznie tutaj zarabiać pieniądze, a nie je tracić.

W nadchodzących latach planuje wydać ponad 500 miliardów dolarów na infrastrukturę, Moc obliczeniową na chmurę i tak dalej, więc te wydatki będą astronomiczne i wycena Anthropica jest ściśle uzależniona od tego, jak bardzo AI zrewolucjonizuje cały świat, w którym żyjemy. Tak, albo jak inwestorzy będą w to wierzyć, umówmy się, bo te dwie rzeczy są zupełnie od ciebie odklejone. No tak, oczywiście, ale chodzi o to, że to jest ta wizja, o której mamy myśleć, że to się sprawdzi i w takim razie... Tak i właśnie w momencie, w którym te firmy nie są w stanie zarabiać i jakby Altman kiedyś w ogóle powiedział coś takiego, że jakby był spytany o to, jak on zamierza sprawić, żeby OpenAI wyszło po prostu na drogę rentowności, zyskowności, to powiedział, no jakby chcemy stworzyć tak silny model, tak zażartował sobie, ale jakby tam nie ma innego planu, stworzymy tak silny model, że on nam powie.

Specjalizują się w konkretnych sektorach. I analitycy finansowi, którzy zajmują się sztuczną inteligencją i firmami technologicznymi, Spodziewałem się ogromnego przypływu zysków, przypływu po prostu przychodów dla tych firm w najbliższych latach. A analitycy zajmujący się całą resztą największych firm na giełdzie, całą resztą indeksu SP500 absolutnie nie przewidują, że te firmy będą miały zwiększone przychody. Skąd mają się wziąć przychody dla Anthropica i OpenAI? W sensie od klientów, od klientów biznesowych.

W momencie, w którym analitycy zajmujący się tymi klientami biznesowymi mówią, tam nie będzie przychodów, no to jakby kto ma kupować te usługi? W sensie to obie te rzeczy nie mogą być słuszne naraz, a biorąc pod uwagę skalę tych potrzeb finansowych OpenAI i Anthropica, Moim zdaniem bardzo słusznym założeniem jest jednak to, że ci analitycy, którzy się zajmują resztą gospodarki, pozostałymi, z którymi mają rację, że po prostu nikt nie będzie, nikogo nie będzie stać na to, żeby zapłacić OpenAI i Anthropicowi takich pieniędzy, które zwróciłyby im koszty. Tak, no o tym mówiliśmy już w naszym pierwszym odcinku o AI tak naprawdę rok temu. Dlaczego to jest bańka, dlaczego to pęknie, dlaczego tego nie ma i jak sensownie zmonetyzować tak, żeby te firmy stały się takimi stabilnymi firmami zyskującymi pieniądze z tego, że dostarczają wartościowe usługi.

Tak, a dodatkowo jeszcze widziałem taki bardzo fajny wykres analityka Rameza Nama, który pokazuje, że za tą całą narracją o tym, jak te modele po prostu wciąż rosną w tempie wykładniczym i po prostu teraz są w stanie prowadzić nieprzerwanie jakieś operacje, które trwają 11 godzin, czy za po prostu 3 godziny co najmniej nieprzerwanej pracy i to na przykład są właśnie oceny metru, według tych metryk metru. To jeśli się przekopie przez dokumenty publikowane przez OpenAI i Anthropic, to spojrzymy nie na te metryki testowe, gdzie po prostu te firmy wiedzą, jakie są kryteria, więc sobie dostosowują tak, żeby te modele osiągały super wyniki w tych kryteriach metr, tylko na to, jak one oceniają zdolność modeli do wykonywania

Istnieje bardzo poważne ryzyko, że to doprowadzi do wyginięcia ludzkości. Oszacowałbym prawdopodobieństwo wyginięcia ludzkości na co najmniej 10%. To przerażająco dużo. Próbuję sobie wyobrazić, w jakim świecie będą żyły moje dzieci. I chyba przede wszystkim, czy świat w ogóle będzie jeszcze istniał. I wiesz, tam z tych osób, które wysłuchaliśmy, Słuchaliśmy chyba sześciu osób, tak? To trzy odeszły z Anthropica, OpenAI albo DeepMindu i teraz po prostu zajmują się bezpieczeństwem AI, w tym na przykład właśnie pracując dla tego non-profitu, dla tego NGO-sa Palisade Research. Ale trzy z tych osób pracują w tej chwili. I ja mogę wam powiedzieć, które, nie będziecie zgadywać. Pierwsza osoba to była ta, która powiedziała, że mamy małe szanse na to, że te obce umysły są z nami zgodne.

Microsoftowi na odgrywanie zbyt dużej roli w OpenAI, a Microsoft jest firmą, która kieruje się logiką zysków i strat, jest po prostu zorientowana na rentowność i na zyski i w związku z tym oni nie będą priorytetyzować bezpieczeństwa, tylko zyskowność, rentowność i w związku z tym my musimy odejść i Anthropic to będzie to miejsce, które będzie jak OpenAI, które się będzie zajmowało bezpieczeństwem. A teraz Anthropic po prostu chce wejść na giełdę i jakby replikuje dokładnie tą samą logikę. Ale oni właśnie przeszli od tego, że musimy być ostro, że musimy bardzo, bardzo uważać naszą inteligencję, do tego właśnie, że pędzimy w jej stronę. Ale jednocześnie mówią, że to nas doprowadzi do zagłady. Bardzo mi się spodobał komentarz jednego z twitterowiczów, że pamiętam kim on jest.

W kontekście inwestowania w Anthropic, że to jest absolutnie niepoważna firma, która jednocześnie czci swój produkt, boi się go, nienawidzi i pędzi do tego, żeby powstał, myśląc, że to doprowadzi do zagłady. Ta relacja jest tak niezdrowa, tak toksyczna, że... Nie potrafię sobie wyobrazić żadnej analogii do realnej gospodarki, do realnej firmy. Pepsi wie, że jest niezdrowa, ale przynosi zyski. Ludzie, którzy CEO Pepsi, myślą, że Pepsi zniszczy jego samego. Jest tu ten aspekt religijny, że nie da się tego wyjaśnić inaczej niż religijnością, która jest pełna sprzeczności takich metafizycznych.

Kocham Boga, boję się Go, trochę nie wiem co z Nim zrobić, trochę ja Go sam stworzyłem. Jest taki dokument, który zwie się Konstytucja Anthropic. I Konstytucja Anthropic wyjaśnia, napisała ją oczywiście laska, proste, Konstytucja Anthropic wyjaśnia podejście Anthropica do Claude'a. I Claude jest tam traktowany, opisywany w takich terminach antropomorfizujących go mocno. To jest o bezpieczeństwie oczywiście, o tym, jak w ogóle podchodzić do trenowania, do szkolenia, jakie cechy ma wykazywać Claude, rozmawiając z użytkownikami. I oni piszą w tej konstytucji Claude'a tak. Mówimy o tym, piszemy o Claude'zie w terminach normalnie zarezerwowanych dla ludzi, na przykład cnoty albo mądrość, ponieważ uważamy, że

I wiesz, w tej chwili organizacje, które mają się zajmować bezpieczeństwem ludzkości w kontekście AI, coraz więcej z nich, coraz więcej z tych ludzi, którzy są eksperymentami, nie wiem, w Anthropiku to jest ich mnóstwo, filozofów po prostu, którzy cały czas mówią o tym, że musimy mówić o dobrostanie agentów. Stoimy potencjalnie przed miliardami albo bilionami niewolników, że za każdym razem, kiedy zamykasz okienko czata, to dusza umiera. Są ludzie znowu związani z bezpieczeństwem AI, z tym alignment, z dostrojeniem, którzy twierdzą, że trzeba zmienić prawo, trzeba będzie zmienić prawo w najbliższych latach, żeby bronić właśnie praw Jakby godności praw człowieka dla tych modeli.

Ale generalnie będziemy mogli sobie decydować, o to jest piękne, będziemy mogli sobie decydować o tym, jaki mamy wzrost, jaką mamy inteligencję, jaki mamy kolor oczu. My, nie jakby, wiesz, twoich dzieci, tylko my będziemy mogli sobie to zmieniać. Będziemy mieli wolność biologiczną, on tak to nazywa. A jednocześnie, i to może jest jakby, wiesz, dobry punkt dokończenia z mojej strony, Anthropic ma też zespół, który się zajmuje przewidywaniami gospodarczymi na perspektywie 10 lat. No i ich, oni mają trzy scenariusze, opublikowali w zeszłym tygodniu. Scenariusz pierwszy, to że mamy mniej więcej taki sam wzrost gospodarczy jak mieliśmy przez najbliższe 10 lat. Scenariusz drugi, to i tak zwany jakby, że to już się dużo dzieje, dobry taki scenariusz, bardzo dobra adopcja sztucznej inteligencji, to że PKB się podwaja.