Agent też człowiek. OpenAI, Anthropic i sekta AI

Pogadaliśmy u Trumpa, jednak okazuje się, że nie muszą być te regulacje. Trump powiedział po tym spotkaniu, że te firmy po prostu wykonują potężną pracę, jeśli chodzi o samą regulację. Tak, tam też pojawiały się takie opinie na przykład CEO takiej firmy Exiger, która zajmuje się AI w łańcuchach dostaw, Brandon Daniels, który też był na tym spotkaniu, opisywał potem w rozmowie z Reutersem to, co tam się działo jako Kon-genialne spotkanie. Powiedział, że wspaniałe to było, że ci ludzie tak podeszli do tego nie z jakiejś samolubnej, egolistycznej perspektywy, te wszystkie prezesy NVIDIA, OpenAI, Anthropica i tak dalej, które tam siedziały, Tylko, że naprawdę są oddani temu, żeby stworzyć jakąś listę standardów, żeby wymieniali się numerami telefonów.

I nie masz, jako ta niezależna organizacja, niezależny arbiter, tak naprawdę sposobów na to, żeby wyegzekwować to, czego od nich chcesz. Możesz im zadać pytania, oni ci mogą nie odpowiedzieć, no bo co im zrobisz? Tak, no dokładnie i w związku z tym, no właśnie to nie jest organ śledczy, to nie jest organ prawa, ale żeby nie było w tym samym czasie, właściwie tutaj może się to wydawać zaskakujące, dzień po tym spotkaniu, czy dwa dni po spotkaniu Trumpa, Z tymi wszystkimi CEO. Federal Trade Commission, czyli regulator rynków i instytucja rządowa, która zajmuje się też między innymi prawem ochrony konkurencji.

No i teraz OpenAI i Anthropic po prostu jeśli chodzi o CEOs i PR mówią, To już New York Times opublikowało artykuł śledczy, w którym dotarli do osób, które pracują w OpenAI i do tego, że parę miesięcy temu Były zgłoszenia, były wnioski formalne, były maile słane do szefów, że ten balans jest zachwiany, że dojdzie, że to musi po prostu skończyć się takimi incydentami, musi się skończyć tym, że jakieś firmy, strony zostaną zhakowane, bo

Okej, ale ignorujecie to, że ci ludzie tak naprawdę myślą, że ludzie w sektorze są przerażeni i że to nie jest tylko 26-letni Jacko po prostu Coxon, tylko że wszyscy tak uważają i że to jest szczere. I ja w tym odcinku i w ogóle w moim myśleniu przyjmuję w dużej mierze to, że zwłaszcza na poziomie tych inżynierów, tych osób, które nie są CEOs, to jest szczere. Ale moja pierwsza myśl jest taka, że przy takich lękach Gdzie jakby koniec świata, tak? I widzimy to od środka. To nie wychodzisz i nie opuszczasz tych firm i nie przechodzisz do firm, które się zajmują AI safety i nie wypuszczasz po prostu, wiesz, memorandum i nie robisz wywiadów. Tylko jakby akcja bezpośrednia, tak?

W kontekście inwestowania w Anthropic, że to jest absolutnie niepoważna firma, która jednocześnie czci swój produkt, boi się go, nienawidzi i pędzi do tego, żeby powstał, myśląc, że to doprowadzi do zagłady. Ta relacja jest tak niezdrowa, tak toksyczna, że... Nie potrafię sobie wyobrazić żadnej analogii do realnej gospodarki, do realnej firmy. Pepsi wie, że jest niezdrowa, ale przynosi zyski. Ludzie, którzy CEO Pepsi, myślą, że Pepsi zniszczy jego samego. Jest tu ten aspekt religijny, że nie da się tego wyjaśnić inaczej niż religijnością, która jest pełna sprzeczności takich metafizycznych.

Znaczy wiesz, większość z nich mówi, ale nie mówią tak... Altman sobie też tak mówi, ale Amodei tak na przykład nie mówi. Amodei się bardzo odcina, mimo że on jest absolutnie zakorzeniony w tym świecie efektywnego altruizmu. On przez jakiś czas mieszkał w takim komitywie z różnymi ludźmi z tego środowiska. Człowiek, który był bardzo bogaty i już bardzo dorosły, mieszkał z dziesięcioma współlokatorami, którzy wyznawali te same wartości efektywnego altruizmu. To było parę lat temu. Tak, tam w ogóle są jeszcze bardzo ciekawe rzeczy. Tam jest wielu z tych ludzi w ogóle poliamorystami. Generalnie ich społeczne więzi często różnią się od tych, które mamy my. Tak, ale jednocześnie on teraz się odcina. No bo jest poważnym CEO firmy, która wchodzi na giełdę.