Agent też człowiek. OpenAI, Anthropic i sekta AI

W nadchodzących latach planuje wydać ponad 500 miliardów dolarów na infrastrukturę, Moc obliczeniową na chmurę i tak dalej, więc te wydatki będą astronomiczne i wycena Anthropica jest ściśle uzależniona od tego, jak bardzo AI zrewolucjonizuje cały świat, w którym żyjemy. Tak, albo jak inwestorzy będą w to wierzyć, umówmy się, bo te dwie rzeczy są zupełnie od ciebie odklejone. No tak, oczywiście, ale chodzi o to, że to jest ta wizja, o której mamy myśleć, że to się sprawdzi i w takim razie... Tak i właśnie w momencie, w którym te firmy nie są w stanie zarabiać i jakby Altman kiedyś w ogóle powiedział coś takiego, że jakby był spytany o to, jak on zamierza sprawić, żeby OpenAI wyszło po prostu na drogę rentowności, zyskowności, to powiedział, no jakby chcemy stworzyć tak silny model, tak zażartował sobie, ale jakby tam nie ma innego planu, stworzymy tak silny model, że on nam powie.

Elon Musk i Peter Thiel razem zakładali Paypala, sam Altman prowadził fundusz inwestycyjny Petera Thiela. Thiel zasponsorował tam jednego jeszcze gościa, o którym potem powiem jak dojdziemy do ideologii tej szerzej. Altman i Musk razem zakładali OpenAI, wspólnie jeszcze z kolejnym po prostu. Ważnym gościem Dario Amodei, zaczynał od roboty w OpenAI Waldmana. To jest mniej więcej jedno środowisko i ich łączą też podobne poglądy, takie filozoficzne powiedzmy to sobie. Jest taki nurt, który nazywa się efektywny altruizm, effective altruism. I jest to takie myślenie, że Że ważne jest to, aby czynić dobro, ale w taki sposób, żeby on był jak najbardziej skuteczny.

Sam Altman na przykład mówił dosłownie, Obojętnie, czy my spalamy 500 milionów dolarów rocznie, czy 5 miliardów rocznie, czy 50 miliardów rocznie, mnie to nie obchodzi, dopóki znajdziemy sposób na to, żeby opłacić rachunki, to naszym celem jest to, żeby dojść do ogólnej sztucznej inteligencji. I wiesz, kiedy ty myślisz w ten sposób, że to jest nieuniknione, że to jest nieuchronne, no to co masz zrobić? Ty możesz się rzucać na barykadę, ale do tego dojdzie. I to, co jest też fascynujące w tym wszystkim, to że i Altman, i Amodei, Musk deklaratywnie, ale tutaj mniej w to wierzę, oni zaczynali od, jakby idea była taka, że oni się chcą zajmować bezpieczeństwem AI.

Oni się chcą zajmować tym, żeby właśnie tworzyć, kształtować sztuczną inteligencję tak, jej rozwój, żeby nie zagrażała ludzkości. I to szybko przeszło właśnie od tego, co mogłoby bardziej iść w kierunku, no to musimy to spawalniać, albo może nie doprowadzić do tego, żeby po prostu maszyny były od nas potężniejsze pod każdym względem. Przeszło od tego do To się i tak stanie, tak jak powiedziałaś, więc to my musimy to zrobić, ja sam Altman, bo ja będę w stanie okiełznać tą super inteligencję. No i potem Amodei, który tak jak powiedziałaś, pracował w OpenAI, patrząc na to, jak Altman idzie w stronę właśnie komercjalizacji, bo Amodei odszedł w momencie, w którym uznał, że Microsoft odgrywa zbyt dużą rolę, że Altman pozwala jakby w tych wszystkich umowach z Microsoftem

Znaczy wiesz, większość z nich mówi, ale nie mówią tak... Altman sobie też tak mówi, ale Amodei tak na przykład nie mówi. Amodei się bardzo odcina, mimo że on jest absolutnie zakorzeniony w tym świecie efektywnego altruizmu. On przez jakiś czas mieszkał w takim komitywie z różnymi ludźmi z tego środowiska. Człowiek, który był bardzo bogaty i już bardzo dorosły, mieszkał z dziesięcioma współlokatorami, którzy wyznawali te same wartości efektywnego altruizmu. To było parę lat temu. Tak, tam w ogóle są jeszcze bardzo ciekawe rzeczy. Tam jest wielu z tych ludzi w ogóle poliamorystami. Generalnie ich społeczne więzi często różnią się od tych, które mamy my. Tak, ale jednocześnie on teraz się odcina. No bo jest poważnym CEO firmy, która wchodzi na giełdę.