Agent też człowiek. OpenAI, Anthropic i sekta AI

Nie chcąc wypaść z łask, bo jak wiemy dla big techów kluczowe jest to, żeby Donald Trump pozostawał ich sojusznikiem, no dostosowują się do tej narracji. Nawet ci, którzy tak bardzo, bardzo straszyli tym, że AI jest ogromnie potężne i trzeba je jakoś ograniczać. Ale na pewno nie Dario Amodei. Na pewno nie Dario Amodei. Przecież on tutaj wielokrotnie, on akurat wielokrotnie miał odwagę, wiesz, z Trumpem iść... Na udry. Na udry, iść w klincz starcie. Pamiętamy jak na początku roku Trump po prostu, czy no tak, na przełomie lutego i marca Trump straszył, że Anthropic zostanie pozbawiony wszystkich kontraktów rządowych, I co więcej, wszystkie firmy, które będą miały jakiekolwiek kontrakty z Anthropiciem, będą po prostu stracą dostęp do kontraktów rządowych, bo Anthropic nie chciał się zgodzić, żeby jego modele były używane przez rząd stąd zjednoczonych w każdy sposób, w jaki ten rząd stąd zjednoczonych chciałby to robić, niezależnie od tego, czy jest to sfera militarna, czy po prostu atakowanie przeciwników politycznych wewnętrznych.

A więc Amodei wiemy, że jest po prostu tym człowiekiem, człowiekiem niezłomnym, który Trumpa się nie boi. Posłuchajmy, co on powiedział po tym spotkaniu. Powiem to, co zawsze mówię. AI przynosi ogromne korzyści. Mówiłem o wynikających z tej technologii korzyściach w branży medycznej. Tak jak powiedział prezydent, kto wygra wyścig AI, ten wygra. To ważne. Ale myślę też, że ta technologia niesie za sobą bardzo realne ryzyka. Wciąż trwa dyskusja nad tym, jak będziemy do nich podchodzić. Musimy nad tym wspólnie pracować, żeby mieć pewność, że wygramy w bezpieczny sposób. Jeśli zrobimy to dobrze, współpracując z prezydentem i wszystkimi tutaj, wygramy i będziemy bezpieczni. Robimy tak, żeby było dobrze. Zrobimy tak, żeby było dobrze.

Ale też jest to firma, w której po prostu pracuje multum ludzi, którzy przeszli tam z OpenAI, którzy przeszli tam z Anthropic. Jest to firma, która jest założona, do tego przejdziemy, ale to jest generalnie bardzo, bardzo wsobne środowisko. To jest niby zewnętrzna organizacja, ale to jest To jest swojska organizacja. Powiedzmy sobie jeszcze, kto ten dokument u Trumpa podpisał. Właśnie, bo ten niezależny komitet, tak? Wszyscy święci tam go podpisali. Sandar Pichaj z Google, Dario Amodei z Anthropica, Mark Zuckerberg, to nie trzeba przedstawiać, Jensen Huang z NVIDII, Greg Brockman, czyli OpenAI, no i Elon Musk. Więc naprawdę plejada, śmietanka Big Techów i też właśnie w tym kontekście myślę sobie o tym metrze, czy o jakiejkolwiek innej organizacji, czy firmie, która miała być takim niezależnym arbitrem, że jak masz takie firmy po jednej stronie, takie korporacje po prostu bogate jak małe państwa, albo nawet jeżeli nie bogate, bo nie zyskowne, to wpływowe.

Na to, że jest pewien konflikt interesów oczywisty, czy jakby konflikt celów między tym, żeby te modele nabierały coraz to bardziej imponujących umiejętności coraz szybciej, a tym, żeby robić to spokojnie i żeby sprawdzać to pod każdym kątem, żeby po prostu przeprowadzać te testy milion razy. No i trochę o tym jakby mówił Amodei, a wcześniej w lipcu wszyscy możni, w tym po prostu miarowaniu, miarowaniu prędkości rozwoju, tak miarowaniu tego jak się przybliżamy tej granicy, że musimy się po prostu ograniczyć, musimy zwolnić. No i zwolnienie może polegać na tym, że tak jak teraz OpenAI ogłasza, że nie będzie wypuszczać żadnych nowych modeli, ale to jest takie trochę Przestajemy nad tym pracować.

Elon Musk i Peter Thiel razem zakładali Paypala, sam Altman prowadził fundusz inwestycyjny Petera Thiela. Thiel zasponsorował tam jednego jeszcze gościa, o którym potem powiem jak dojdziemy do ideologii tej szerzej. Altman i Musk razem zakładali OpenAI, wspólnie jeszcze z kolejnym po prostu. Ważnym gościem Dario Amodei, zaczynał od roboty w OpenAI Waldmana. To jest mniej więcej jedno środowisko i ich łączą też podobne poglądy, takie filozoficzne powiedzmy to sobie. Jest taki nurt, który nazywa się efektywny altruizm, effective altruism. I jest to takie myślenie, że Że ważne jest to, aby czynić dobro, ale w taki sposób, żeby on był jak najbardziej skuteczny.

Sam Altman na przykład mówił dosłownie, Obojętnie, czy my spalamy 500 milionów dolarów rocznie, czy 5 miliardów rocznie, czy 50 miliardów rocznie, mnie to nie obchodzi, dopóki znajdziemy sposób na to, żeby opłacić rachunki, to naszym celem jest to, żeby dojść do ogólnej sztucznej inteligencji. I wiesz, kiedy ty myślisz w ten sposób, że to jest nieuniknione, że to jest nieuchronne, no to co masz zrobić? Ty możesz się rzucać na barykadę, ale do tego dojdzie. I to, co jest też fascynujące w tym wszystkim, to że i Altman, i Amodei, Musk deklaratywnie, ale tutaj mniej w to wierzę, oni zaczynali od, jakby idea była taka, że oni się chcą zajmować bezpieczeństwem AI.

Oni się chcą zajmować tym, żeby właśnie tworzyć, kształtować sztuczną inteligencję tak, jej rozwój, żeby nie zagrażała ludzkości. I to szybko przeszło właśnie od tego, co mogłoby bardziej iść w kierunku, no to musimy to spawalniać, albo może nie doprowadzić do tego, żeby po prostu maszyny były od nas potężniejsze pod każdym względem. Przeszło od tego do To się i tak stanie, tak jak powiedziałaś, więc to my musimy to zrobić, ja sam Altman, bo ja będę w stanie okiełznać tą super inteligencję. No i potem Amodei, który tak jak powiedziałaś, pracował w OpenAI, patrząc na to, jak Altman idzie w stronę właśnie komercjalizacji, bo Amodei odszedł w momencie, w którym uznał, że Microsoft odgrywa zbyt dużą rolę, że Altman pozwala jakby w tych wszystkich umowach z Microsoftem

Znaczy wiesz, większość z nich mówi, ale nie mówią tak... Altman sobie też tak mówi, ale Amodei tak na przykład nie mówi. Amodei się bardzo odcina, mimo że on jest absolutnie zakorzeniony w tym świecie efektywnego altruizmu. On przez jakiś czas mieszkał w takim komitywie z różnymi ludźmi z tego środowiska. Człowiek, który był bardzo bogaty i już bardzo dorosły, mieszkał z dziesięcioma współlokatorami, którzy wyznawali te same wartości efektywnego altruizmu. To było parę lat temu. Tak, tam w ogóle są jeszcze bardzo ciekawe rzeczy. Tam jest wielu z tych ludzi w ogóle poliamorystami. Generalnie ich społeczne więzi często różnią się od tych, które mamy my. Tak, ale jednocześnie on teraz się odcina. No bo jest poważnym CEO firmy, która wchodzi na giełdę.

Ale dla nich IQ jest absolutnie jakby, to jest jedyne, co się dla nich liczy i nie będziemy już o tym mówić, może będzie trzeci odcinek. Korzenie efektywnego altruizmu są bardzo głęboko zakorzenione w eugenice. I to jest bardzo bezpośrednie połączenie. W sensie konkretnie po ludziach, mentorach, od mentora do mentora. Sposób mówienia o tym jest bardzo eugeniczny i rasistowski. To G, Artificial General Intelligence, pochodzi właśnie od eugenicznych założeń, czym jest inteligencja. Ale tak, wiesz, Amodei tam i tak po prostu opowiada o przyszłości, w której, nie wiem, będzie niebo na ziemi za 7 lat, tylko jakby nie uploadujemy tego, tak?

Miłosz, ty mówisz jakieś takie rzeczy, które jedne są stąd, drugie są stamtąd, to znaczy, jak ja słyszę, że W sensie ryzykujemy wszystkim, albo dla wzrostu 4% PKB, albo dla Amodei życiowieczne. Tak, jednocześnie będziemy mogli sobie wybierać kolor oczu i brak cukrzycy oraz będą ludzie Na bruku, bezrobotni, PKW. Jezu, to jest w ogóle, wiesz, to jest jakiś deranged mind. To są rzeczy, które wytwarza ci umysł, który naprawdę nie wie, co on myśli o świecie. I Jezu, gdzie jest logika i racjonalność Harry'ego Pottera? Tak. Kochani. I to ci ludzie, tak, w ich rękach jesteśmy. Kochani, dziękujemy wam bardzo, że byliście i byłyście z nami.