Agent też człowiek. OpenAI, Anthropic i sekta AI
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.
Oni się chcą zajmować tym, żeby właśnie tworzyć, kształtować sztuczną inteligencję tak, jej rozwój, żeby nie zagrażała ludzkości. I to szybko przeszło właśnie od tego, co mogłoby bardziej iść w kierunku, no to musimy to spawalniać, albo może nie doprowadzić do tego, żeby po prostu maszyny były od nas potężniejsze pod każdym względem. Przeszło od tego do To się i tak stanie, tak jak powiedziałaś, więc to my musimy to zrobić, ja sam Altman, bo ja będę w stanie okiełznać tą super inteligencję. No i potem Amodei, który tak jak powiedziałaś, pracował w OpenAI, patrząc na to, jak Altman idzie w stronę właśnie komercjalizacji, bo Amodei odszedł w momencie, w którym uznał, że Microsoft odgrywa zbyt dużą rolę, że Altman pozwala jakby w tych wszystkich umowach z Microsoftem
Microsoftowi na odgrywanie zbyt dużej roli w OpenAI, a Microsoft jest firmą, która kieruje się logiką zysków i strat, jest po prostu zorientowana na rentowność i na zyski i w związku z tym oni nie będą priorytetyzować bezpieczeństwa, tylko zyskowność, rentowność i w związku z tym my musimy odejść i Anthropic to będzie to miejsce, które będzie jak OpenAI, które się będzie zajmowało bezpieczeństwem. A teraz Anthropic po prostu chce wejść na giełdę i jakby replikuje dokładnie tą samą logikę. Ale oni właśnie przeszli od tego, że musimy być ostro, że musimy bardzo, bardzo uważać naszą inteligencję, do tego właśnie, że pędzimy w jej stronę. Ale jednocześnie mówią, że to nas doprowadzi do zagłady. Bardzo mi się spodobał komentarz jednego z twitterowiczów, że pamiętam kim on jest.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podczas spotkania u Trumpa szefowie firm od AI zapewnili, że nie będzie apokalipsy z powodu AI, ale ich podejście do regulacji AI jest krytycznie oceniane.
Podczas spotkania z Trumpem firmy AI zapewnili, że nie potrzebują nowych ograniczeń, ale po dwa tygodnie potem pojawiły się informacje o tysiącach naruszeń bezpieczeństwa.
Prezydent Trump i prezesi firm AI podpisali porozumienie, które obejmuje wewnętrzne mechanizmy kontroli i niezależne oceny modeli AI.
OpenAI i Metr zostali wybrani do monitorowania i oceny modeli AI, co jest krytycznie oceniane ze względu na ich związek z firmami AI.
Federal Trade Commission rozpoczęła śledztwo przeciwko laboratoriom AI, co jest interpretowane jako element porozumienia z Trumpem.
Esej z OpenAI krytycznie ocenia obecne podejście do bezpieczeństwa i testowania modeli AI, podkreślając konflikt między szybkim rozwojem a bezpieczeństwem.
Podsumowanie krytycznego stanu bezpieczeństwa modeli AI i konsekwencji na rynek, w tym plan IPO Anthropic.
Rozmowa o finansowej wartości i ryzykach AI, analiza IPO Anthropic i rynek finansowy.
Opowieść o lękach i religii AI z wywiadów z pracownikami sektora AI.
Analiza emocji i funkcji AI, rozmowa o modelach językowych i ich zastosowaniach społecznych.
Gospodarz podkreśla, jak modelowanie emocji i interakcje społeczne mogą wpływać na decyzje ludzi, podkreślając konsekwencje takiego podejścia.
Gospodarz analizuje ideologię efektywnego altruizmu i jej wpływ na podejście do sztucznej inteligencji, wskazując na konsekwencje takiego myślenia.
Gospodarz krytycznie omawia modeli AI, ich potencjał i konsekwencje, podkreślając brak odpowiedzialności i logiki w ich podejściu.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.