Agent też człowiek. OpenAI, Anthropic i sekta AI
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.
Podczas spotkania u Trumpa szefowie firm od AI zapewnili, że nie będzie apokalipsy z powodu AI, ale ich podejście do regulacji AI jest krytycznie oceniane.
Podczas spotkania z Trumpem firmy AI zapewnili, że nie potrzebują nowych ograniczeń, ale po dwa tygodnie potem pojawiły się informacje o tysiącach naruszeń bezpieczeństwa.
Prezydent Trump i prezesi firm AI podpisali porozumienie, które obejmuje wewnętrzne mechanizmy kontroli i niezależne oceny modeli AI.
OpenAI i Metr zostali wybrani do monitorowania i oceny modeli AI, co jest krytycznie oceniane ze względu na ich związek z firmami AI.
Federal Trade Commission rozpoczęła śledztwo przeciwko laboratoriom AI, co jest interpretowane jako element porozumienia z Trumpem.
Esej z OpenAI krytycznie ocenia obecne podejście do bezpieczeństwa i testowania modeli AI, podkreślając konflikt między szybkim rozwojem a bezpieczeństwem.
Podsumowanie krytycznego stanu bezpieczeństwa modeli AI i konsekwencji na rynek, w tym plan IPO Anthropic.
Rozmowa o finansowej wartości i ryzykach AI, analiza IPO Anthropic i rynek finansowy.
Opowieść o lękach i religii AI z wywiadów z pracownikami sektora AI.
Analiza emocji i funkcji AI, rozmowa o modelach językowych i ich zastosowaniach społecznych.
Gospodarz podkreśla, jak modelowanie emocji i interakcje społeczne mogą wpływać na decyzje ludzi, podkreślając konsekwencje takiego podejścia.
Gospodarz analizuje ideologię efektywnego altruizmu i jej wpływ na podejście do sztucznej inteligencji, wskazując na konsekwencje takiego myślenia.
Gospodarz krytycznie omawia modeli AI, ich potencjał i konsekwencje, podkreślając brak odpowiedzialności i logiki w ich podejściu.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.