Agent też człowiek. OpenAI, Anthropic i sekta AI
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.
I na te ataki odpowiedział na Twitterze człowiek, który się zajmuje właśnie bezpieczeństwem tych testów w OpenAI. Takim esejem, który w tłumaczeniu na polski miał tytuł, to nie jest tylko ten pier... To nie chodzi tylko o to, że my nie umiemy zamknąć piaskownicy. To jest bardzo długi esej. Ja go wczoraj czytałam sobie do snu, walcząc ze znużeniem naprawdę, bo te wszystkie chłopaki z firm u sztucznej inteligencji naprawdę lubią pisać eseje. To jest, mam wrażenie, pasja wielu z nich. No i ten właśnie Joe, on pod takim pseudonimem występuje na Twitterze, Natomiast dziennikarze zweryfikowali, że on faktycznie pracuje w OpenAI, nikt tego jakby nie kwestionuje.
Pokazano wszystkie 1 dopasowanie. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podczas spotkania u Trumpa szefowie firm od AI zapewnili, że nie będzie apokalipsy z powodu AI, ale ich podejście do regulacji AI jest krytycznie oceniane.
Podczas spotkania z Trumpem firmy AI zapewnili, że nie potrzebują nowych ograniczeń, ale po dwa tygodnie potem pojawiły się informacje o tysiącach naruszeń bezpieczeństwa.
Prezydent Trump i prezesi firm AI podpisali porozumienie, które obejmuje wewnętrzne mechanizmy kontroli i niezależne oceny modeli AI.
OpenAI i Metr zostali wybrani do monitorowania i oceny modeli AI, co jest krytycznie oceniane ze względu na ich związek z firmami AI.
Federal Trade Commission rozpoczęła śledztwo przeciwko laboratoriom AI, co jest interpretowane jako element porozumienia z Trumpem.
Esej z OpenAI krytycznie ocenia obecne podejście do bezpieczeństwa i testowania modeli AI, podkreślając konflikt między szybkim rozwojem a bezpieczeństwem.
Podsumowanie krytycznego stanu bezpieczeństwa modeli AI i konsekwencji na rynek, w tym plan IPO Anthropic.
Rozmowa o finansowej wartości i ryzykach AI, analiza IPO Anthropic i rynek finansowy.
Opowieść o lękach i religii AI z wywiadów z pracownikami sektora AI.
Analiza emocji i funkcji AI, rozmowa o modelach językowych i ich zastosowaniach społecznych.
Gospodarz podkreśla, jak modelowanie emocji i interakcje społeczne mogą wpływać na decyzje ludzi, podkreślając konsekwencje takiego podejścia.
Gospodarz analizuje ideologię efektywnego altruizmu i jej wpływ na podejście do sztucznej inteligencji, wskazując na konsekwencje takiego myślenia.
Gospodarz krytycznie omawia modeli AI, ich potencjał i konsekwencje, podkreślając brak odpowiedzialności i logiki w ich podejściu.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.