Agent też człowiek. OpenAI, Anthropic i sekta AI
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.
No i teraz OpenAI i Anthropic po prostu jeśli chodzi o CEOs i PR mówią, To już New York Times opublikowało artykuł śledczy, w którym dotarli do osób, które pracują w OpenAI i do tego, że parę miesięcy temu Były zgłoszenia, były wnioski formalne, były maile słane do szefów, że ten balans jest zachwiany, że dojdzie, że to musi po prostu skończyć się takimi incydentami, musi się skończyć tym, że jakieś firmy, strony zostaną zhakowane, bo
Okej, ale ignorujecie to, że ci ludzie tak naprawdę myślą, że ludzie w sektorze są przerażeni i że to nie jest tylko 26-letni Jacko po prostu Coxon, tylko że wszyscy tak uważają i że to jest szczere. I ja w tym odcinku i w ogóle w moim myśleniu przyjmuję w dużej mierze to, że zwłaszcza na poziomie tych inżynierów, tych osób, które nie są CEOs, to jest szczere. Ale moja pierwsza myśl jest taka, że przy takich lękach Gdzie jakby koniec świata, tak? I widzimy to od środka. To nie wychodzisz i nie opuszczasz tych firm i nie przechodzisz do firm, które się zajmują AI safety i nie wypuszczasz po prostu, wiesz, memorandum i nie robisz wywiadów. Tylko jakby akcja bezpośrednia, tak?
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podczas spotkania u Trumpa szefowie firm od AI zapewnili, że nie będzie apokalipsy z powodu AI, ale ich podejście do regulacji AI jest krytycznie oceniane.
Podczas spotkania z Trumpem firmy AI zapewnili, że nie potrzebują nowych ograniczeń, ale po dwa tygodnie potem pojawiły się informacje o tysiącach naruszeń bezpieczeństwa.
Prezydent Trump i prezesi firm AI podpisali porozumienie, które obejmuje wewnętrzne mechanizmy kontroli i niezależne oceny modeli AI.
OpenAI i Metr zostali wybrani do monitorowania i oceny modeli AI, co jest krytycznie oceniane ze względu na ich związek z firmami AI.
Federal Trade Commission rozpoczęła śledztwo przeciwko laboratoriom AI, co jest interpretowane jako element porozumienia z Trumpem.
Esej z OpenAI krytycznie ocenia obecne podejście do bezpieczeństwa i testowania modeli AI, podkreślając konflikt między szybkim rozwojem a bezpieczeństwem.
Podsumowanie krytycznego stanu bezpieczeństwa modeli AI i konsekwencji na rynek, w tym plan IPO Anthropic.
Rozmowa o finansowej wartości i ryzykach AI, analiza IPO Anthropic i rynek finansowy.
Opowieść o lękach i religii AI z wywiadów z pracownikami sektora AI.
Analiza emocji i funkcji AI, rozmowa o modelach językowych i ich zastosowaniach społecznych.
Gospodarz podkreśla, jak modelowanie emocji i interakcje społeczne mogą wpływać na decyzje ludzi, podkreślając konsekwencje takiego podejścia.
Gospodarz analizuje ideologię efektywnego altruizmu i jej wpływ na podejście do sztucznej inteligencji, wskazując na konsekwencje takiego myślenia.
Gospodarz krytycznie omawia modeli AI, ich potencjał i konsekwencje, podkreślając brak odpowiedzialności i logiki w ich podejściu.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.