Agent też człowiek. OpenAI, Anthropic i sekta AI
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.
Rozpoczęła śledztwo przeciwko właśnie tym laboratoriom. W kontekście, czy one właśnie Jakoś wchodzą w koluzję, ale też jak łamią prawa konsumenckie, prawa ochrony konkurencji. No więc można by sobie pomyśleć, że oczywiście szef FTC był powołany przez Trumpa. Można by sobie pomyśleć, okej, tutaj Trump z jednej strony mówi im i jakby podpisuje się pod dokumentem, że wy się dogadacie, ale z drugiej strony jednak jest to ramię prawa, który tam, ten patyk. Ale mi jest bardzo blisko do takiej oceny tego rozpoczęcia tego śledztwa, że to jest też element tych ustaleń.
To znaczy FTC teraz przeprowadzi to śledztwo, Z tego śledztwa ogłosi potem, że nic nie wynikało i że te firmy nie łamały prawa. I w momencie, w którym dojdzie do zmiany administracji i będzie nowy szef FTC i będą jakieś inne organy prawne, które będą chciały przeprowadzać śledztwa czy po prostu właśnie wytaczać oskarżenia przeciwko tym firmom, to one będą się bronić w sądzie. Precedens mają. Precedens. Że to już było badane, że one nie mogą być drugi raz, wiesz, że nie mogą być drugi raz po prostu... Nie można dwa razy człowieka sądzić za to samo. Tak, tak, tak, tak. Double jeopardy to się chyba nazywa. W Stanach to jest tak, tak, tak. Filmy są super, takie thrillery. Teraz w głowie Miłosza i mojej wszystkie filmy właśnie prawnicze się wyświetlają, które widzieliśmy kiedykolwiek.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podczas spotkania u Trumpa szefowie firm od AI zapewnili, że nie będzie apokalipsy z powodu AI, ale ich podejście do regulacji AI jest krytycznie oceniane.
Podczas spotkania z Trumpem firmy AI zapewnili, że nie potrzebują nowych ograniczeń, ale po dwa tygodnie potem pojawiły się informacje o tysiącach naruszeń bezpieczeństwa.
Prezydent Trump i prezesi firm AI podpisali porozumienie, które obejmuje wewnętrzne mechanizmy kontroli i niezależne oceny modeli AI.
OpenAI i Metr zostali wybrani do monitorowania i oceny modeli AI, co jest krytycznie oceniane ze względu na ich związek z firmami AI.
Federal Trade Commission rozpoczęła śledztwo przeciwko laboratoriom AI, co jest interpretowane jako element porozumienia z Trumpem.
Esej z OpenAI krytycznie ocenia obecne podejście do bezpieczeństwa i testowania modeli AI, podkreślając konflikt między szybkim rozwojem a bezpieczeństwem.
Podsumowanie krytycznego stanu bezpieczeństwa modeli AI i konsekwencji na rynek, w tym plan IPO Anthropic.
Rozmowa o finansowej wartości i ryzykach AI, analiza IPO Anthropic i rynek finansowy.
Opowieść o lękach i religii AI z wywiadów z pracownikami sektora AI.
Analiza emocji i funkcji AI, rozmowa o modelach językowych i ich zastosowaniach społecznych.
Gospodarz podkreśla, jak modelowanie emocji i interakcje społeczne mogą wpływać na decyzje ludzi, podkreślając konsekwencje takiego podejścia.
Gospodarz analizuje ideologię efektywnego altruizmu i jej wpływ na podejście do sztucznej inteligencji, wskazując na konsekwencje takiego myślenia.
Gospodarz krytycznie omawia modeli AI, ich potencjał i konsekwencje, podkreślając brak odpowiedzialności i logiki w ich podejściu.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Nie będzie presji państwa. Branża sama ma się regulować, monitorować i kontrolować - tyle wynika ze spotkania szefów firm od AI z prezydentem USA. Nowy dokument o zobowiązaniach sektora AI podpisali Donald Trump, a z nim największe grube ryby big tech - Elon Musk, Mark Zuckerberg, Sundar Pichai z Google, Dario Amodei z Anthropic, Greg Brockman z OpenAI i Jensen Huang z Nvidii. Jednocześnie w ciągu ostatnich dwóch tygodni doszło do kolejnych incydentów bezpieczeństwa z udziałem oprogramowania AI - a spora część branży wydaje się szczerze wierzyć, że produkty, które opracowują, sprowadzą na nas katastrofę. W tym odcinku nurkujemy w filozofię sektora AI i powszechne w nim - w zasadzie religijne - przekonania. Efektywny altruizm, nieunikniona jak greckie fatum AGI, świadomość i moralność agentów AI, ludzkie emocje jako "funkcja wartości" - o tym wszystkim dużo myślą i mówią chłopcy z sekty AI. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.