AI kontra ludzkość. Wszyscy zginiemy?
"W ciągu najbliższej dekady AI może zmieść ludzkość z powierzchni ziemi" - takie słyszymy ostatnio przepowiednie. Inżynierowie, programiści, dyrektorzy z głównych amerykańskich firm zajmujących się AI apelują do władz o regulacje sektora sztucznej inteligencji. Ich list "Pacing the Frontier" podpisali także Sam Altman, szef OpenAI (czatbot ChatGPT) i Dario Amodei, prezes Anthropic (czatbot Claude). Alarmistyczny tour po mediach zalicza Jacob Coxon - były pracownik OpenAI i Anthropic. Wiele osób zaniepokoił też incydent Hugging Face. Nastroje próbują studzić Jensen Huang (NVIDIA) i Mark Zuckerberg (Meta). O co chodzi? Dlaczego akurat teraz słyszymy o tak potężnym zagrożeniu? Jak w zasadzie miałaby wyglądać apokalipsa AI? O jakie regulacje apeluje OpenAI i Anthropic - i jak się z tym łączy ich rentowność (czy też jej brak)? I czy wszechmocna, boska sztuczna inteligencja, która wciąż pozostaje w sferze fantazji i wyobrażeń, nie ma odwracać naszej uwagi od prawdziwych problemów związanych z AI? Centra danych, autonomiczna broń, deepfejki, cyberataki z użyciem software AI - to wszystko rzeczywiste bolączki, z którymi borykamy się tu i teraz. A przepisy niezbędne do tego, żeby się rozprawić przynajmniej z częścią z nich, już mamy. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.Materiały:Techno-apokalipsa. W co wierzy Dolina Krzemowa: https://www.youtube.com/watch?v=XHwOg77F5iUNasz odcinek o bańce AI: https://www.youtube.com/watch?v=eK0_yyiSxq4Więcej o tym, jak Izrael używał AI w Gazie: https://www.youtube.com/watch?v=WjK1HtsI7pU (od 22. minuty)
Odszczekamy swoje głupie słowa. Nie będzie nam do śmiechu. No ale właśnie, może porozmawiajmy trochę bardziej w szczegółach o tych dwóch przełomach, które najbardziej poruszyły wyobraźnię. Czyli jedno to jest rozwiązanie problemu milenijnego, konkretnie problemu Naviera-Stokesa. No a drugi to właśnie ten incydent z Hugging Face. Jeśli chodzi o Naviera-Stokesa, to ja nie będę udawał, że jestem po prostu teoretycznym matematykiem, który doskonale wie co tam się wydarzyło, ale generalnie są równania Naviera-Stokesa i równania Naviera-Stokesa opisują jak ciecz lub gaz zmienia prędkość i kierunek ruchu pod wpływem różnych sił fizycznych. I to są równania. A problem nie chodzi o to, żeby rozwiązać te równania, tylko czy istnieją takie warunki, w których te równania przestają się trzymać kupy.
No i OpenAI po prostu usłyszało, że jacyś naukowcy, matematycy są bliscy rozwiązania Jakiś problemów milenijnych. I podobno firma stwierdziła dobra, to my teraz rzucamy wszystkie moce przerobowe na te problemy i zobaczymy jak nam pójdzie. No i zaczęło im bardzo dobrze pójść właśnie z tym problemem, iść z Navirem Stokesem, taka jest oficjalna narracja, więc rzucili jeszcze więcej mocy obliczeniowej. No i w 88 godzin udowodnili, że są przypadki, w których te równania po prostu osiągają osobliwość, czyli mówią, że właśnie płyny osiągają prędkość Nieskończoną, a wiemy, że jest to niemożliwe. No i matematycy po prostu, wiesz, w szoku. No matematycy w szoku, ale też zaczęło się przy tej okazji mówić o tym, że OpenAI też udostępniała swoje modele naukowcom i na ile czerpało w ogóle z tych pytań, które naukowcy zadawali czatowi GPT, na ile to był jednak pewien drenaż,
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Marta Nowak i Miłosz Wiatrowski-Bujacz przedstawiają temat rozmowy na temat zagrożeń związanych z sztuczną inteligencją.
Jacob Coxon opowiada o swoim odejściu z Anthropic i strachach przed niebezpiecznymi modelami AI.
Coxon opisuje problem Naviera-Stokesa i sukces OpenAI w rozwiązaniu tego problemu, co wywołało obawy.
Coxon wyjaśnia incydent z Hugging Face i jego znaczenie dla bezpieczeństwa AI.
Podróżnica do zagrożeń związanych z sztuczną inteligencją, takie jak autonomiczna broń i centra danych, oraz debata na temat regulacji AI.
Rozmowa skupia się na zagrożeniach związanych z nowymi modelami AI, szczególnie w kontekście cyberbezpieczeństwa. Autorzy omawiają konsekwencje i konsekwencje prawne związane z nieprawidłowym użyciem tych modeli.
Autorzy analizują, jak firmy AI, takie jak OpenAI, podejmują się regulacji, omawiając konsekwencje i konsekwencje prawne związane z nieprawidłowym użyciem tych modeli.
Rozmowa kończy się zapowiedzią kolejnego odcinka i życzeniem subskrybujących utrzymać się w apokalipsie.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
"W ciągu najbliższej dekady AI może zmieść ludzkość z powierzchni ziemi" - takie słyszymy ostatnio przepowiednie. Inżynierowie, programiści, dyrektorzy z głównych amerykańskich firm zajmujących się AI apelują do władz o regulacje sektora sztucznej inteligencji. Ich list "Pacing the Frontier" podpisali także Sam Altman, szef OpenAI (czatbot ChatGPT) i Dario Amodei, prezes Anthropic (czatbot Claude). Alarmistyczny tour po mediach zalicza Jacob Coxon - były pracownik OpenAI i Anthropic. Wiele osób zaniepokoił też incydent Hugging Face. Nastroje próbują studzić Jensen Huang (NVIDIA) i Mark Zuckerberg (Meta). O co chodzi? Dlaczego akurat teraz słyszymy o tak potężnym zagrożeniu? Jak w zasadzie miałaby wyglądać apokalipsa AI? O jakie regulacje apeluje OpenAI i Anthropic - i jak się z tym łączy ich rentowność (czy też jej brak)? I czy wszechmocna, boska sztuczna inteligencja, która wciąż pozostaje w sferze fantazji i wyobrażeń, nie ma odwracać naszej uwagi od prawdziwych problemów związanych z AI? Centra danych, autonomiczna broń, deepfejki, cyberataki z użyciem software AI - to wszystko rzeczywiste bolączki, z którymi borykamy się tu i teraz. A przepisy niezbędne do tego, żeby się rozprawić przynajmniej z częścią z nich, już mamy. Na nowy odcinek "Co to będzie" zapraszają Marta Nowak i Miłosz Wiatrowski-Bujacz.
Materiały:
Techno-apokalipsa. W co wierzy Dolina Krzemowa: https://www.youtube.com/watch?v=XHwOg77F5iU
Nasz odcinek o bańce AI: https://www.youtube.com/watch?v=eK0_yyiSxq4
Więcej o tym, jak Izrael używał AI w Gazie: https://www.youtube.com/watch?v=WjK1HtsI7pU (od 22. minuty)