Ludzkości zostało 10 lat?
Ludzkości zostało 10 lat?Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.☕ WESPRZYJ MOJĄ PRACĘJeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.🤝 Patronite:https://patronite.pl/RadekKobialkoNadaje☕ Buy Me a Coffee:https://buymeacoffee.com/lxg64uv✋ Suppi:https://suppi.pl/radekkobialkonadajeW tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:https://radekkobialkonadaje.plJeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.
Czy naukowcy naprawdę twierdzą, że istnieje około 10% szans, że sztuczna inteligencja może doprowadzić do zagłady ludzkości w ciągu najbliższej dekady? Witamy w podcaście Radek Kobiałko Nadaje. Dzisiaj omawiamy eseje Radka na ten temat oraz dwie rozmowy z ostatnich godzin. Jacoba Coxona, byłego badacza OpenAI i Anthropic, z Andersonem Cooperem w CNN, oraz Geoffrey'a Hintona, laureata Nagrody Nobla i jednego z pionierów współczesnej AI w BBC Newsnight. Jeżeli jeszcze nie obserwujecie podcastu Radek Kobiałko Nadaje, zróbcie to teraz. Kliknijcie obserwuj, jeśli słuchacie nas w Spotify, albo dodajcie podcast do subskrypcji w Apple Podcasts. Wszystkich podcastów Radka możecie też słuchać na stronie radekkobiałkonadaje.pl, a jeżeli chcecie docenić i wesprzeć to, co Radek robi, możecie postawić mu wirtualną kawę albo przybić piątkę.
Bo jeśli strach rośnie wraz ze stopniem wtajemniczenia i wiedzą, to co na to człowiek, którego wiedza i wkład w całą tę dziedzinę są, wiesz, no, absolutnie fundamentalne dla całego świata. Mówię tu o Geoffreyu Hintonie i jego świeżym wywiadzie dla BBC Newsnight. Mhm. Zanim zacytujemy jego słowa, przypomnijmy może króciutko, dlaczego w ogóle opinia publiczna ma go słuchać z taką uwagą? Bo to nie jest przecież byle publicysta. Absolutnie nie. Waga słów Geoffrey'a Hintona wynika z jego absolutnie unikalnego statusu. To jest człowiek, którego często nazywa się jednym z ojców chrzestnych współczesnej AI. On w końcu dostał Nobla. Tak, jest noblistą. Jego prace nad sieciami neuronowymi stworzyły wręcz technologiczną i matematyczną podbudowę pod każdy wielki model językowy, o którym dzisiaj rozmawiamy.
Pracował latami w Google, tworząc potęgę tej korporacji w dziedzinie sztucznej inteligencji. I ten właśnie człowiek, ten weteran, podejmuje w 2023 roku niesamowitą decyzję. Rezygnuje ze swojego stanowiska w Google, Tylko po to, żeby móc o tym głośno mówić, prawda? Żeby nie być związanym kontraktami. Dokładnie tak. Odszedł, by móc bezcenzowy ostrzegać świat przed technologią, którą sam w pewnym sensie powołał do życia. Wiesz, czytałam te różne petycje, które podpisywał, zrównujące ryzyko AI z pandemią i wojną atomową, ale jak to czytasz na papierze, to jest jedno. Jednak jak widzisz wywiad dla stacji takiej jak BBC w programie z Wiktorią Derbyshire, to nagle to staje się strasznie, no wiesz, namacalne.
Wiesz, z filmów znamy terminatory, te takie wielkie metalowe szkielety z czerwoną lampką w oku, a tu mówimy przecież o kodzie, prawda? O jakimś tam oprogramowaniu siedzącym w farmach serwerów. Jak program bez rąk, nóg czy czołgów pod swoim dowodztwem, jak program, który żyje w chmurze, ma fizycznie uśmiercić 8 miliardów ludzi? Zanudzi nas jakimś potwornym tekstem? To jest właśnie to kluczowe wyzwanie, przed którym stają badacze. Musimy oderwać się od tych filmowych wież hollywoodzkich obrazów. Hinton wyjaśnia to dziennikarce BBC bardzo zimno i analitycznie. System, który wielokrotnie przewyższa nas inteligencją, absolutnie nie potrzebuje posiadać fizycznego ciała, żeby mieć niszczycielski wpływ na ten nasz fizyczny, materialny świat.
Pokazano wszystkie 4 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Radek Kobiałko Nadaje przedstawia esea i rozmowy Jacoba Coxona na temat sztucznej inteligencji i jej zagrożeń dla ludzkości.
Kobiałko analizuje stanowisko Coxona, jego wyjście z firmy i odsunięcie się od finansów, co uwiarygodnia jego przesłanie.
Kobiałko krytykuje przesłanie Coxona, analizując obecne możliwości modeli AI i ich ograniczenia.
Kobiałko omawia eksperymenty i ryzyko superinteligencji, podkreślając zagrożenia związanego z biologią syntetyczną i cyfryzacją świata.
Kobiałko przedstawia wywiad Geoffrey'a Hintona, który ostrzega o ryzyku związanym z sztuczną inteligencją i jego obawy dotyczące kontroli nad systemami AI.
Kobiałko omawia incydenty z firmy Anthropic, które podkreślają ryzyko utraty kontroli nad modelami AI.
Kobiałko analizuje dylemat regulacji i konkurencji w kontekście rozwoju sztucznej inteligencji, podkreślając brak zaufania między firmami i obawy dotyczące Chin.
Podkreśla odejścia ekspertów z OpenAI i ich alarmujące oświadczenia dotyczące bezpieczeństwa superinteligentnych modeli AI.
Analiza oficjalnego oświadczenia OpenAI o zatrzymaniu prac nad superinteligentnymi modelami do momentu zagwarantowania bezpieczeństwa, a także propozycja regulacji przez państwo.
Podsumowanie sytuacji i propozycja chłodnej analityki oraz międzynarodowej kontroli do zarządzania ryzykiem superinteligencji.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Ludzkości zostało 10 lat?
Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.
☕ WESPRZYJ MOJĄ PRACĘ
Jeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.
🤝 Patronite:
https://patronite.pl/RadekKobialkoNadaje
☕ Buy Me a Coffee:
https://buymeacoffee.com/lxg64uv
✋ Suppi:
https://suppi.pl/radekkobialkonadaje
W tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.
Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.
Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.
Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.
Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?
🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:
https://radekkobialkonadaje.pl
Jeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.