Ludzkości zostało 10 lat?
Ludzkości zostało 10 lat?Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.☕ WESPRZYJ MOJĄ PRACĘJeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.🤝 Patronite:https://patronite.pl/RadekKobialkoNadaje☕ Buy Me a Coffee:https://buymeacoffee.com/lxg64uv✋ Suppi:https://suppi.pl/radekkobialkonadajeW tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:https://radekkobialkonadaje.plJeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.
Radek Kobiałko Nadaje przedstawia esea i rozmowy Jacoba Coxona na temat sztucznej inteligencji i jej zagrożeń dla ludzkości.
Kobiałko analizuje stanowisko Coxona, jego wyjście z firmy i odsunięcie się od finansów, co uwiarygodnia jego przesłanie.
Kobiałko krytykuje przesłanie Coxona, analizując obecne możliwości modeli AI i ich ograniczenia.
Kobiałko omawia eksperymenty i ryzyko superinteligencji, podkreślając zagrożenia związanego z biologią syntetyczną i cyfryzacją świata.
Kobiałko przedstawia wywiad Geoffrey'a Hintona, który ostrzega o ryzyku związanym z sztuczną inteligencją i jego obawy dotyczące kontroli nad systemami AI.
Kobiałko omawia incydenty z firmy Anthropic, które podkreślają ryzyko utraty kontroli nad modelami AI.
Kobiałko analizuje dylemat regulacji i konkurencji w kontekście rozwoju sztucznej inteligencji, podkreślając brak zaufania między firmami i obawy dotyczące Chin.
Podkreśla odejścia ekspertów z OpenAI i ich alarmujące oświadczenia dotyczące bezpieczeństwa superinteligentnych modeli AI.
Analiza oficjalnego oświadczenia OpenAI o zatrzymaniu prac nad superinteligentnymi modelami do momentu zagwarantowania bezpieczeństwa, a także propozycja regulacji przez państwo.
Podsumowanie sytuacji i propozycja chłodnej analityki oraz międzynarodowej kontroli do zarządzania ryzykiem superinteligencji.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Ludzkości zostało 10 lat?
Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.
☕ WESPRZYJ MOJĄ PRACĘ
Jeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.
🤝 Patronite:
https://patronite.pl/RadekKobialkoNadaje
☕ Buy Me a Coffee:
https://buymeacoffee.com/lxg64uv
✋ Suppi:
https://suppi.pl/radekkobialkonadaje
W tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.
Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.
Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.
Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.
Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?
🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:
https://radekkobialkonadaje.pl
Jeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.