Ludzkości zostało 10 lat?
Ludzkości zostało 10 lat?Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.☕ WESPRZYJ MOJĄ PRACĘJeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.🤝 Patronite:https://patronite.pl/RadekKobialkoNadaje☕ Buy Me a Coffee:https://buymeacoffee.com/lxg64uv✋ Suppi:https://suppi.pl/radekkobialkonadajeW tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:https://radekkobialkonadaje.plJeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.
Pracował latami w Google, tworząc potęgę tej korporacji w dziedzinie sztucznej inteligencji. I ten właśnie człowiek, ten weteran, podejmuje w 2023 roku niesamowitą decyzję. Rezygnuje ze swojego stanowiska w Google, Tylko po to, żeby móc o tym głośno mówić, prawda? Żeby nie być związanym kontraktami. Dokładnie tak. Odszedł, by móc bezcenzowy ostrzegać świat przed technologią, którą sam w pewnym sensie powołał do życia. Wiesz, czytałam te różne petycje, które podpisywał, zrównujące ryzyko AI z pandemią i wojną atomową, ale jak to czytasz na papierze, to jest jedno. Jednak jak widzisz wywiad dla stacji takiej jak BBC w programie z Wiktorią Derbyshire, to nagle to staje się strasznie, no wiesz, namacalne.
Otóż to jest istota dylematu więźnia i niekontrolowanego wyścigu zbrojeń na niespotykaną w dziejach ludzkości skalę technologiczno-korporacyjną. Zaufanie. Dokładnie. Coxon wspomniał o tym dylemacie, że te firmy chcą regulacji. One pragną regulacji z zewnątrz. To zjawisko wydaje się wręcz patologiczne. Mamy największe koncerny świata, takie jak OpenAI, Meta, Google czy Antropic. I każda z tych firm pędzi nowym samochodem na autostradzie, widzi wielką ścianę mgły i domyśla się, że tam za rogiem stoi ogromny betonowy mur, prawda? Tak. Wszyscy chcieliby zdjąć nogę z gazu. Problem polega na tym, że żadna z nich tego absolutnie nie zrobi jako pierwsza. Dobrowolnie. No tak, bo jak jedna zwolni, to resta peletonu z uśmiechem na usta ich mija.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Radek Kobiałko Nadaje przedstawia esea i rozmowy Jacoba Coxona na temat sztucznej inteligencji i jej zagrożeń dla ludzkości.
Kobiałko analizuje stanowisko Coxona, jego wyjście z firmy i odsunięcie się od finansów, co uwiarygodnia jego przesłanie.
Kobiałko krytykuje przesłanie Coxona, analizując obecne możliwości modeli AI i ich ograniczenia.
Kobiałko omawia eksperymenty i ryzyko superinteligencji, podkreślając zagrożenia związanego z biologią syntetyczną i cyfryzacją świata.
Kobiałko przedstawia wywiad Geoffrey'a Hintona, który ostrzega o ryzyku związanym z sztuczną inteligencją i jego obawy dotyczące kontroli nad systemami AI.
Kobiałko omawia incydenty z firmy Anthropic, które podkreślają ryzyko utraty kontroli nad modelami AI.
Kobiałko analizuje dylemat regulacji i konkurencji w kontekście rozwoju sztucznej inteligencji, podkreślając brak zaufania między firmami i obawy dotyczące Chin.
Podkreśla odejścia ekspertów z OpenAI i ich alarmujące oświadczenia dotyczące bezpieczeństwa superinteligentnych modeli AI.
Analiza oficjalnego oświadczenia OpenAI o zatrzymaniu prac nad superinteligentnymi modelami do momentu zagwarantowania bezpieczeństwa, a także propozycja regulacji przez państwo.
Podsumowanie sytuacji i propozycja chłodnej analityki oraz międzynarodowej kontroli do zarządzania ryzykiem superinteligencji.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Ludzkości zostało 10 lat?
Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.
☕ WESPRZYJ MOJĄ PRACĘ
Jeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.
🤝 Patronite:
https://patronite.pl/RadekKobialkoNadaje
☕ Buy Me a Coffee:
https://buymeacoffee.com/lxg64uv
✋ Suppi:
https://suppi.pl/radekkobialkonadaje
W tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.
Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.
Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.
Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.
Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?
🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:
https://radekkobialkonadaje.pl
Jeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.