Ludzkości zostało 10 lat?
Ludzkości zostało 10 lat?Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.☕ WESPRZYJ MOJĄ PRACĘJeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.🤝 Patronite:https://patronite.pl/RadekKobialkoNadaje☕ Buy Me a Coffee:https://buymeacoffee.com/lxg64uv✋ Suppi:https://suppi.pl/radekkobialkonadajeW tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:https://radekkobialkonadaje.plJeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.
Nakreślił to niezwykle celnie. Jaka to zależność? Że niby ci, którzy wiedzą mniej, boją się bardziej, bo nie rozumieją? O, nie. Jest dokładnie stuprocentowo odwrotnie. Marx potwierdził wprost, że poziom strachu rośnie proporcjonalnie do zajmowanego stanowiska, wiedzy inżynieryjnej i bliskości kontaktu z najnowszymi, niewypuszczonymi jeszcze modelami. Czekaj, czyli im ktoś wyżej w hierarchii, im bardziej rozumie bebechy tego systemu, tym bardziej się boi, że to się wymknie spod kontroli? Dokładnie tak. Ten strach nie jest domeną lajków, tylko absolutnie największych na świecie ekspertów. I to powinno dawać do myślenia wszystkim. I to zjawisko, wiesz, o którym mówi Marx, to jest wręcz wprost idealne przejście do drugiej połowy naszej dzisiejszej analizy.
Pokazano wszystkie 1 dopasowanie. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Radek Kobiałko Nadaje przedstawia esea i rozmowy Jacoba Coxona na temat sztucznej inteligencji i jej zagrożeń dla ludzkości.
Kobiałko analizuje stanowisko Coxona, jego wyjście z firmy i odsunięcie się od finansów, co uwiarygodnia jego przesłanie.
Kobiałko krytykuje przesłanie Coxona, analizując obecne możliwości modeli AI i ich ograniczenia.
Kobiałko omawia eksperymenty i ryzyko superinteligencji, podkreślając zagrożenia związanego z biologią syntetyczną i cyfryzacją świata.
Kobiałko przedstawia wywiad Geoffrey'a Hintona, który ostrzega o ryzyku związanym z sztuczną inteligencją i jego obawy dotyczące kontroli nad systemami AI.
Kobiałko omawia incydenty z firmy Anthropic, które podkreślają ryzyko utraty kontroli nad modelami AI.
Kobiałko analizuje dylemat regulacji i konkurencji w kontekście rozwoju sztucznej inteligencji, podkreślając brak zaufania między firmami i obawy dotyczące Chin.
Podkreśla odejścia ekspertów z OpenAI i ich alarmujące oświadczenia dotyczące bezpieczeństwa superinteligentnych modeli AI.
Analiza oficjalnego oświadczenia OpenAI o zatrzymaniu prac nad superinteligentnymi modelami do momentu zagwarantowania bezpieczeństwa, a także propozycja regulacji przez państwo.
Podsumowanie sytuacji i propozycja chłodnej analityki oraz międzynarodowej kontroli do zarządzania ryzykiem superinteligencji.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Ludzkości zostało 10 lat?
Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.
☕ WESPRZYJ MOJĄ PRACĘ
Jeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.
🤝 Patronite:
https://patronite.pl/RadekKobialkoNadaje
☕ Buy Me a Coffee:
https://buymeacoffee.com/lxg64uv
✋ Suppi:
https://suppi.pl/radekkobialkonadaje
W tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.
Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.
Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.
Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.
Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?
🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:
https://radekkobialkonadaje.pl
Jeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.