Raport na dziś - 16 września 2026

Przy mikrofonie Dariusz Rosiak. Dzień dobry Państwu, zapraszam na Raport na dziś. Donald Trump uznał, że ostrzeżenia przed zagrożeniami związanymi z rozwojem sztucznej inteligencji to bujda i skrytykował głosy domagające się spowolnienia prac nad rozwojem AI oraz stworzenia zabezpieczeń w systemach. W ostatnich dniach kilka znanych postaci z firm technologicznych produkujących modele AI ostrzegało przed skutkami niekontrolowanego rozwoju nowych technologii. Trump porównał te ostrzeżenia do wielkiego kłamstwa klimatycznego i uznał, że wszelkie spowolnienia w pracach nad rozwojem AI będą służyć Chinom. Czy, jak sugerują niektórzy byli i obecni pracownicy firm technologicznych,

Za jego pośrednictwem najłatwiej nas wesprzeć. Marcin Żyła jest wydawcą programu, Krys Wawrzak realizuje dźwięk. Moim gościem jest dziś Sylwia Czubkowska, dziennikarka technologiczna, współautorka wraz z Joanną Sosnowską podcastu TechStorie, autorka książek na tematy nowych technologii i skutków ich rozwoju. Witam cię serdecznie. Dzień dobry. Wygląda na to, że prawie wszyscy zgadzają się z tezami artykułu Dario Amodei, szefa Antropica, który wzywa do spowolnienia rozwoju modeli wprowadzenia zewnętrznej ewaluacji pracy tych modeli. Antropic ma to robić jednostronnie od razu. Ostrzega zwłaszcza przed potencjalnie groźnymi skutkami samorozwoju modeli AI, czyli tworzenia przez AI nowych modeli,

Przez samych ludzi z głębi tego świata, z laboratoriów AI. Paniki, które naprawdę, i myślę, że to powinno wybrzmieć, bo mam wrażenie, że w ludziach bardzo rezonują teraz te paniki, naprawdę nie ma nic wspólnego z rzeczywistymi problemami, wyzwaniami, jakie mamy związane z budową sztucznej inteligencji, w ogóle z technologiami. To znaczy, nie, sztuczna inteligencja nie doprowadzi do wyginięcia Ale tak, i tutaj się mogę zgodzić z niektórymi tezami Daria Amodei, wymagałaby sytuacja, w której dzisiaj jesteśmy, mocnego Przedefiniowania tego, w jaki sposób wyglądają prace wokół AI.

Przestaliśmy o tym mówić i zaczynamy się zastanawiać, czy rzeczywiście to nie jest tak, że roi agentów sztucznej inteligencji stworzy jakiś system, który wyłączy nam podłączenia do wszystkich banków na świecie. Do tych roi to jeszcze możemy za chwilę wrócić, bo to jest faktycznie pod kątem takim technicznym, pod kątem organizacji i też tak naprawdę funkcjonowania agentów dosyć ciekawe zjawisko. Ale to tak, znaczy to o czym mówisz, to że nagle nam zniknęły Te rozmowy dotyczące, te dyskusje dotyczące koncentracji, bardzo niebezpiecznej koncentracji władzy polityczno-kapitałowej, tego, że ta władza nie jest kontrolowana, nie jest transparentna, że ta koncentracja staje się coraz bardziej monopolistyczna, że te dyskusje nam zniknęły w tle właśnie rozmów o tym, czy AI zniszczy ludzkość. A cały czas mamy do czynienia z tym właśnie problemem.

Jasne. Kto ten system będzie wdrażał? Kto nad tym systemem będzie panował? Ja rozumiem, że Stany Zjednoczone. Daria tutaj raczej nie ma wątpliwości, nie stawia tutaj tezy, że miałby to robić ONZ, tak? Wielka Brytania, Unia Europejska, ktokolwiek inny. Więc Stany Zjednoczone będą decydowały o tym, że globalnie spowalniamy prace nad rozwojem sztucznej inteligencji, ale zrobią to tylko państwa demokratyczne, bo Chiny tego nie zrobią. On ma jakieś propozycje rozmów z Chinami, no ale to wszystko zależy, zresztą do tego zaraz wrócimy. Dokładnie. Ale to zależy od Pekinu. Też zależy od tego, że w Chinach jest trochę inny kierunek rozwoju sztucznej inteligencji. Oni nie dążą tak bardzo w stronę tego singularity, tej osobliwości. Mają swoje geopolityczne za to ambicje związane, zresztą Stany też oczywiście mają geopolityczne ambicje związane z rozwojem AI. Więc Amodei wzywa do kontroli

Takie prace spowalniać, ale nie spowalniać dlatego, że mamy jakieś widzimisie polityczne, tylko dlatego, że są konkretne zagrożenia. Czyli na przykład, jeżeli doszło do ucieczki, bo tak o tym mówimy, przy czym ja bym chciała, żeby to wybrzmiało trochę w cudzysłowie, agentów, antropika czy open AI dopuścia w taki system rogue AI, czyli takiego zbuntowanego AI i włamania chociażby się do Hugging Face, czyli takiego repozytorium dla badaczy pracujących nad rozwojem sztucznej inteligencji, To jest ten przypadek, który opisywał Amodei w tym swoim manifestie, tak? Dokładnie. No to ktoś za to odpowiada. Przepraszam, odpowiadają za to ludzie, którzy zaprojektowali te agenty. Powinna być ścieżka odpowiedzialności wyciągnięta. No to Amodei mówi, dobrze, to my bierzemy ludzi z zewnątrz, którzy będą to kontrolować. Ale przepraszam, to nie jest odpowiedzialność.

Kto nie dochował zasad bezpieczeństwa? Czemu nie zostały wykonane wszystkie testy? I kto źle zaprojektował ten most? I tak samo powinniśmy myśleć tak naprawdę o narzędziach technologicznych. Kto to tak spartaczył? Kto dopuścił do tego, że zaprojektowane przez niego modele i agenty AI przełamują zasady bezpieczeństwa, byleby osiągnąć cel, który mu zlecił człowiek? Pamiętajmy, te modele, one nie wyrwały się na żadną, nie wiem, wolność. One nie mają samoświadomości. One dokonują dokładnie to, do czego zostało zaprojektowane. Być może paradoks polega na tym, że ci, którzy to zaprojektowali, tacy jak Dario Amodei, teraz nawołują do tego, żebyśmy zrobili krok do tyłu i zaczęli to kontrolować.

Tylko kto będzie to kontrolował? My będziemy to kontrolować. No tak, znowu autokontrola, nie? No my to już skądś znamy, po prostu te firmy od lat się auto tam same regulują. Porozmawiajmy chwilę o polityce. Donald Trump najwyraźniej uważa właściwie każdą propozycję regulacji czegokolwiek za zamach na wolność i spisek demokratów, ale zastanawiam się, jaki to związek może mieć z taką bardzo konkretną polityką. Chiny dostrzegły tę falę w ostatnich dniach, tę falę właśnie mówienia o zagrożeniach, bo to się pojawiło w sobotę, jak został opublikowany ten manifest Dario Amodei. A wcześniej jeszcze tweet byłego pracownika Anthropica i OpenAI, młodego takiego programisty Jacoba Coxa. Tak i tam jeszcze jest jeden, Ivan Hubinger, to właśnie ten naczelny badacz odpowiedzialny za bezpieczeństwo i on właśnie mówi o tym, że ponad 10% szansy na to, że AI wymorduje ludzkość.

Wróćmy do Chiny. One dostrzegły tę falę, ich Ministerstwo Spraw Zagranicznych mówi, że nie leży w niczyim interesie Mówienie o zagrożeniach konfrontacji i złośliwej konkurencji ze strony Chin. Wszystkie strony powinny pracować nad rozwojem AI w sposób otwarty, inkluzywny i korzystny dla wszystkich. Oraz skierowany ku powszechnemu dobru i wszyscy powinniśmy być zdrowi i żyć bardzo długo. To jest komunikat od rzecznika MSZ chińskiego. Przepraszam, się śmieję, bo to brzmi po prostu jak klasyczne komunikaty komunistyczne Partii Chin. Ja też ironizuję, ale to możliwa jest w ogóle jakakolwiek współpraca w tej chwili między Stanami Zjednoczonymi a Chinami, czy to jest poza tematem? Myślę, że dzisiaj będzie bardzo trudno, bo ta sytuacja, szczególnie na polu technologiczno-gospodarczym, jest bardzo zaogniona.

Ale co się przy okazji wytworzyło, jakie moce też technologiczne, jakie moce naukowe, no to ktoś w to wygrał, prawda? I wizerunkowo też w to wygrał. Więc po części z AI też tak mamy, chociaż AI jest znacznie bardziej praktyczną technologią niż same loty kosmiczne były. Te ostatnie dni to jest... Ilustracja pewnych takich zachowań ludzkich, które znamy. My się boimy tego, czego nie znamy. Tego, czego nie potrafimy sobie wyobrazić. Jest cała masa zagrożeń, które potrafimy opisać i potrafimy je sobie wyobrazić. Potrafimy sobie wyobrazić zagrożenia związane z napaścią Rosji na Europę. Ale tego sobie nie chcemy wyobrażać. Ale to się mieści w naszej wyobraźni.

Ale my nie wiemy do końca, co to jest generalna. Co spytasz naukowca, to każdy ci powie inną teorię tej generalnej sztucznej inteligencji. Jeżeli mamy się czegoś bać, ja bym w ogóle wolała, żebyśmy się nie bali technologii. Jeżeli kogoś tam się czy czegoś powinniśmy się bać, to niestety ludzie, którzy to projektują i są nieodpowiedzialni. I którzy są w tej swojej nieodpowiedzialności jeszcze umacniani przez to całe otoczenie medialno-polityczne, ale niestety więcej, mam wrażenie, ryzyk może być związanych z banką AI, bo faktycznie mamy sytuację, w której siedem wielkich firm w Stanach Zjednoczonych Pracuje na jedną. Tak, 6 finansuje tylko jedną, NVIDIA, nie? I jest to bardzo ryzykowne i to niestety, to w nas wszystkich uderzy i to pęknie. Mówię to bez żadnej satysfakcji, wręcz przeciwnie, tego się boję. Pamiętasz kryzys 2008 roku?