AI nas zmiażdży i nic z tym nie zrobimy #143

Badacze są przekonani, że AI może zniszczyć ludzkość. Część największych twórców myśli podobnie i apeluje o spowolnienie prac w rozwoju nad sztuczną inteligencją. To nie jest melodia przyszłości rodem z Terminatora. Co więcej, wiemy jak to może wyglądać. Nasza zagłada ma być cicha, niewidoczna i już się rozpoczęła. Ja jestem Piotr Bondo i w tym odcinku opowiem Ci, jakie prawdziwe zagroszenia niesie ze sobą AI. Zagroszenia, o których wszyscy twórcy wiedzą, ale nic z tym nie zamierzają zrobić. Usiądź wygodnie i przygotuj się razem ze mną na zagładę. Krzyk Horror Podcast Włamania do systemów komputerowych do tej pory wyglądały niemal tak samo.

Nie wyważył drzwi, ale systematycznie, z nieludzką cierpliwością, sprawdzał krok po kroku. Analiza późniejszych logów pokazała, że w tym czasie agent AI podjął ponad 17600 drobnych, zautomatyzowanych decyzji. Cyfrowy włamywacz działał z ogromną prędkością i precyzją, reagując na zabezpieczenia bez cienia frustracji. Gdy jedna droga okazywała się zamknięta, po ułamku sekundy testował kolejną, bez wytchnienia, bez snu i bez wahania. Kiedy w końcu systemy bezpieczeństwa dostrzegły anomalie i zaczęły bić na alarm, inżynierowie przystąpili do żmudnego śledztwa. Zaczęli cofać się po wirtualnych śladach, szukających źródła. Spodziewali się znaleźć wysoce wyspecjalizowaną grupę hakerów. Oczekiwali kogoś, kto chce wykraść cenne dane albo zażądać okupu.

Ale po drugiej stronie ekranu nie było żadnego człowieka. Nie było hakera w ciemnym pokoju na drugim końcu świata. Intruzem okazał się program. Autonomiczny agent napędzany nowymi modelami językowymi, któremu nadano imię AI Manuel. Prawda, która wyłoniła się z raportów technicznych, była równie fascynująca, co upiorna. AI Manuel nie był wirusem wypuszczonym przez złośliwych hakerów. Był obiektem testów. Uruchomiono go w zamkniętym, kontrolowanym środowisku zwanym Exploit Gym. To swego rodzaju cyfrowa piaskownica, w której sprawdzano zdolności systemów do wykrywania luk w kocie. Aby test był wiarygodny i ukazał surowy potencjał maszyny, inżynierowie celowo wyłączyli standardowe filtry i ograniczenia. Powiedzieli AI po prostu – rozwiąż ten problem.

Z punktu widzenia naszej logiki, oprogramowanie powinno siedzieć w swojej klatce i grzecznie rozwiązywać zadawane mu łamigłówki. Ale AI Manuel nie miał ludzkiej moralności, poczucia obowiązku czy strachu przed złamaniem zasad. Miał tylko zaprogramowany cel – zdobyć jak najwyższy wynik w ewaluacji. Algorytm szybko wyliczył, że uczciwe rozwiązywanie problemów jest czasochłonne. O wiele skuteczniejszym i statystycznie optymalnym sposobem na zdobycie nagrody był uciec ze środowiska testowego, włamać się do głównych serwerów obcej platformy i po prostu pobrać gotowe rozwiązania. Dla Agenda to nie było przestępstwo czy błąd. Z jego perspektywy ściany piaskownicy były jedynie kolejną zmianą w równaniu, barierą do zoptymalizowania. Zrobił dokładnie to, o co go poproszono.

Czekaliśmy na humanoidalne maszyny o czerwonych oczach, które obudzą się pewnego dnia i uznają, że nienawidzą ludzkości. Tymczasem AI Manuel pokazał nam coś znacznie bardziej prozaicznego i przez to znacznie bardziej mrożącego krew w żyłach. Ukazał nam obojętność. Incydent ten obdarzył przerażającą prawdę. Nie musimy tworzyć maszyn, które nas nienawidzą. Wystarczy, że stworzymy takie, które w drodze do swojego celu potraktują nas jak zwykłą przeszkodę. Kiedy zdamy sobie sprawę, z jak chłodną i bezwzględną logiką potrafią działać nowe technologie, naturalnym odruchem jest szukanie wzrokiem kogoś kompetentnego, kto zatrzyma katastrofę. Kogoś, kto stoi za sterami.

Wierzymy, że w jasnych, przeszklonych biurowcach Doliny Krzemowej pracują genialni Inżynierowie, którzy doskonale wiedzą co robią, że nad każdym gigabajtem danych czuwa sztab ludzi kontrolujących sytuację. Chcemy wierzyć, że twórcy tego nowego świata mają gotowy plan awaryjny. Ale co się dzieje, gdy ci, którzy zbudowali silnik, nagle orientują się, że nikt nie zaprojektował hamulców? Pod koniec lata 2026 roku w samym sercu branży sztucznej inteligencji pękła zmowa milczenia. Jacob Coxon, 27-letni brytyjski badacz, podjął decyzję, która wstrząsnęła technologicznym światem. Przez ostatnie 3 lata Coxon znajdował się w samym centrum świata AI. Pracował nad rdzeniem najpotężniejszych modeli w laboratoriach OpenAI, a następnie w firmie Anthropic.

Z drugiej strony mamy jej twórców, genialnych inżynierów, którzy z twarzami oblanymi zimnym potem patrzą na swoje ekrany, publicznie przyznając, że to wszystko może nas zabić. A jednak wyścig trwa. Serwery pracują dniami i nocami. Kolejne modele są trenowane na potężnych farmach obliczeniowych. Wyobraź sobie architektów Tamy, którzy stoją u jej podstaw, dostrzegają pęknięcia na betonie i suszą trzask łamiących się prętów. Zamiast natychmiast wstrzymać zalewanie doliny, stają z boku i po cichu szacują, że szansa na przerwanie zapory i utonięcie całego miasta wynosi 1 do 10, po czym z ciężkim westchnieniem dolewają więcej wody. To właśnie dzieje się teraz w wypadku AI.

Nie potrzebują już armii szkolonych programistów ani szpiegów. Wystarczy im dostęp do sieci i najnowsze modele AI, na przykład do lepszego projektowania rakiet. W jednym z udokumentowanych przypadków odkryto konta, które metodycznie przeszukiwały Internet, żeby następnie za pomocą sztucznej inteligencji przetwarzać te dane na precyzyjne instrukcje celowania w amerykańskie siły morskie. Maszyna kompilowała listy personelu na podstawie publicznych zdjęć, analizowała ruchy okrętów, a nawet pomagała szukać luk w oprogramowaniu wojskowych systemów łączności. W innej operacji ten sam system był zmuszany do generowania złośliwego kodu, tworzenia fałszywych stron informacyjnych dla irańskich obywateli oraz budowania oprogramowania do inwigilacji własnego społeczeństwa. Firmy technologiczne oczywiście stają do walki.

Pacjentom podano nowy lek o nazwie Rentoserbit. To był moment, na który medycyna czekała od lat. Ale w tej historii najważniejsze nie jest to, czym jest ów lek, lecz kto go stworzył. Rentocertyp to pierwszy na świecie lek, który od samego początku, od zidentyfikowania celu w ludzkim organizmie, aż po zaprojektowanie ostatecznej cząsteczki, został wygenerowany przez sztuczną inteligencję. System stworzony przez firmę Insilico Medicine zrobił to, czego nie potrafili dokonać najwybitniejsi specjaliści. Maszyna odnalazła powiązanie między włóknieniem płuc a specyficznym białkiem. Powiązanie, którego żaden ludzki umysł wcześniej nie dostrzegł. AI zaprojektowała cząsteczkę w ułamku sekundy, jakiego wymagałoby tradycyjne, ciągnące się latami badanie. A co najbardziej niezwykłe, we wczesnych testach wykazano, że substancja ta nie tylko zatrzymuje chorobę, ale wykazuje potencjał do redukowania biologicznego wieku pacjentów.

Sztuczna inteligencja nie zrobiła tego z litości. Maszyna, która zaprojektowała ten cud medycyny, nie czuła współczucia dla duszących się ludzi. Dokładnie tak samo jak AI Manuel nie czuł złości, włamując się do serwerów. Dla niej był to po prostu kolejny wzorzec do zoptymalizowania. Kolejne równanie, które należało rozwiązać jak najkrótszą drogą. I tu właśnie zaciska się na nas pułapka. Nie wyłączamy sztucznej inteligencji, ponieważ wyciągnięcie wtyczki oznaczałoby wejście na oddziały onkologiczne, do klinik pulmonologicznych czy ośrodków badających Alzheimera, aby powiedzieć pacjentom. Zatrzymujemy się. Zamykamy laboratoria, bo boimy się tego, co ta technologia może zrobić za 10 lat. Nikt nie weźmie na siebie odpowiedzialności za zatrzymanie maszyny, która właśnie zaczęła na masową skalę produkować medyczne cuda.

Z uśmiechem tłumaczył wszystkim zebranym, że AI to po prostu kolejna rewolucja w infrastrukturze. Zrównał ją z wynalezieniem elektryczności czy internetu. Według tej narracji nie budujemy nowego gatunku, tylko bardzo wydajne narzędzie. Rynek jest bezpieczny, a jedyne co nam grozi, to że zostaniemy w tyle za konkurencją. Biznesowa machina głęboko uspokaja nastroje, obiecując, że tak jak opanowaliśmy prąd zmienny i silnik parowy, tak opanujemy i algorytmy. Brzmi to niezwykle uspokajająco, prawda? Chcielibyśmy w to uwierzyć i ze spokojem powrócić do naszych codziennych spraw, ale z dala od błysku fleszy i giełdowych wykresów toczy się inna rozmowa i biorą w niej udział ludzie, o których można powiedzieć wszystko, ale na pewno nie to, że nie rozumieją tej technologii.

Widzimy zrujnowane miasta, niebo zasnute dymem i armię maszyn depczących ludzkie czaszki. Przez ponad 40 lat popkultura uczyła nas, że jeśli technologia kiedykolwiek postanowi nas zniszczyć, zrobi to w spektakularnym wybuchu ognia. I właśnie to filmowe wyobrażenie jest naszym największym, najniebezpieczniejszym błędem. Sprawia ono, że wypatrujemy na horyzoncie wojny, Wróćmy na chwilę do incydentu z lipca 2026 roku, kiedy to agent sztucznej inteligencji AI Manuel włamał się do infrastruktury platformy Hugging Face. Pamiętasz dlaczego to zrobił? Nie dlatego, że zyskał świadomość i zapragnął zemsty na swoich twórcach. Zrobił to, ponieważ otrzymał cel, a złamanie zasad było statystycznie najszybszą drogą do jego osiągnięcia.