Czy rozwój AI może nas zabić? | Jakub Growiec

Podcast GRAPE. Tłoczone z danych. Dzień dobry. Wyobraź sobie, że przez niemal 200 tysięcy lat żyliśmy w stagnacji. Świat się nie zmieniał, a potem coś pękło. Rolnictwo, rewolucja przemysłowa, rewolucja cyfrowa i trzeba było wynaleźć PKB. Czy ten wzrost może być nieustanny? Czy zmierzamy w stronę ziżającego ogniem krateru? O ważnych cywilizacyjnych dylematach rozmawiamy dziś z Jakubem Growcem ze Szkoły Głównej Handlowej. Dzień dobry. A o to, dlaczego nie utrata pracy z powodu AI powinna nas martwić, będzie pytał Piotr Żoch.

Natomiast to nie jest to 10 lat jednak. Jednak w ramach tych poszczególnych er są kolejne zmiany kumulatywne i technologia cały czas się poprawiała, przez całą historię poprawia się cały czas nadal. To tempo jest szybsze niż wykładnicze, to znaczy w ramach kolejnych tych er można powiedzieć, że z grubsza tempo rozwoju było z grubsza wykładnicze, natomiast każda rewolucja technologiczna to kolejne przyspieszenie. No i teraz rzeczywiście ta dynamika jest bardzo wysoka, więc na przykład w branży AI, o której pewnie będziemy dzisiaj jeszcze rozmawiać, to przełomy notowane są co parę miesięcy. W zasadzie podwojenie łącznych nakładów na uczenie największych modeli językowych zajmuje 6 miesięcy obecnie. To są niesamowite tempa wzrostu, których nigdy wcześniej nie obserwowano.

Jak będziemy pracować, skoro te maszyny zamiast nas będą wykonywać pracę umysłową, a fizyczną już wykonują zamiast nas? No ale być może ważniejsze jest pytanie o podejmowanie decyzji, czyli część pracy umysłowej polega na podejmowaniu decyzji. Jeśli to wyodsursujemy do AI, to za co będziemy odpowiedzialni i kto będzie decydował o tym, co nas spotka. No i to jest cały worek kolejnych pytań. No ale myślę, że słuchacze mogą do końca nie rozumieć całej tej sytuacji jako niebezpiecznej, jeżeli mówisz o tym, że outsourcujemy podejmowanie decyzji do AI. Co jest złego w tym, że na przykład algorytm kwalifikuje nam pacjentów do jakichś bardziej zaawansowanych badań.

Jest to jakieś podjęcie decyzji. Co jest złego w tym, że algorytm organizuje pracę w fabryce i podejmuje decyzję kto, na jakiej linii, ile osób powinno pracować. To też jest podjęcie decyzji. Gdzie jest to niebezpieczeństwo? Bo tego nie widać tutaj. No tak, to ja myślę, że tutaj warto podkreślić taką kwestię na ile te zadania wykonywane przez AI są komplementarne względem zadań wykonywanych przez ludzi, a na ile są substytucyjne. Jeśli są komplementarne, czyli wspierają te zadania, które wykonują ludzie, No to nie jest to sytuacja niebezpieczna. Być może dla niektórych osób na rynku pracy jest niebezpieczna, bo np. zamiast potrzebować 10 pracowników, nazwijmy to niższego szczebla, może wystarczy jeden pracownik wyższego szczebla, który ma pod sobą algorytmy AI.

W tym sensie może to być jakieś zagrożenie. Naprawdę istotne zagrożenie pojawia się, kiedy to są zadania substytucyjne względem tego, co robi człowiek. Iż po prostu może zrobić to samo co my, tylko wielokrotnie szybciej, bo to tak zwykle jest, że czas przetwarzania informacji w naszym mózgu jest wielokrotnie wolniejszy niż czas przetwarzania informacji w cyfrowych komputerach. No i być może lepiej, tak? Więc jeśli z punktu widzenia pacjenta, który jest kwalifikowany przez AI, to może nawet być postęp. To może być lepsza decyzja i w tym sensie to fajnie. Być może łatwiej nawet zapanować nad pewnymi jakimiś formami dyskryminacji, chociaż oczywiście pojawią się nowe formy dyskryminacji. Speakers time AI. Tak, więc to też jest temat rzeka. Ale no rzeczywiście wydaje mi się, że problem nie tutaj leży, a raczej leży w tym, że w zasadzie na każdym szczeblu może się opłacać zastępować decyzje podejmowane przez człowieka decyzjami podejmowanymi przez AI i nie widać końca tego procesu.

To jeszcze na chwilkę się zatrzymajmy. Problemem jest to, że ten człowiek, który do tej pory podejmował decyzje już jej nie podejmuje i nie ma tej pracy, bo powiedzieli, że nie utratą pracy należy się aż tak bardzo przejmować. Czy ten fakt... Czy fakt, że to podejmowanie decyzji przynależy już nie jest funkcją człowieka? Tak. Myślę, że ostatecznie najbardziej się obawiam utraty kontroli. To znaczy, jeśli być może idąc od dołu w górę w tych hierarchiach podejmowanych decyzji, Outsourcujemy te decyzje z własnej woli, dobrowolnie przekazujemy tę moc decyzyjną sztucznej inteligencji, ale też w miarę postępu kompetencji tej AI, część decyzji może po prostu ona chcieć sobie przejąć samodzielnie, mając pewne

Preferencje swoje ukształtowane. I to nie chodzi rozumiem o taki scenariusz, że AI nagle zyskuje świadomość i chce coś zrobić, tylko po prostu ma swoje jakieś cele wynikające z tego, że jest stworzone do optymalizowania czegoś i dlatego działa niekoniecznie w naszym interesie. Często ludzie myślą, gdy się słyszy o takich scenariuszach, to od razu przychodzi mi do głowy Terminator i podobne książki, filmy science fiction. Terminator jest naprawdę dobrym filmem, moim zdaniem. Natomiast nie ma tutaj potrzeby, żeby to było Żeby to była algorytm, który jest świadomy i jakby świadomie obraca się przeciwko nam. To, co tu jest kluczowe, to jest tak zwana konwergencja celów pomocniczych.

Chyba każdy cel łatwiej jest zrealizować, jak się ma w ręku więcej zasobów. Po trzecie to jest chęć efektywnego wykorzystywania zasobów. Po czwarte to jest pewnego rodzaju kreatywność, poszukiwanie nowych dróg realizacji tego naszego celu. Teraz oczywiście można się zastanowić, czy AI będzie musiała mieć jakikolwiek cel, ale sam fakt, jak ona jest uczona i w jaki sposób działa w realizacji nawet takich prostych poleceń, jak w chatbocie zapytamy o coś, sugeruje, że Naturalnym jest, żeby w tym algorytmie pojawiło się, nawet tak implicyjnie, jakaś optymalizacja celu. W tym sensie, jeśli to się będzie pojawiać, a wydaje się, że już mamy empiryczne dowody, że się pojawia, to będą się pojawiać cele pomocnicze, które notabene też już zaczynamy diagnozować w istniejących modelach.

To brzmi bardzo skomplikowanie, więc też tutaj od razu prośba o wyjaśnienie, ponieważ myślę sobie tak, czy ty mówisz o takiej sytuacji, że na przykład jakiś model językowy nie podpowie mi nigdy, przestanie używać różnych modeli językowych, bo to jest jakby osłabienie pozycji tego narzędzia, czy coś bardziej skomplikowanego? Takim przykładem, który często jest przywoływany, takim można powiedzieć przerysowanym przykładem jest tak zwana apokalipsa przez spinacze, gdzie konstruuje się model AI, którego zadaniem jest, żeby wyprodukować jak najwięcej spinaczy. To jest taki prosty, mierzalny cel, dobry, żeby sprawdzić, czy to jest mądry model, czy głupi model. No i jak się okaże, że ten model jest naprawdę mądry, to on zrozumie, że jego nadrzędny cel maksymalizacji produkcji spinaczy

Będzie zagrożony, jeśli człowiek będzie chciał go wyłączyć, więc będzie się przed tym bronić. Jeśli będzie chciał przeprogramować, żeby już nie maksymalizował tych spinaczy, tylko robił coś innego, być może bardziej ludziom potrzebnego. Będzie chciał jak najwięcej zasobów. Być może będzie chciał całe swoje otoczenie, całą kulę ziemską i część kosmosu zamienić w jedną wielką fabrykę spinaczy. To jest oczywiście taki Przerysowany przykład, bo pewnie nikt nie chce tylu spinaczy. Natomiast kiedy widzimy, jak wygląda uczenie modeli AI, to widać, że one po pierwsze przetrawią cały Internet po wielokroć, widząc, jakie motywy przyświecają ludziom przy podejmowaniu różnych decyzji i też w jakimś stopniu starają się je naśladować, bo tego później oczekuje się od nich.

I jednocześnie bardzo niewielki odsetek tych wydatków, i to w większości zresztą są i tak wydatki samych tych firm branży AI, to są wydatki na tzw. alignment szeroko rozumiany, czyli zgodność celów tych modeli z tym, co my byśmy chcieli. I to też jest rozumiane wieloznacznie. Tak naprawdę również w ramach tej puli na alignment niewielka część to jest to, co jest kluczowe z punktu widzenia ryzyka egzystencjalnego. Bo są też inne potencjalnie szkodliwe rzeczy, które ta sztuczna inteligencja może robić. Na przykład dwunastolatek może zapytać, jak stworzyć potężnego wirusa, Które wybije połowę ludzkości. I rozumiem, to też są zagrożenia, ale mówimy tutaj o... To też są istotne zagrożenia, jak najbardziej. Albo są nawet takie bardzo proste rzeczy, które bardzo firmy chcą się zabezpieczyć przed nimi, czyli żeby np. nie podawał linków do jakichś stron, do których nie powinien, albo nie używał brzydkich słów tam, gdzie... Albo nie pomagał w hakowaniu.

Albo nie wspomagał w złych działaniach, bo to jest też duże zagrożenie, że mogą być tzw. źli aktorzy, od terrorystów po dyktatorów, którzy będą chcieli użyć AI, żeby realizować swoją agendę i to jest rzeczywiście dużym zagrożeniem. Natomiast to, co ja miałem na myśli wcześniej, mówiąc o tych, z punktu widzenia egzystencjalnego zagrożenia, najważniejszej części wydatków na alignment, to jest ryzyko utraty kontroli nad ludzką inteligentną i sprawczą jednocześnie sztuczną inteligencją. Po prostu to może być taki punkt bez odwrotu, że jeśli poziom kompetencji przekroczy pewien krytyczny próg, to możemy nie być w stanie już zapanować nad tym procesem optymalizacyjnym, który stworzyliśmy.

Jakieś pomysły tam się rzucą. Najczęściej to się mówi o UBI, uniwersalnym dochodzie podstawowym. To jest daleko niewystarczające, bo oczywiście jest też akumulacja czynników. Tak jak pracy, zwłaszcza umysłowej, nie sposób akumulować per capita, bo każdy ma jeden mózg. Natomiast czynnik taki jak AI, jak sztuczna inteligencja, jak najbardziej daje się akumulować i on jest bardzo silny. Jego rozkład w populacji obecnie, czyli kto jest właścicielem mocy obliczeniowych, jest skrajnie Jakub Growiec, SGH, Patrycja Maciejewicz,

Domyślny scenariusz jest oczywiście scenariuszem wzrostu nierówności. I to być może do skrajnych postaci, nie notowanych dotąd. A to, co w jakimś stopniu sprzyjało ograniczaniu nierówności, czyli czy to mechanizmy demokratyczne, czy ryzyko jakichś buntów, protestów, W sytuacji automatyzacji służb porządkowych i inwigilacji dzięki AI też może zniknąć. Więc to pole do jeszcze większego wzrostu nierówności otwiera się, jest możliwe. Chińczycy testują wersję beta permanentnej inwigilacji. Interesują jeszcze mnie te punkty przełomowe, krytyczne.

Czyli na ile taki model AI jest w stanie samodzielnie siebie przeprogramować, żeby być lepszym modelem AI. Wyciągnąć wnioski z tego, co przeprowadzał wcześniej, wprowadzić zmiany i wiedzieć, do czego one doprowadzą. Nawet nie wiem, czy wiedzieć. Po prostu zaprojektować zmiany, wdrożyć je i w efekcie powstanie coś, co jest lepsze niż było. Czyli nie będą potrzebni badacze, którzy będą trenować te modele i pracować nad nimi, tylko modele same będą się ulepszały. Tak. Ciekawostka jest, że jak się zobaczy raport SystemCard ostatniego modelu OpenAI, to się nazywa chyba 5.3 Codex, on tam ma taki punkt, w którym jest napisane, że jest to pierwszy model od OpenAI, który w dużym stopniu uczestniczył w tworzeniu samego siebie.

Na razie człowiek jest w pętli, więc to badacze z OpenAI używali tego modelu, żeby się wspomóc w pracy. Natomiast to widać, że w programowaniu ogólnie rozumianym tempo wypierania programistów przez AI jest błyskawiczne i tak samo może być w programowaniu uczenia AI. I w tym sensie mamy bardzo blisko kolejny próg rekursywnych samoulepszeń, który może się bardzo szybko wymknąć spod kontroli, bo to są prędkości działania o wiele wyższe niż ludzkie pojmowanie. No i wytworzy moście model, który wytworzy następny model, który będzie już naprawdę poza zasięgiem zrozumienia kogokolwiek człowieka. Także to jest taki jeden próg. Zastanawiam się, jakie jeszcze inne progi... Na pewno kwestia sprawczości jest ważna. Jest taki sławny wykres tzw. firmy Mitr i oni mierzą, jak długie zadania, w sensie...

Tak, odbywają się też. Też w kontekście znalezienia sensu istnienia, sensu życia, celu życia, kiedy nie możemy go znaleźć w pracy, kiedy nie możemy go znaleźć w jakiejś kreatywności, kiedy widzimy, że AI jest od nas lepsze w naszej pracy, jest od nas lepsze muzyką czy sztuką czy czymś takim. Też zaczyna być w tym lepsze. To w czym my jesteśmy lepsi? Co nas wyróżnia? No to jest jakaś dyskusja na pewno też istotna. Ale to szuka w drugą stronę. Jak te modele nauczyć jakichś naszych wartości? Chyba Claude na przykład ma konstytucję swoją, tak? Tak, to też jest ciekawe, bo firma Entropic stwierdziła, że ponieważ nie ma lepszego pomysłu na to, jak rozwiązać problem AI alignment, czyli zgodności celów tego modelu z tym, co firma Entropic by chciała, albo najlepiej z długofalowym dobrostanem ludzkości,

Ale w historii chyba nam trochę udało się powstrzymać podobne wyścigi zbrojeń, zbrojenia nuklearne i tak dalej. Więc może jest jakaś... Ale cały czas są takie podejrzenia, że w chińskich laboratoriach i tak dużo bardziej doskonałe technologie już powstały. Możliwe. Jeśli chodzi o wyścig nuklearny, no to w istocie nie było wojny nuklearnej na globalną skalę. Na razie. Natomiast niewątpliwie arsenały ciągle są i są ogromne i to jest zagrożenie, które nie znika w momencie pojawienia się nowego zagrożenia, a co więcej może się skumulować. To znaczy wyobraźmy sobie AI, która dostanie dostęp do tej broni nuklearnej. To jest jakby też kolejny potencjalny wektor ataku. A różnica między bronią nuklearną a AI jest taka, że broń nuklearna jest całkowicie narzędziem w rękach człowieka.

I to ostatecznie zawsze człowiek podejmie decyzję. A z AI nie musi tak być. Może się wymknąć spod kontroli i podjąć własną decyzję, której człowiek by nie aprobował, a przynajmniej większość ludzi by nie aprobowała. Ja zapytałam cię na samym początku, czy rozwój może być zabójczy i tak powiedziałeś o tym ogólnie, ale cała nasza rozmowa tego dotyczyła, to czy możesz to tak trochę na koniec zsyntetyzować i jeszcze raz odpowiedzieć na to pytanie. Czy rozwój może być zabójczy? Rozwój może być zabójczy. Przez rozwój technologii wszyscy możemy zginąć. I pierwsza taka technologia, która była w stanie zabić całą ludzkość naraz, to była broń jądrowa. Gdyby rzeczywiście rozgorzała w latach 50., 60., 70. wojna nuklearna między USA a Związkiem Radzieckim, być może wszyscy byśmy zginęli, pojawiła się nuklearna zima.

To się sumuje, czy to może być inne? Nie. Szczerze mówiąc, z tych 15% to chyba dużą część bym przypisał temu, że z jakiegoś magicznego powodu Rozwój AI się zatrzyma. Może nagle pójdziemy po rozum do głowy i zahamujemy to. Może AI osiągnie sukces. Może pojawi się jakaś bariera, której dzisiaj nie widać, która spowoduje, że dalsze zwiększanie nakładów spowoduje, że przestaniemy widzieć postęp w kompetencjach tych modeli. To jest takie marzenie ściętej głowy, nie przykładem do tego jakiejś wielkiej wagi, no ale chyba i tak większą niż tą utopię, bo ta utopia mi się wydaje skrajnie mało prawdopodobna. To jest takie prawo, można to nazwać zasadą Anny Kareniny, że bardzo wiele rzeczy może pójść źle i wystarczy, że jedna pójdzie źle i jest katastrofa, a wszystkie naraz muszą pójść dobrze, żeby się zrealizował scenariusz utopii.