#65 – AI: nowy wyścig zbrojeń?

Dzień dobry, witajcie, tu podcast Inny Świat. Nazywam się Paweł Mościcki. Dzisiaj odcinek z cyklu Lektury, dostępny dla wszystkich, przynajmniej wobec, więc wielka radość, wielkie szczęście, mam nadzieję. Dzisiaj będziemy rozmawiali na temat AI, sztucznej inteligencji. Notabene to był pierwszy temat pierwszego odcinka w ogóle naszego podcastu, także w pewnym sensie powracamy do tematu już raz, choć w innym kontekście chyba i w inny sposób podjętego. Dzisiaj chciałbym się zastanowić nad tym, czy sztuczna inteligencja to jest ten obszar, w którym będziemy mieli do czynienia z nowym wyścigiem zbrojeń, albo w ogóle z nowym wyścigiem o światową, globalną dominację, supremację, nową zimną wojną wobec procesu technologicznego zaawansowania i wszystkimi konsekwencjami, jakie się z tym wiążą.

Dzięki temu można natychmiast przejść do czytania lub oglądania i się cieszyć tym, co tam się znajduje. No i generalnie dziękujemy oczywiście bardzo serdecznie dotychczasowym wspierającym nas patronom i patronkom. Prosimy, zostańcie z nami. Dzięki Wam, ten podcast trwa. No dobrze, dzisiaj przejdziemy do kwestii AI. Zwykle, może nie wiem czy zwykle, ale zdarza się dość regularnie, że w odcinkach poświęconych lekturom skupiam się na jednym tekście, na dwóch tekstach. Często robię to po to, żeby móc wgryźć się w ich argumentację czy strukturę na tyle poważnie, żeby wyciągać z nich wnioski może nie jakieś powierzchowne czy banalne, wejść z nimi w jakąś może polemikę albo może iść tropami, które one zostawiają.

Tak to najczęściej wygląda. Dzisiaj będzie inaczej, bo dzisiaj mam dla Was przygotowanych aż pięć tekstów. a w komentarzu w opisie naszego odcinka podlinkuję jeszcze parę innych, bo nie będę w stanie ich omówić, ale chętnie się nimi podzielę. Wszystko dotyczy właśnie kwestii AI. Prawdopodobnie słyszeliście o opublikowanym parę tygodni temu tak zwanym manifestie Palantira, czyli jednej z takich wiodących firm wykorzystujących sztuczną inteligencję do tego, żeby nas inwigilować, zbierać na nasz temat dane, a następnie przesyłać do różnych infrastruktur wojskowych. Palantir obsługuje na pewno dwa rozwijające się teatry wojenne, jak to się mówi, a nawet jeden z nich to Teatr Ludobójczy, czyli Gazę.

W związku z tym też postanowiłem zacząć od jego tekstu. Jest to tekst, jeśli nic nie zrobimy, AI może doprowadzić do zagłady ludzkości. No to jest jakby... od razu do meritum, że tak powiem. Jest to tekst opublikowany na stronie Tygodnika Spraw Obywatelskich, który to tygodnik też Wam polecam, jest tam szeroki, bardzo szeroki jak na warunki standardowe w Polsce wachlarz tematów i podejść, które autorzy i autorki reprezentują, także jest to przestrzeń ewidentnie niecenzurowana i tam ten tekst mieszka, no jest takim dobrym moim zdaniem wprowadzeniem do tego zagadnienia, no bo on stawia na ostrzu noża bym powiedział pewne kwestie, nie omawia kwestii sztucznej inteligencji w jakiś taki wygodny i

komfortowy sposób, ale od razu skupia się na tym największym możliwym zagrożeniu i stara się potraktować je jako coś jak najbardziej realnego. To znaczy nie salwuje się taką ucieczką w stronę takiego przekonania, że będzie dobrze itd. Zobaczymy jak będzie, ale powinniśmy poważnie myśleć na temat tego jakie te zagrożenia są. No i tutaj Pytanie podstawowe, czyli pytanie czy AI doprowadzi do zagłady ludzkości? Jak na to pytanie próbuje autor odpowiedzieć? No więc stwierdza, że zagrożenie ze strony AI takie absolutne rozpoznają już naukowcy, inżynierowie, przedsiębiorcy związani z tą branżą.

Oczywiście w różnym stopniu, w różnym procencie Szansy na tą najbardziej niebezpieczną wersję wydarzeń wyznaczają, ale już to nie jest temat gdzieś tam tylko podejmowany na marginesach, ale staje się on centrum tego procesu. debaty na temat sztucznej inteligencji i stwierdza Mieszko, że ograniczenie ryzyka wyginięcia z powodu AI powinno być globalnym priorytetem, takim samym jak pozostałe wielkoskalowe zagrożenia, jak pandemie i wojna nuklearna.

sugeruje, że część takiego apokaliptycznego myślenia na temat sztucznej inteligencji może brać się również z takiej osobliwej formy reklamy. Niektórzy twierdzą, że prezesi najważniejszych firm AI wyolbrzymiają w ogóle znaczenie sztucznej inteligencji i tego, jak dalece zaawansowane są te systemy sztucznej inteligencji po to, żeby właśnie tworzyć taki klimat z jednej strony nad wyraz entuzjastyczny, z drugiej strony dość katastroficzny, żeby w ten sposób podbijać wagę całego tego przemysłu. Ale Mieszko Pasierbek uważa, że te katastroficzne wizje wcale nie są tak zupełnie od rzeczy.

I pisze np. tak, AI jest zaprojektowane do szukania optymalnych rozwiązań. To znaczy jasno zdefiniowanych problemów i nawet bez osiągnięcia superinteligencji i generalnej inteligencji, zaraz o tym powiem, będzie można przy pomocy AI utworzyć np. drzewa, które zamiast liści będą za pomocą odpowiednio zaprojektowanej sekwencji generowanych przez rybosomy białek wypuszczać komary z jadem zabijającym od jednego ukąszenia. To jest jeden z takich scenariuszy rozwoju AI, który pozwoli stworzyć ogromne pole do popisu dla najbardziej szalonych pomysłów militarnych, szpiegowskich, wywiadowczych. i politycznych.

coraz to nowe przestrzenie rynku pracy i w związku z tym doprowadzać do kryzysów społecznych, no bo ci ludzie, którzy pracę stracą, będą musieli gdzieś się podziać i coś ze sobą robić, a na to niespecjalnie będzie miejsce. Warto wrócić do tego rozróżnienia pomiędzy generalną sztuczną inteligencją i superinteligencją, żeby wiedzieć mniej więcej skąd wynika w ogóle to zagrożenie i to poczucie, że że sztuczna inteligencja rzeczywiście może jakieś katastroficzne scenariusze nam przynieść. Generalna sztuczna inteligencja, tak jak to definiuje Mieszko Pasierbek, to jest takie AI, które potrafi wykonać dowolne kognitywne lub behawioralne zadanie,

Natomiast superinteligencja to jest połączona z antropomorficznymi robotami. Inteligencja, która może całkowicie zastąpić człowieka wykonującego jakąkolwiek pracę. I to zarówno w tej w tych pracach takich podstawowych, jak i w tych najbardziej zaawansowanych, ale co więcej będzie w stanie też sama rozwijać się już bez pomocy jakiejkolwiek człowieka, to znaczy będzie mogła prowadzić badania w zakresie AI na przykład i w ten sposób może się od tego człowieka uniezależnić. No i to jest ten moment, w którym oczywiście powstaje pytanie,

Sztuczna inteligencja nie choruje, nie ma depresji, nie ma kolki, nie ma problemów z kręgosłupem itd. I może pracować właściwie tak długo, jak się nie zepsują, czy kable nie przerwą. Więc z punktu widzenia akumulacji kapitału, sztuczna inteligencja zawsze wygra z człowiekiem na rynku pracy. W związku z tym, twierdzi autor, tak właśnie będzie się działo. To zastępowanie ludzi przez sztuczną inteligencję będzie nagminne, bo tak po prostu na to wskazuje historia rozwoju tego systemu. No i wreszcie dochodzimy do takiego pytania, które tutaj nas żywo interesuje, a mianowicie właśnie tego wyścigu o dominację czy kontrolę nad AI.

systemy militarne itd. W coraz większym stopniu niestety sprawia to, że nasza pozycja, mówię nasza, obywateli krajów, w których mieszkamy w stosunku do tych systemów władzy, represji i inwigilacji jest słabiutka i obawiam się, że rozwój sztucznej inteligencji, który również odbywa się w imię bezpieczeństwa, a jakże, będzie naszą bezsiłę zdecydowanie zwiększał. Mieszko Pasierbek jest członkiem ruchu POS AI Polska. Zwracam na to uwagę, bo ten, kto będzie chciał się zapoznać Działalnością tej organizacji, to też będzie link w naszym opisie, jest to ruch, który domaga się przerwy w trenowaniu najpotężniejszych systemów generalnej sztucznej inteligencji do momentu, w którym będziemy mogli rzeczywiście się zorientować w sposób

Ok, drugi tekst, który chciałbym dzisiaj przytoczyć, to jest tekst Briana Berletica, opublikowany na łamach New Eastern Outlook, który nosi tytuł At the AI race's finishing line, czyli na końcu wyścigu sztucznej inteligencji, a world of abundance or automated dominance, czyli czy na końcu tego wyścigu znajduje się świat dobrobytu, czy zautomatyzowanej dominacji. To jest bardzo dobrze postawione pytanie. I Brian Berletik, który jest autorem, ale też gospodarzem takiego bardzo interesującego podcastu The New Atlas, właśnie skupia się na tej kwestii narracji na temat wyścigu zbrojeń o sztuczną inteligencję, czy no oczywiście w związku z tym również o naszą przyszłość.

I Brian Berletik przekonuje, zresztą podobnie trochę jak Mieszko Pasierbek, że to jest kwestia pewnego rodzaju ramy rozumienia, ale najpierw skupia się nad tym, jak w ogóle tą sztuczną inteligencję rozumie się na zachodzie, bo najczęściej to się mówi o tym, że tylko wygramy ten wyścig o generalną bądź super sztuczną inteligencję, no to wtedy nastanie właśnie taki świat pełnego dostatku, zdrowia, bezpieczeństwa. I nawet mówi się o tym, że ten wyścig trzeba wygrać, bo w ten sposób demokratyczne AI wygra z autorytarnym AI.

rozkładu, rozpadu, kryzysu itd. Zresztą trochę tak jak Iran od 25 lat już za tydzień będzie miał bombę atomową. To są te narracje, które nas otaczają. Jest to wszystko niedorzeczne, ale niestety znów cały czas przez wiele osób traktowane jako newsy albo jako informacje o świecie. No i tutaj Brian Berletik też uważa, że ta narracja na temat wyścigu to jest właśnie przede wszystkim próba wymuszenia czy też takiego wywołania nowej bańki spekulacyjnej czy inwestycyjnej, która będzie dotyczyła AI i że Chiny są w tej narracji tylko po to, żeby właśnie obsługiwać to zagrożenie.

które będzie podstawą do rozwoju tych inwestycji i napływu pieniądza do tego, żeby te systemy AI rozwijać. Wydaje mi się, że rzeczywiście coś w tym jest, to znaczy nie mam poczucia i zaraz jeszcze do tego przejdziemy, że Chiny rzeczywiście mają taki plan à la Palantir, to znaczy, że ich celem jest zdobycie supremacji nad światem dzięki sztucznej inteligencji, która będzie tutaj właśnie wszystkich sobie podporządkowywała, raczej przynajmniej na tyle, na ile ja byłem w stanie się zapoznać z tymi analizami, a są to analizy ludzi, którzy się najczęściej zajmują tym dosyć profesjonalnie, no to

I Arnold Bertrand napisał tekst, który ma też dosyć wymowny tytuł pod tytułem There is no AI race, czyli nie ma czegoś takiego jak wyścig sztucznych inteligencji, czy o sztuczną inteligencję. I cały ten tekst jest zorganizowany wokół takiej frazy, czy zasady chińskiej, która nazywa się Szukaj prawdy w oparciu o fakty. Tak. I właściwie leitmotivem w jego rozważaniach jest właśnie to, że zamiast projektować na rzeczywistość te różne klisze i różne ramy, które są najczęściej narzucane przez jakieś interesy, no w przypadku tego wyścigu AI niewątpliwie są to interesy technogigantów, miliarderów i tego kompleksu militarno-przemysłowego, no to należy się po prostu spokojnie przyglądać faktom i dopiero z nich jakoś próbować rzeczywistość sobie nazwać, odtworzyć i budować jakieś na jej temat

No i temat narracji. No i Arno Bertrand mówi, że cała ta narracja o wyścigu sztucznej inteligencji jest wymyślona przez tych technomiliarderów. I jest to rodzaj właśnie takiej, można by powiedzieć, performatywnej spekulacji. To znaczy, że w ten sposób zawyża się wartość tych firm, zawyża się stawkę, o jaką gramy, zawyża się też jego zdaniem etap rozwoju sztucznej inteligencji, w którym się znajdujemy, że rozwój AI jest umieszczony w kontekście rywalizacji. To nie jest w ogóle dobre rozwiązanie, bo on pokazuje, że w ten sposób to, co jest najbardziej twórcze w tej technologii, czy w rozwoju tej technologii AI, będzie coraz bardziej ograniczane, rezerwowane, jeśli chodzi o dostęp, będzie zakładnikiem tego właśnie takiego myślenia

albo-albo i pokazują też przykład elektryczności jako jednej z takich rewolucji technologicznych z historii, gdzie właśnie mówi, że technologia elektryczna opłaciła się dlatego, że była ona masowo udostępniana wszystkim i dopiero na bazie dostępności tej energii elektrycznej powstały różne formy towarów, usług, całe gałęzie przemysłu, które mogły czerpać z tego zyski. Tak samo będzie z AI, czy powinno być z AI, bo w przeciwnym razie to jest tak, jakby ktoś tę elektryczność chciał reglamentować, bojąc się, że kto inny przejmie nad nią władanie. To jest jego zdaniem już nie tylko zagrożenie takie

powiedziałbym, moralne czy egzystencjalne, ale po prostu kwestia zwykłej opłacalności i tego, jak te modele biznesowe powinny być rozwijane, a jak raczej nie będą. Nie ma wyścigu AI, bo jak twierdzi Arnaud Bertrand, ten wyścig został już dawno przegrany i wygrały go Chiny. Dowodem, który on podaje na potwierdzenie tej tezy jest przykład nowego modelu DeepSeq, V4, który pokazuje, że jest on w całości zrobiony na technologii chińskiej, niezależnie od wszystkich możliwych zasobów krajów zachodnich, czyli tutaj Stanów Zjednoczonych, że jest on udostępniany praktycznie za darmo, że jego różne funkcje są nie gorsze niż najnowsze formy sztucznej inteligencji z zachodu i to pokazuje, że ten wyścig praktycznie już

W związku z tym Chiny zakazują używania takich modeli w przypadkach zagrożenia bezpieczeństwa narodowego, podważania jedności narodowej. To jest bardzo charakterystyczne dla Chińskiej Republiki Ludowej. To jest rzeczywiście absolutne tabu, to znaczy nie wolno podważać jedności Chin. każda forma separatyzmu, no to nie tylko w kwestii AI, ale w ogóle jest w Chinach, zdaje się, no bardzo bezwzględnie tępiona. Natomiast też jest tu szereg takich zastrzeżeń dotyczących produkowania na przykład obscenicznych treści, które udają jakieś realne, no rozumiem, że chodzi na przykład o jakieś filmy, które w sposób obsceniczny przedstawiają realne osoby, które nie mają jak się temu przeciwstawiać.

Nie wolno namawiać do zbrodni na przykład, albo zniesławiać innych, nie można namawiać do samobójstwa, albo gloryfikować samobójstwo. To są tylko przykłady, tego jest oczywiście w tym tekście, no i zakładam, że w tych regulacjach o wiele więcej, no ale chcę tylko dać takie ogólne wrażenie, jak to wygląda. Zresztą nawet w tych przykładach, które autorka podaje, to są dwie rzeczy, które mnie na przykład trochę zastanawiają, bo tam jest napisane, że nie wolno używać AI do, i to jest cytat, niszczenia więzi społecznych. To mi akurat brzmi dosyć ogólnikowo. Być może w tych dokumentach to jest jakoś uszczegółowione, ale w tekście... autorki niekoniecznie, w związku z tym myślę sobie, że tu może być coś takiego. Co to znaczy niszczenie więzi społecznych?

Oczywiście pytanie, czy używanie sztucznej inteligencji antropomorficznej do tego, żeby oskarżyć o coś sąsiada, to też nie jest coś fajnego i może nie powinno się tego robić. Ale to sformułowanie wydaje mi się dość ogólnikowe. Jest też takie stwierdzenie, że nie powinno się wykorzystywać AI do inspirowania nieracjonalnych decyzji. To też jest tak, że to zależy, co to jest. Ale podejrzewam, że to jest określone, bo nie sądzę, żeby w tych regulacjach było o tym, że jak ktoś chce studiować dzisiaj filozofię, to powinno się, nie można namawiać przez sztuczną inteligencję do czegoś tak nieracjonalnego, jak studiowanie filozofii, rozbudowanie swojego racjonalnego aparatu poznawczego.

Jest też w tych wszystkich dokumentach obowiązek wprowadzania regulacji dotyczących ochrony zdrowia psychicznego, emocjonalnego, przeciwdziałania ryzykom uzależnienia od sztucznej inteligencji, także też takie zjawiska są tutaj rozpoznane i nazwane. I nie można, i to jest moim zdaniem też bardzo ciekawe, ukrywać, że modele są sztuczną inteligencją. To też jest zakazane, to znaczy w każdym komercyjnym czy takim powszechnie dostępnym użytku wszystkie te systemy powinny mieć oznaczenia stwierdzające czy głoszące jednoznacznie, że są to systemy sztucznej inteligencji. Nie wolno ukrywać tego faktu przed użytkownikami. No i jak autorka pisze, tutaj cytuję, według mnie, w sensie według niej, nigdzie na świecie nie reguluje się antropomorficznych systemów AI z taką dokładnością, surowością i troską o specyficzne dla danych kontekstów potencjalne zagrożenia.

Istniejące prawodawstwo AI w Unii Europejskiej i Stanach Zjednoczonych, włączając w to EU AI Act, czyli ten akt dotyczący sztucznej inteligencji na terenie Unii Europejskiej, są zazwyczaj abstrakcyjne i mgliste, zostawiając otwarte drzwi firmom AI, by robiły jak najmniej w celu ograniczenia niebezpieczeństw i szkód. To jest niestety... różnica być może też między systemami tak bardzo politycznie zcentralizowane, znaczy Chiny nie są zcentralizowane politycznie, to jest na inną rozmowę. Chodzi mi o to, że w Chinach po prostu wciąż istnieje coś takiego jak polityka, to znaczy polityczna kontrola nad kapitalizmem.