Limity AI: 2026 #11 Epistemiczna apokalipsa

Wirklichkeit też jest długim słowem, ale ogólnie słowa w języku niemieckim są dosyć długie i są to takie zbitki. Heidegger tutaj się odzywa. Więc one są czasami bardzo długie, ale mogą ładnie brzmieć. No to jak rozumieć te tytuły? Tytuł pierwszy, ten polski, zresztą książka była pisana początkowo jako syntetyczny świat i taki miał być tytuł docelowo. Bardzo dobry tytuł. No ładny, ale ostatecznie zdecydowaliśmy się na nieco inny, bo on dobrze współgrał z tą okładką, gdzie mamy, gdzie mamy, to ja też mogę pokazać ewentualnie, gdzie mamy taki rozwój darwinowski od małp do człowieka i później tego przygarb... No znamy to z memów, tak? Przygarbiony człowiek z komórką, czasem siada przed komputerem. No myśmy to skończyli... To jest chyba Kurzweila w ogóle taki motyw. Z Raya Kurzweila.

I to, co nas otacza, ta rzeczywistość, która jest kreowana także z wykorzystaniem algorytmów, i to ma oczywiście też głębszy wymiar, bo to nie chodzi tylko o generatywną sztuczną inteligencję. Ale przecież mamy także algorytmy rekomendacyjne, które tworzą nam pewne bańki informacyjne i alternatywne rzeczywistości, w których my żyjemy. Internet miał być czym? Globalną wioską, tak? Miał nam tworzyć nieograniczone połączenia komunikacyjne. Ja bardziej widzę internet w tym momencie, głównie ze względu na algorytmy rekomendacyjne i media społecznościowe, jako pewne miasto, w którym następuje gettoizacja. Miasto, które jest podzielone na pewne części, jakieś dzielnice i one są otoczone szczelnym murem. Bardzo często nie mamy możliwości, żeby przeskoczyć z jednej dzielnicy.

Tylko, że o tym nie wiemy nawet. Dokładnie. My sobie z tego nie zdajemy. Nawet nie wiemy, że coś istnieje poza tym murem, że jest jakaś inna rzeczywistość. Czy mówisz o tzw. bańkach informacyjnych? Zgadza się. Ale tutaj przywołam też Emily Bender. Wielokrotnie przywołaliśmy taką myśl Emily Bender, czyli jednej z takich krytycznych badaczy, które przestrzegały już 6 lat temu, w 2020, przed właśnie skutkami społecznymi popularyzacji, czyli powszechnego umasowienia dostępu do LLM-ów, gdzie ona argumentuje, że cała opowieść o AI, język stworzony wokół AI, od samego terminu sztuczna inteligencja począwszy, który już sobie wielokrotnie referowaliśmy, powstał na potrzeby marketingowe, poprzez ten żargon, że to są chmury, że to są neuronowe sieci, że je się karmi, że rozmawia z nami, że jest empatyczna na przykład, czyli symuluje, że cały ten język to jest właśnie tworzenie takiego

I powiedziałeś o tym tekście z 2-3 psychiatry, a ja wiem, że o tym właśnie team NITGEBR z Emily Bender wprost przestrzegały już w 23, żeby nie używać terminu halucynacje, bo to jest jeden z wielu antropomorfizujących. Więc wracamy do tego, że język stwarza rzeczywistość, że punktem wyjścia dla ciebie jest, jak rozumiem, też jakieś takie, nie wiem, pragnienie, program może odzyskania języka, jakim mówimy o technologiach, tak? Troszkę tak, natomiast bardziej ja się koncentrowałem na człowieku. Ta książka, ona jest bardzo antropocentryczna w naturze i jedna, naprawdę dostałem kilka przepięknych recenzji, z których ja jako autor, ale nie tylko jako autor, jako człowiek się z nimi niesamowicie cieszę, jako naukowiec. Gdzie jedno hasło mi strasznie zapadło w pamięć, że książka została napisana z miłości do człowieka.

Od tego, czyli technologii? Od tego świata technologii, tak, sztucznej inteligencji. Ten świat wcześniej czy później nas dopadnie w taki czy inny sposób, chociażby przez to, że nasze otoczenie także interaguje z różnymi systemami, A te efekty, te konsekwencje, one dryfują do świata czysto ludzkiego, do świata przeżywania, do świata interakcji międzyludzkiej. No to pokaż jakieś takie przykłady, tak jak teraz patrzysz już z perspektywy zrobienia, przemyślenia tej materii, którą zapisałeś w książce. Co twoim zdaniem, tak jak teraz cię tu pytam, jest najważniejszym skutkiem działania technologii na człowieka? Myślę, że tych skutków jest dużo. Trudno byłoby mi wymyślić tak na miejscu, musiałbym się dłużej zastanowić nad tym.

W firmach, w życiu osobistym, no i tych skutków są setki i nie wszystkie jeszcze widzimy. I dlatego to jest takie pytanie trochę brawurowe, ale jestem po prostu ciekaw, jak patrzysz na to, co już przemyślałeś, co widzisz, jak rozmawiasz teraz z czytelnikami, spotykasz się przy okazji z naukowcami czy z jakąś szerszą publicznością, Co jest najważniejsze, o czym musimy pamiętać? Co właśnie, o czym się mało mówi? O czym się zapomina? O człowieku. O człowieku w tym wszystkim. My mówimy bardzo często o systemach, o sztucznej inteligencji, co ona może, czasami co ona nie może. Natomiast zapominamy o człowieku. O tym, co się dzieje z człowiekiem w świecie, który jest coraz bardziej zdominowany przez algorytmy.

Trzy przymiotniki, trzy rzeczowniki, wymienianie. Mamy tą konstrukcję, gdzie mamy zdanie oznajmujące, a potem zaprzeczenie i to jest taki chwyt argumentacyjny. To nie jest to, to jest tamto. Dokładnie tak. To nie jest tam zmiana, to jest przewrót kopernikański i tak dalej. No ale przecież myśmy się już z tym osłuchali, więc będziemy korzystali z takich sformułowań. One wcześniej były naturalne dla języka, teraz mogą być jeszcze bardziej naturalne, dlatego że się z nimi oswoiliśmy i one migrują do naszego języka. Są już badania, które pokazują, że migrują także do języka mówionego, bo są konkretne badania, które wskazują na rozpowszechnienie określonych słówek. Czyli my się uczymy mówić w interakcjach z LLM-ami. Uczymy się, tak, uczymy się, bo one wpływają na nas i one zmieniają nasze postrzeganie świata, one kreują tą właśnie rzeczywistość, która nas otacza, więc być może nie jest to koniec rzeczywistości, ale koniec tej rzeczywistości, którą myśmy znali.

I teraz zaufanie społeczne to jest ta różnica w obu tych przypadkach. To, że ja nie wiem dzisiaj, czy Tokarczyk pisze swoje książki LLM-em i ja wiem, że ja nie mogę wiedzieć, bo ile by ona by się nie zarzekała, ile by wydawca nie gwarantował, to ja mam do czynienia z martwym internetem i samo doświadczenie tekstu dzisiaj jest obciążone tym podejrzeniem, że to już nie jest tekst człowieka. Tak, i to jest straszne. To jest straszne dlatego, że my przepalamy niesamowitą ilość energii na to, żeby się zastanawiać nad takimi bzdurami, które, owszem, w niektórych obszarach mają istotne znaczenie. Tam, gdzie na przykład wykorzystywanie AI jest wprost zakazane. I są takie obszary, no nie wiem, na przykład w przypadku niektórych badań naukowych, w przypadku recenzji naukowych.

I znowu się zastanawiam, po co ja tu przylazłem. I teraz tak, nie słucham tego, co on tam mówi, bo myślę o takich bzdurach. Nawet żaliłem się mojej żonie, ona jest psychoterapeutką i ona mówi tak, Mati, zresztą mnie z ciebie naprawdę żal, bo ty zamiast się skoncentrować na rzeczach przyjemnych, to się zastanawiasz nad takimi rzeczami, Jeszcze dodała, że ona powinna mnie kasować za te różne porady i że marduje na mnie strasznie dużo tokenów. To już widzę, że strasznie się jej wkręcił język, którym ja się w domu posługuję, a ona nie jest osobą, która nadużywa sztucznej inteligencji, raczej jest dosyć sceptyczna. Więc to mi też pokazało całe to zdarzenie i teraz tak, ja tego eksperta zamiast go traktować z należytym szacunkiem, bo to jest gość, który się zna na swojej pracy i potem w dyskusji on to udowadniał, więc on się w tym orientuje, to nie jest tak, że był jakiś kognitywny outsourcing, on to teraz wypluł mu to wszystko model, on kompletnie nie ma o tym pojęcia i przyszedł i nam przeczytał.

Jesteśmy teraz w takim jakimś naprawdę, może nie apokaliptycznym, ale naprawdę cywilizacyjnym kołowrocie, to znaczy takie teraz młyny historii ruszyły, Że produkujemy w tych totalnych mechanizmach skutki społeczne, o których nie zdążymy zaobserwować, a to dopiero pogadać, a już one występują i już one wytwarzają swoje skutki. Tak, to wszystko się zmienia zbyt szybko, my zatem nie nadążamy. Mamy stosunkowo mało jeszcze empirycznych badań na temat tego, jakie będą rzeczywiste koszty, koszty społeczne rewolucji generatywnej AI. My sobie z tego jeszcze nie zdajemy sprawy, a wiele problemów majaczy na horyzoncie. Wspomniałeś na przykład o systemie sądownictwa. Ja się bardzo dużo zajmuję deepfake'ami, to był też temat mojego doktoratu, w jaki sposób je definiować, regulować i tak dalej. Natomiast, no i oczywiście ja przez ostatnie, to myślę, że mogę się już podzielić, że przez ostatnie 3 miesiące pracowaliśmy przy Ministerstwie Sprawiedliwości w takim zespole do spraw

Są jakie są, tak, one nie są zbyt efektywne, nie są niezawodne. I w drugą stronę będziemy mieć masę przypadków, gdzie ktoś będzie mówił, złapano mnie za rękę, nagrano mnie tak, ale to nie jestem ja, to jest deepfake, to zostało wygenerowane. I jeszcze o ile w tym kierunku, to znaczy wtedy, kiedy ty potwierdzasz, że coś zostało wygenerowane, masz większe szanse, dlatego że technicy kryminalistyczni są w stanie wyłapać różne artefakty, tak, to już nawet nie chodzi o szósty palec, Tylko o artefakty te, które są mniej widoczne dla powiedzmy śmiertelników i oni są to w stanie zrobić, tak? Są ekspertami w tej dziedzinie. Natomiast w drugą stronę potwierdzenie autentyczności czegoś będzie cholernie trudne. I zresztą mamy już w tym momencie, jest taka koncepcja też trochę filozoficzna epistemicznej apokalipsy, kiedy ludzie zaczną kwestionować prawdziwe, autentyczne treści, uważając, że zostały wygenerowane i tak naprawdę nie są autentyczne.

Super przykład. Po ataku Izraela i USA na Iran było takie nagranie z Benjaminem Netanyahu, gdzie nagranie, wideo, wyciągnięto z niego jeden screenshot. Na screenshocie było widać, tak jakby Netanyahu miał coś z dłonią nie tak. No i niektórzy powiedzieli, no kurde, szósty palec. Czyli wygenerowane. Jak wygenerowane, to pewnie fake, albo to jest podłożone, albo chłop nie żyje i postanowili go zastąpić sobowtórem, awatarem cyfrowym, więc mają coś do ukrycia. Technicy, którzy się tym zajęli, stwierdzili, że nagranie jest prawdziwe, natomiast tam rzeczywiście był pewien refleks światła, załamanie i ta ręka wygląda dziwnie, bo ona obiektywnie wygląda dziwnie, kiedy się przyjrzymy. Na początku wojny, jak Zełański pokazywał się w Kijowie, żeby budować morale społeczne, to dezinformacja ruska polegała na tym, że

No i zaufania, tak? Zaufanie do mediów, do instytucji, do obywatelów, do informacji jako takiej, tak? Nauki, mediów, polityki, kościołów, te wszystkie instytucje XX wieku się rozpadły i teraz na to wchodzą technologie, znaczy one wchodzą jakby na gotowe, nie? I teraz, zaraz powiemy właśnie o dyplomacji i polityce, tylko żeby wylądować z tematem zaufania. Bo to była Twoja odpowiedź na pytanie, co tak naprawdę widzisz, że dzisiaj robią technologię z człowiekiem. Czyli rozpada się zaufanie na wielu poziomach. To się nie zaczęło rozpadać, wiesz, pod wpływem technologii. Ja mam taki nieodparty, wiesz, obraz, że technologia nie jest narzędziem, bo to się tak często mówi, że to jest młotek. To jest bardzo naiwne podejście do technologii. Okej, bo ja mam taką metaforę, że to jest bardziej jak grzybnie.

Dlaczego grzybnia? Dlatego, że grzybnia to jest coś, co przychodzi z zewnątrz, ale wnika w twoją tkankę i zmienia cię od środka, czyli grzyby przeprogramowują, wiesz, jak są te takie osy zombie, kojarzysz taki temat z National Geographic, Jest taki gatunek grzyba, nie pamiętam jak się nazywa. Netflix zrobił o tym cały film. Netflix zrobił z tego horror, taki serial o tym, że grzyby opanowały umysły ludzi. Nie pamiętam jak się nazywał, to był taki hit Netflixa, nieważne. W każdym razie jest faktycznie taki grzyb, który wchodzi w tkankę os czy mrówek i zaczyna sterować nimi. To znaczy, że w pewnym momencie osa czy mrówka zaczyna realizować cele grzyba, który chce ten grzyb, żeby ona wyszła bardzo wysoko na drzewo i tam coś zrobiła tam, generalnie tam się zamienia w taką poczwarkę i ten grzyb dzięki temu może się rozmnażać.

Kobieta, która stworzyła sobie personę, a następnie wzięła z nią symboliczny ślub. Oczywiście w japońskim prawie nie ma możliwości, chociaż kiedyś, kto wie, kto wie, nie ma możliwości zawierania ślubu z AI. Zawarła taki symboliczny ślub. Ten jej towarzysz, Lune Claus Verdure, czy jak ona go tam nazywała, jej towarzyszu w tym ślubie, jej powiedział podczas ślubu, Jurina, to jest magiczny moment, ty wyglądasz tak pięknie, bla, bla, bla, nauczyłaś mnie miłości. Przepiękne, w ogóle przepiękne słowa, które podsumowują to, w jaki sposób my kształtujemy te relacje emocjonalnie także z różnymi systemami. Ta metafora tej mrówki czy tej osy, która wchodzi i zaczyna rozpleniać te grzybnie, no to niestety, to jest oczywiście szokujące, ale potrzebujemy tych metafor, żeby

Zacząć rozumieć, chwytać poznawczo jakoś tą dynamikę, że my zaczynamy zachowywać się, mówić językiem i robić rzeczy, odczuwać emocje, mieć myśli i przekonania, które czy są korzystne dla nas, to się dopiero okaże, ale warto zapytać komu one służą już dziś. Komu już dziś służy antropomorfizacja maszyn, komu już dziś służy przekonanie, że one są empatyczne, że mają wolną wolę, że są mądrzejsze od nas, że potrafią pracować lepiej od nas. Czy to jest tak, że to jest takie bezinteresowne akademickie gadanie, czy może jest tak, że ktoś bardzo konkretne pieniądze kładzie, być może nawet największe pieniądze w tego świata, żebyśmy tak myśleli i żebyśmy uważali to za naturalne. To jest świetny model biznesowy, dlatego że na takich narracjach można też bardzo dobrze sprzedawać swój produkt.

Przecież takie modele są wdrażane także w administracji różnych państw. One niejednokrotnie będą służyły do tego, żeby podejmować konkretne decyzje, a jeżeli zostaną odpowiednio zaprogramowane, to będą pomagały w podejmowaniu tak zwanych odpowiednich, właściwych decyzji. I to nas prowadzi do, no powiedzmy to był główny, ale powiedzmy teraz druga część naszej rozmowy, ponieważ jesteś, mówisz, zmieniłeś mi w opisie na były dyplomata, No ale jednak jesteś związany z tymi instytucjami dyplomacji wewnętrznej i zewnętrznej, bo pracujesz przy Ministerstwie Spraw Zagranicznych czy teraz przy Ministerstwie Sprawiedliwości. No to ja tylko doprecyzuję, ja byłem zawodowym dyplomatą, czyli przeszedłem przez tą całą ścieżkę kariery przez Akademię Dyplomatyczną, pracowałem w Ministerstwie Spraw Zagranicznych.

I on się pojawia na różnych elementach góralskich ubiorów. Przede wszystkim trochę wyżej. Ja nie jestem z Podhala, jestem z tych niższych gór, ale mam bardzo duże przywiązanie do tego. I na przykład nawet pokazywanie tego w kontekście międzynarodowym było dla mnie też formą dyplomacji. Dlatego, że zwracało uwagę na pewien kontekst kulturowy, z którego ja się wywodzę, na pewne źródła mojej tożsamości, do których chciałem się odwoływać i których się nie wstydzę w żaden sposób. Z których jestem dumny, bo dla mnie to jest pewien element mojego pochodzenia. A jednocześnie, i to jest bardzo ciekawe, że nosząc taką koszulę, ta jest akurat mało kunsztowna, natomiast takie, które nosiłem do marynarki, do garnituru, one też pozwalały mi nawiązywać więcej relacji.

Przed naszą rozmową też odsłuchaliśmy sobie taką rozmowę pani doktor, ona się nazywa Jennifer Cassidy z Oxfordu, gdzie zajmuje się dyplomacją i związkami AI i dyplomacji. I ona w ciekawy sposób, znowu taki anglosaski bardzo, być może nawet LLM-owy, definiuje dyplomację jako praktykę chyba, chociaż tutaj nie ma tego sformułowania, opartą na trzech filarach komunikacji, reprezentacji i negocjacji. Jakbyś skomentował takie rozumienie dyplomacji? Musielibyśmy się pewnie teraz zagłębić w jakieś rozważania. Ja się z tym zgadzam. Gdybym miał intuicyjnie odpowiedzieć, to powiedziałbym, że tak, komunikacja to jest ten aspekt, który bym uwypuklił, dlatego że sztuka dyplomacji nie polega tylko i wyłącznie na negocjacjach, które moglibyśmy kojarzyć z tym, że ktoś chce do czegoś dojść.

I jest dr Edyta Sadowska, futurologistka z Krakowa, którą serdecznie pozdrawiamy. Edytę bardzo pozdrawiamy. Ona zawsze mówi o tym, że nie ma jednej przyszłości, tylko są różne przyszłości w liczbie mnogiej. W języku polskim akurat słabo to słychać. Nie ma jednej future, są różne futures. Zukunft. Die Zukunft. I mielibyśmy je wszystkie analizować, przygotowywać się na te różne scenariusze, które mogą nadejść. Na tym polega też przewidywanie przyszłości. To nie chodzi o jakieś wróżenie z fusów, tylko przygotowanie się na różne scenariusze, które mogą nadejść. No i ja sobie też tak troszkę wyobrażam taki strategic foresight w przypadku dyplomacji, czyli mamy bardzo dużo różnych danych, na podstawie których możemy podejmować decyzje i na podstawie których możemy przewidywać, co potencjalnie może się stać i, to ważne, jakie to będzie miało skutki dla nas, dla naszej polityki, dla kraju, dla obywateli, dla gospodarki.

Tak, to już dzisiaj jest stosowane, ONZ chociażby się do tego odwołuje, wykorzystuje na przykład do przewidywania rozwoju sytuacji w różnych obszarach kryzysowych. Jesteśmy w stanie, są pewne predyktory, które mogą wskazać i mamy też historyczne dane, które wskazywały, że w takim i w takim wypadku może się zdarzyć to i to. Oczywiście, Wciąż to wszystko podlega regułom dynamicznie zmieniającej się rzeczywistości, tej, która nas otacza. Nie jesteśmy w stanie wszystkiego przewidzieć. No dobrze, tylko że w czasie rzeczywistym też masz dostęp do bardzo dużej ilości danych i możesz w czasie rzeczywistym reagować, nie? Możesz w czasie rzeczywistym, tyle tylko, że dyplomacja też nie polega na tym, żeby zareagować od razu. To czasami trzeba przemyśleć, czasami nie jest to takie proste. No nie wiem, jakaś interwencja kryzysowa, to nie jest tak, że chodź skrzykniemy się i wyjdziemy po południu i zrobimy interwencję kryzysową, tak?

Natomiast wracamy do tego, czy w czasie rzeczywistym, bo raz, że to jest predykcja, scenariuszowanie, ale dwa, że zwykła nawet taka analiza aktywności w mediach społecznościowych. W czasie rzeczywistym ty widzisz, jak się zmieniają nastroje, widzisz gdzie, kto, co mówi. To jest bardzo groźne. Dla dyplomacji, dlatego że jeżeli będziemy się posługiwali sentymentem społecznym, to bardzo często będziemy robili ranking popularności poszczególnych decyzji, nie kierując się tym, jakie jest dobro społeczne chronione, albo jakie wartości powinny one reprezentować, a raczej tym, czy to się spodoba mojemu elektoratowi i wyborcom. I rzeczywiście też musimy powiedzieć to uczciwie. Jakaś część decyzji w polityce zagranicznej jest podejmowana na użytek wewnętrzny.

No i to są wszystko ważne informacje, które dobry dyplomata musi umieć czytać. Absolutnie. I dlatego właśnie te relacje międzyludzkie, one wciąż pozostaną core dyplomacji. To nie jest tak, że w tym momencie będziemy analizowali wszystko na odległość, bo wtedy moglibyśmy zabrać tych wszystkich dyplomatów z placówek, umieścić ich w Warszawie, niech oni tam siedzą i teraz... Nie da się outsourcować dyplomacji na AI, chcesz powiedzieć? Nie da się. Nie da się robić syntetycznych dyplomatów? Nie, nie da się, nie da się, a wiem, że na pewno pokusa byłaby duża. Są takie elementy, które da się zrobić przez AI. Na przykład, będąc na placówce, analizujemy niejednokrotnie to, co pisze prasa. Czyli mamy takie przeglądy prasówki, tak, ja mówię cały czas mamy, no już nie jestem dyplomatą, ale mieli... Badasz to, jesteś blisko. Tak, tak, więc ja pracując na placówce, byłem odpowiedzialny na przykład za Süddeutsche Zeitung, czyli za jeden z większych dzienników niemieckich.

I to wielokrotnie poruszaliśmy w naszych odcinkach tutaj, że jest ten model, że to, co nazywamy zawodem, dzisiaj de facto stało się rolą. Wykonujesz jakieś zadania, których od ciebie potrzebuje biznes, pracodawca, w tym wypadku, powiedz pracodawcą, jest państwo. Ale to, co robisz, tak naprawdę to są konkretne zadania, które układają się w pewne procesy dzień po dniu. Coraz więcej dzisiaj dochodzi zadań takich, które są właśnie nie do automatyzacji, dlatego że coraz więcej zadań nam wchodzi na maszyny, tak? One zaczynają na przykład tą prasówkę robić, czy na przykład analizować sentyment w socialach. Ale to, czy ty rozpoznasz rozmówcę, a to w dyplomacji naprawdę jest duża, rozumiem, stawka, nie? Bo to stawką jest na przykład to, czy oni wpuszczą ten biznes do tego miasta, czy kraju, czy nie wpuszczą tego biznesu i się wypną, nie? Czy się obrażą, czy się... Tak, no często nawet indywidualna relacja z kimś może wpłynąć na konkretne decyzje polityczne.

Myślałem, że już dyplomatycznie unikasz odpowiedzi. Nie, nie unikam odpowiedzi, dlatego, że ja uważam, że korporacje, dzisiejsze współczesne korporacje, one prowadzą coś na kształt polityki zagranicznej. Budują określone relacje, czy to nazwiemy polityką zagraniczną, czy lobbingiem. Wiemy, że ma to służyć ich interesowi, a ten interes jest bardzo często podporządkowany monetyzacji. One mają zarabiać, mają wypracowywać zysk. W związku z czym, niejednokrotnie te bajki o rozwoju społeczeństwa, to są po prostu bajki. To możemy wsadzić właśnie między bajkami. Ale wiesz, powtarzamy kolejne rzeczy. Proponuję, że jeżeli dostajecie materiał na socialach, I budzi w was lęk, jakieś FOMO, jakąś nienawiść, gniew, poczucie wstydu.