Limity AI: 2026 #11 Epistemiczna apokalipsa

Nawet ostatnio w rozmowie z Markiem Szymaniakiem mówiliśmy na przykład o tym, jak LLM-y zmieniają doświadczenie lektury, doświadczenie tekstu i status cywilizacyjny pisma, kiedy po raz pierwszy od kilku lat raptem w skali cywilizacji mózg Człowieka, istoty ludzkiej ma do czynienia z czymś innym niż w całej historii cywilizacji, ponieważ teksty, które dzisiaj czytamy są czymś innym, mogą być czymś innym. I to jest ta pułapka. Także ja już dzisiaj nie wiem, czy nie mogę wiedzieć, czy Czy Olga Tokarczuk pisała wszystkie swoje książki samodzielnie, czy to może jakieś maszyny generowały kawałki jej tekstów? To jest jeden z takich skutków właśnie, który zmienia rzeczywistość.

Tylko, że o tym nie wiemy nawet. Dokładnie. My sobie z tego nie zdajemy. Nawet nie wiemy, że coś istnieje poza tym murem, że jest jakaś inna rzeczywistość. Czy mówisz o tzw. bańkach informacyjnych? Zgadza się. Ale tutaj przywołam też Emily Bender. Wielokrotnie przywołaliśmy taką myśl Emily Bender, czyli jednej z takich krytycznych badaczy, które przestrzegały już 6 lat temu, w 2020, przed właśnie skutkami społecznymi popularyzacji, czyli powszechnego umasowienia dostępu do LLM-ów, gdzie ona argumentuje, że cała opowieść o AI, język stworzony wokół AI, od samego terminu sztuczna inteligencja począwszy, który już sobie wielokrotnie referowaliśmy, powstał na potrzeby marketingowe, poprzez ten żargon, że to są chmury, że to są neuronowe sieci, że je się karmi, że rozmawia z nami, że jest empatyczna na przykład, czyli symuluje, że cały ten język to jest właśnie tworzenie takiego

W tym jednym takim metawymiarze, czyli dyskusji na temat sztucznej inteligencji, to jakiego języka używamy ma również znaczenie do tego, jak postrzegamy sztuczną inteligencję i czego możemy się po niej spodziewać. Można mieć słowo halucynacje, które jest zaczerpnięte z języka psychologicznego, które oznacza tam coś zupełnie innego niż to, z czym mamy do czynienia w przypadku konfabulacji, fałszerstw sztucznej inteligencji. Był nawet taki artykuł w 2023 roku w czasopiśmie Schizofrenia, w którym jeden z redaktorów postulował, żeby zarzucić to słownictwo halucynacje. Oczywiście nie zarzucimy, bo to już się przyjęło. Natomiast wskazywał, że byłoby bardziej wskazane. Właśnie wspomniana Bender, znaczy wiesz, no można, rozumiem postulat i to też do tego tutaj wracamy wielokrotnie, konfabulację, bo to jest fabuła, czyli blisko tekstu i to jest to, co LLM w gruncie rzeczy robi, że tutaj cytujemy takie zdanie Maxa Cegielskiego.

Wypowiedziany znowu w roku 2023. Jeden z, powiedzmy, rozmówców, Karol Astryi, który powiedział bardzo dobitnie, ja tam po raz pierwszy to posłyszałem, że LLM w pewnym sensie zawsze halucynuje, zawsze konfabuluje. Każda wypowiedź LLM, jak rozumiesz, jak działa maszyna statystyczna, na czym polega generowanie tekstu, jest wyciąganiem pewnego prawdopodobnego, prawdopodobnej struktury zdaniowej ...tego, co zostało skompresowane i uruchomione w prompcie, tak? Czyli on za każdym razem... Tylko, że na ogół te konfabulacje są trafne, tak? I w tym sensie prawdziwe. Natomiast czasami są pomiksowane, przestają być prawdziwe, czasami są wyrwane z kontekstu, czasami są niekompletne. Natomiast to słowo konfabulacje no odnosi się do fabuły, czyli do materii tekstu, czyli do opowieści i w tym sensie no fajnie by było mieć język i to jest dzisiaj jeden z postulatów chociażby właśnie Emily Bender wspomnianej, żeby, którym mówimy adekwatnie o działaniu maszyn statystycznych na przykład LLM-ów,

Trzy przymiotniki, trzy rzeczowniki, wymienianie. Mamy tą konstrukcję, gdzie mamy zdanie oznajmujące, a potem zaprzeczenie i to jest taki chwyt argumentacyjny. To nie jest to, to jest tamto. Dokładnie tak. To nie jest tam zmiana, to jest przewrót kopernikański i tak dalej. No ale przecież myśmy się już z tym osłuchali, więc będziemy korzystali z takich sformułowań. One wcześniej były naturalne dla języka, teraz mogą być jeszcze bardziej naturalne, dlatego że się z nimi oswoiliśmy i one migrują do naszego języka. Są już badania, które pokazują, że migrują także do języka mówionego, bo są konkretne badania, które wskazują na rozpowszechnienie określonych słówek. Czyli my się uczymy mówić w interakcjach z LLM-ami. Uczymy się, tak, uczymy się, bo one wpływają na nas i one zmieniają nasze postrzeganie świata, one kreują tą właśnie rzeczywistość, która nas otacza, więc być może nie jest to koniec rzeczywistości, ale koniec tej rzeczywistości, którą myśmy znali.

To jest początek nowej rzeczywistości, zupełnie nowej. Ale wyszliśmy od zaufania. Tutaj może właśnie jeszcze to podbijmy, bo te wszystkie mechanizmy, o których teraz mówisz, Wyłażą, kiedy rozmawiamy o środowisku pracy, ostatnio z Markiem Szymaniakiem, czyli sytuacja, że ty musiałeś to zrobić LLM-em, Ejajem, tak? Ejaj za ciebie zrobił. Nie, ja to zrobiłem sam, sama. Ja siedziałem całą noc, zawieprzałam własną głową. Nie, nie, nie. Nie ściemniej, my cię nie wierzymy, a ktoś inny nie umie, ale ma akurat właśnie to szczęście, że mu tam podeszły dobre tokeny na początek miesiąca i zrobił szybkiego prompta, wygenerowało mu, wylosowało, super wynik, zanosi do przełożonego, no świetnie pracujesz, ale robisz postępy, nie?

I teraz zaufanie społeczne to jest ta różnica w obu tych przypadkach. To, że ja nie wiem dzisiaj, czy Tokarczyk pisze swoje książki LLM-em i ja wiem, że ja nie mogę wiedzieć, bo ile by ona by się nie zarzekała, ile by wydawca nie gwarantował, to ja mam do czynienia z martwym internetem i samo doświadczenie tekstu dzisiaj jest obciążone tym podejrzeniem, że to już nie jest tekst człowieka. Tak, i to jest straszne. To jest straszne dlatego, że my przepalamy niesamowitą ilość energii na to, żeby się zastanawiać nad takimi bzdurami, które, owszem, w niektórych obszarach mają istotne znaczenie. Tam, gdzie na przykład wykorzystywanie AI jest wprost zakazane. I są takie obszary, no nie wiem, na przykład w przypadku niektórych badań naukowych, w przypadku recenzji naukowych.

Ja jestem przekonany, że takie sytuacje też się zdarzają, to jest normalne, bo znowu wracamy do tego, że ludzie są ułomni, W związku z czym nasza natura ludzka jest łomna i czasem nie jesteśmy w stanie oprzeć się pokusie. Przyznajmy się wszyscy sami przed sobą, zróbmy rachunek sumienia. Ja też się wyranczałem czasem elelemami, dlatego że mi się nie chciało czegoś zrobić. Potem sprawdziłem, może mniej lub bardziej pobieżnie, No ale na ogół robisz to w obszarach, w których umiesz, czyli to jest ta złota zasada, że korzystamy tam, gdzie umiemy to zrobić na piechotę, czyli samodzielnie, a jak zaczynamy korzystać tam, gdzie się nie znamy, no to wchodzimy w sytuację ryzyka, gdzie LLM nam podpowie coś, czego nie potrafimy ocenić, Podejmiemy decyzje, które mogą być błędne, bo nie potrafimy ocenić, że ten wynik jest słaby.

I wydaje mi się, że to były takie wartości, 92 i 80%. Wiesz co, ja pokazuję te badania na różnych występach i to jest albo z Princeton badanie, albo z Wharton, z marca albo kwietnia tego roku badacze i tak jak mówisz, tam są tego rzędu wartości, jeszcze raz podbijmy co, że z grubsza ludzie, Jak korzystają z LLM-ów, to jeżeli LLM generuje fałszywe odpowiedzi, to z grubsza 8 na 10, czyli czterech na pięciu, kupuje te fałszywe odpowiedzi. Nie kwestionuje. I tylko jeden na pięciu zakwestionuje, wyłapie statystycznie fałszywe odpowiedzi.

Tam też było odwrócone, że te prawdziwe też kwestionuje już jeden na dziesięciu. Chyba właśnie to jest to, co powiedziałeś. Tak, to by się zgadzało mniej więcej. Tu chodzi o rząd wielkości, to znaczy w skali cywilizacji, że ludzie z jednej strony ufają maszynom, Ale mieliśmy tutaj psychoterapeutę Radka Helwicha. On mówił mi, że ma w terapii menadżerów, którzy już się boją podejmować decyzje bez konsultacji z LLM-em. Czyli mam już taką nerwicę, że ja muszę zrobić jakieś ważne działanie w organizacji i ja bez tego rozkminienia tematu outsourcowania, ty powiedziałeś tego, Myślenia na maszynę. Nie jestem w stanie podjąć decyzji. A to naprawdę, my sobie teraz tutaj gadu gadu o jakichś detalach, detalicznych anegdotycznych przypadkach w skali populacji, no weźmy jeszcze koniecznie powiedzmy tutaj, bo zaraz idziemy do dyplomacji.

Ale nawet z Markiem o tym rozmawialiśmy. Zaufanie do literatów, dziennikarzy to jest jedno, nie? Bo znowu to wchodzi, czy on wyhalucynował, czy sprawdził, czy to pisał ręcznie, czy nie. Ale sędziowie, prawnicy, lekarze, terapeuci, instytucje typu nauczyciel nawet, nie? Ekspert, księgowy. Też o tym mówiłem w jednym z odcinków. Czy ja mam, jak mam decyzję, to ja konsultuję się z LLM-em czy z prawnikiem? Z LLM-em czy z księgowym? Z LLM-em czy z terapeutą? Z lekarzem czy z tego? Wielu w przypadku konfliktu Wybiera co? LLM-a czy terapeutę, nie? Jeden i drugi się może pomylić, a jeszcze wchodzi to, że terapeuta się może wspierać LLM-em nawet podczas terapii.

Przed naszą rozmową też odsłuchaliśmy sobie taką rozmowę pani doktor, ona się nazywa Jennifer Cassidy z Oxfordu, gdzie zajmuje się dyplomacją i związkami AI i dyplomacji. I ona w ciekawy sposób, znowu taki anglosaski bardzo, być może nawet LLM-owy, definiuje dyplomację jako praktykę chyba, chociaż tutaj nie ma tego sformułowania, opartą na trzech filarach komunikacji, reprezentacji i negocjacji. Jakbyś skomentował takie rozumienie dyplomacji? Musielibyśmy się pewnie teraz zagłębić w jakieś rozważania. Ja się z tym zgadzam. Gdybym miał intuicyjnie odpowiedzieć, to powiedziałbym, że tak, komunikacja to jest ten aspekt, który bym uwypuklił, dlatego że sztuka dyplomacji nie polega tylko i wyłącznie na negocjacjach, które moglibyśmy kojarzyć z tym, że ktoś chce do czegoś dojść.

Ale też co przygotować, bo ja rozumiem, znaczy powiedz mi, czy uważasz, że technologicznie możliwe No bo to ciężko jest ocenić, ale myślę, że to jest nie niemożliwe, nieprawdopodobne, żeby już dzisiaj te technologie, które mamy, czy to oparte na tradycyjnym właśnie uczeniu głębokim, tak zwanym uczeniu maszynowym, czyli wytrzysywanie wzorców z dużej ilości danych nieustrukturyzowanych. Plus możliwości LLM-ów pozwalałyby na przykład rozpoznawać zjawiska społeczne z wysokim wyprzedzeniem i przygotowywać na nie zorganizowane działania dyplomacji i jakichś służb, no już potem powiązanych z dyplomacją, wykonawczych. Myślę, że to już jest dzisiaj, czyli krótko mówiąc taką dyplomację prewencyjną.

Ja tylko podbiję, że to pytanie też jest tezą, no bo jak sobie wygooglujecie i zobaczycie, albo przepytacie LLM-a, o ile wam nie schalucynuję, to dowiecie się, kto się najczęściej spotyka i jakie podmioty... Czy ja mogę obstawić? Czy masz tam te dane, czy nie? Ja bym obstawił, że najwięcej mam ETA. A to Ci powiem, że w jednym zestawieniu meta tam jest w pierwszej dziesiątce, a w drugim nie jest w pierwszej dziesiątce. Natomiast w pierwszej dziesiątce jest Google, Amazon, Microsoft. Bo też można przefiltrować i polskie zobaczyć. Orlen jest wysoko. I źle się to nie pamiętam, więc nie będę wymyślać. Polska Grupa Energetyczna, takie rzeczy. Ale w ogóle, jak spojrzycie na te wykresy kołowe, ile ma Polska w ogóle lobbystów, a ile ma właśnie te big techy.

Według najbardziej optymistycznych scenariuszy wszystkie te LLM-y, dostawcy tych LLM-ów, mają zacząć zarabiać dopiero za 5 lat. Być może. Albo nie musi, ale nie musi. A mimo tego cały czas zdobywają finansowanie. Ja stwierdzam taką tezę, że chodzi o strach i kontrolę. Nie możemy sobie pozwolić, patrząc z ich perspektywy, nie możemy sobie pozwolić na odpuszczenie, dlatego że ktoś inny może zrobić taki progres, który sprawi, że nam za bardzo ucieknie i zyska zbyt dużą władzę i kontrolę. I kontrola dlatego, że dzisiaj to, o czym ty mówiłeś, kontrola gospodarki, kontrola polityki, ale znowu ta kontrola kognitywna. Wróćmy do tego. Kiedy na przykład przyjrzymy się dyplomatom. Wyobraźmy sobie dyplomatę, który jest na przykład speech writerem, bo AI w dyplomacji możemy rozważać na różnych płaszczyznach.

Jeszcze raz podbijmy, że tu chodzi o to, że każdy z nas dostaje spersonalizowane odpowiedzi na pewne pytania. Kontekstowe pytanie, im mniej statystycznie powtarzalna odpowiedź, a takie właśnie mają charakter pytania typu, dorać mi w sprawie tej, a tej, gdzie ja podaję kontekst, to może być przedsiębiorca, to może być biznesmen, tam wtedy przesyłasz te dane, one lecą przez te sieci i wpadają do tych Oceanów danych, a potem mogą być wyciągnięte i wykorzystane do treningu, ale w drugą stronę pamiętajmy, że LLM-y działają przez tak zwane instancje, czyli każdy z nas ma innego LLM-a, nawet jak korzysta z tego samego modelu u siebie w telefonie czy w komputerze. On jest spersonalizowany i generuje dla nas spersonalizowane odpowiedzi, a teraz jeszcze Mateusz mówi o tym, że jako dostawca tej technologii, który jednocześnie gra o władzę nad światem, ja mam narzędzie do wywierania wpływu

Nie możemy mieć, okej, może nie możemy mieć bomby atomowej u siebie, tak? Bo powiedzmy są traktaty, które nam tego zabraniają albo nie ma takiej możliwości politycznej, ale za to mamy kogoś, kto roztoczy nad nami parasol nuklearny i będzie nas chronił. I dlatego jesteśmy Chociażby teraz w kontekście LLM-ów, jak używamy LLM-ów jako dyplomaci, czy jako ministrowie, czy jako urzędnicy państwowi, to kiedy jesteśmy suwerenni? Nie pytam się, którego LLM-a używać, tylko bardziej, żeby tak zdać sobie sprawę, kiedy zaczyna się moja suwerenność, jak ja podejmuję decyzje, nawet jako ten menadżer, już palicho tam urzędnik, ale jako menadżer, kiedy ja jestem suwerenny, jeżeli ja pracuję z LLM-em? Pewnie musielibyśmy się też troszkę na takim poziomie psychologicznym trochę zastanawiać, czy my kiedykolwiek jesteśmy suwerenni, biorąc pod uwagę, jak wiele czynników może na nas wpływać z zewnątrz.

Są nam suflowane. Dokładnie. Są badania w biznesie przez IBM robione razem z Confluent. Z tego roku, które pokazują, że w Stanach, pewnie w Stanach jest trochę inaczej może, już mniej więcej połowa menadżerów podejmuje wszystkie kluczowe decyzje w oparciu o LLM-a. Z tego się bierze tak zwany, to nazwali trend slope, to znaczy Harvard Business Review napisał taki artykuł. Tak, widziałem, widziałem o tym trend slope, to już kojarzę. Czyli, że to powoduje, że w gospodarce, czyli w jakichś branżach, wszystkie decyzje zaczynają być podobne statystycznie. Ale, że co czwarty podejmuje nawet decyzje kadrowe w oparciu o LLM. To jest ten obraz podatności, czyli ja cię zatrudnię albo cię nie zatrudnię, albo cię zwolnię, albo cię nie zwolnię, bo mi LLM podpowiedział.

A powiedz mi tak na koniec, Powiedz mi, gdzie się mylę i jak zmienić perspektywę na taki scenariusz o to, że ten end game właśnie to jest w tej chwili, co się dzieje z perspektywy dostawców amerykańskich, a strachujemy od chińskich, bo to jest inny kierunek. Ale że Europa uzależnia się od dostawców big techowych, w LLM-ach i w technologiach. To znaczy, że ja stawiam firmy, stawiam procesy administracji państwowej, infrastruktury krytycznej na tych technologiach. Jednocześnie korzystając z nich, cały czas przekazuje newralgiczne dane, outskilluje czy tam deskilluje ekspertów i de facto outsourcuje know-how, outsourcuje informacje, które potem sobie leżą na tych serwerach skompresowane właśnie na kontynencie amerykańskim.