Limity AI: 2026 #11 Epistemiczna apokalipsa

Tylko, że o tym nie wiemy nawet. Dokładnie. My sobie z tego nie zdajemy. Nawet nie wiemy, że coś istnieje poza tym murem, że jest jakaś inna rzeczywistość. Czy mówisz o tzw. bańkach informacyjnych? Zgadza się. Ale tutaj przywołam też Emily Bender. Wielokrotnie przywołaliśmy taką myśl Emily Bender, czyli jednej z takich krytycznych badaczy, które przestrzegały już 6 lat temu, w 2020, przed właśnie skutkami społecznymi popularyzacji, czyli powszechnego umasowienia dostępu do LLM-ów, gdzie ona argumentuje, że cała opowieść o AI, język stworzony wokół AI, od samego terminu sztuczna inteligencja począwszy, który już sobie wielokrotnie referowaliśmy, powstał na potrzeby marketingowe, poprzez ten żargon, że to są chmury, że to są neuronowe sieci, że je się karmi, że rozmawia z nami, że jest empatyczna na przykład, czyli symuluje, że cały ten język to jest właśnie tworzenie takiego

W tym jednym takim metawymiarze, czyli dyskusji na temat sztucznej inteligencji, to jakiego języka używamy ma również znaczenie do tego, jak postrzegamy sztuczną inteligencję i czego możemy się po niej spodziewać. Można mieć słowo halucynacje, które jest zaczerpnięte z języka psychologicznego, które oznacza tam coś zupełnie innego niż to, z czym mamy do czynienia w przypadku konfabulacji, fałszerstw sztucznej inteligencji. Był nawet taki artykuł w 2023 roku w czasopiśmie Schizofrenia, w którym jeden z redaktorów postulował, żeby zarzucić to słownictwo halucynacje. Oczywiście nie zarzucimy, bo to już się przyjęło. Natomiast wskazywał, że byłoby bardziej wskazane. Właśnie wspomniana Bender, znaczy wiesz, no można, rozumiem postulat i to też do tego tutaj wracamy wielokrotnie, konfabulację, bo to jest fabuła, czyli blisko tekstu i to jest to, co LLM w gruncie rzeczy robi, że tutaj cytujemy takie zdanie Maxa Cegielskiego.

Wypowiedziany znowu w roku 2023. Jeden z, powiedzmy, rozmówców, Karol Astryi, który powiedział bardzo dobitnie, ja tam po raz pierwszy to posłyszałem, że LLM w pewnym sensie zawsze halucynuje, zawsze konfabuluje. Każda wypowiedź LLM, jak rozumiesz, jak działa maszyna statystyczna, na czym polega generowanie tekstu, jest wyciąganiem pewnego prawdopodobnego, prawdopodobnej struktury zdaniowej ...tego, co zostało skompresowane i uruchomione w prompcie, tak? Czyli on za każdym razem... Tylko, że na ogół te konfabulacje są trafne, tak? I w tym sensie prawdziwe. Natomiast czasami są pomiksowane, przestają być prawdziwe, czasami są wyrwane z kontekstu, czasami są niekompletne. Natomiast to słowo konfabulacje no odnosi się do fabuły, czyli do materii tekstu, czyli do opowieści i w tym sensie no fajnie by było mieć język i to jest dzisiaj jeden z postulatów chociażby właśnie Emily Bender wspomnianej, żeby, którym mówimy adekwatnie o działaniu maszyn statystycznych na przykład LLM-ów,

I powiedziałeś o tym tekście z 2-3 psychiatry, a ja wiem, że o tym właśnie team NITGEBR z Emily Bender wprost przestrzegały już w 23, żeby nie używać terminu halucynacje, bo to jest jeden z wielu antropomorfizujących. Więc wracamy do tego, że język stwarza rzeczywistość, że punktem wyjścia dla ciebie jest, jak rozumiem, też jakieś takie, nie wiem, pragnienie, program może odzyskania języka, jakim mówimy o technologiach, tak? Troszkę tak, natomiast bardziej ja się koncentrowałem na człowieku. Ta książka, ona jest bardzo antropocentryczna w naturze i jedna, naprawdę dostałem kilka przepięknych recenzji, z których ja jako autor, ale nie tylko jako autor, jako człowiek się z nimi niesamowicie cieszę, jako naukowiec. Gdzie jedno hasło mi strasznie zapadło w pamięć, że książka została napisana z miłości do człowieka.