Limity AI: #13 A co jeżeli Turing prowadzi na manowce? Komputacyjność a inteligencja

które przy okazji są związane z Penrose'em i to za chwilkę pewnie o tym powiemy. Akurat byłem w okresie, kiedy Hasabis tam był z gościnnym wykładem i byłem na tym wykładzie. I on wtedy mówił o AlphaFold, czyli o rozwinięciu dokładnie tego algorytmu uczenia ze wzmacnianiem, który jest silnikiem napędzającym AlphaGo, potem AlphaZero, do rozwiązania problemu składania struktury białek. Poza zasięgiem ludzi. Fundamentalne zadanie, które trzeba rozwiązać, żeby zrozumieć procesy biologiczne, żeby produkować leki, żeby rozumieć choroby, żeby rozumieć procesy syntezy białek itd. I pamiętam, jak po tym wykładzie na sali

I tam jest taka teza, do której może po prostu się odniesiesz, a potem siłą rzeczy pójdziemy do Gedla i do Penrose'a, że Do dziś, ja ci powiem tak, że do mnie Adama przemawia, więc ja to też jako pewien pogląd wygłoszę, że ja widzę, że... maszyny inteligentne, ja nie twierdzę, że one nie są, nie twierdzę tutaj, ja idę cały czas za szoletem, że ani nie twierdzę, że nie jest możliwa inteligencja ogólna, szolet też w to wierzy, ani nie twierdzę, że na przykład alfa mu zero na przykład, czyli kolejne mutacje alfy go nie były inteligentne, czyli one rzeczywiście adaptowały się w zamkniętych środowiskach. Natomiast my cały czas rozmawiamy o maszynach zrobionych przez komputerowców, przez inżynierów,

On miał intencję, żeby rozwiązać problem Gedla, to znaczy, żeby zbudować system, który będzie spełniał założenia Gedla, a który jednocześnie spełniając te założenia zupełności, kompletności i wystarczającej złożoności, nie podpada pod tę tezę samozwrotną, czyli że można w niej sformułować tezy, które są niedowodliwe. A co za tym idzie, Geddel w interpretacji Penrose, ja wiem, że teraz wiele rzeczy miksuję, ale to jest ważny kontekst dla dzisiejszego, że krótko mówiąc, Geddel nie przeskoczył problemu tego, że Geddel wykazał, co podnosi dzisiaj Penrose, jako taki koronny orgołowicz w kosztusznej inteligencji, mówmy się przy hype'owi tak naprawdę, że nasz umysł, nasza to coś, tutaj ta papka, jest w stanie rozpoznawać

prawdy, czyli rzeczy, nabierać przekonań, których nie potrafimy obalić, których nie jesteśmy w stanie policzyć. Bo to jest dokładnie w interpretacji Penrose'a twierdzenie Gedla, że my potrafimy rozpoznać prawdziwość pewnych twierdzeń, nie potrafimy obalić tych twierdzeń, ale jednocześnie potrafimy ich policzyć. To chyba musimy to rozłożyć na składniki. To może zaczniemy od Gedla. twierdzenie Gedla, arcydzieło i jedno z najważniejszych twierdzeń w historii ludzkości w ogóle. Dotyczy sformalizowanych teorii matematycznych, mówię w języku szkoły lwowsko-warszawskiej. Co to jest sformalizowana teoria matematyczna? Teoria matematyczna sformalizowana to jest taki obiekt, który się składa z trzech składników.

A teraz ja słyszę Penrose do tego dodaje... A Penrose w swojej cudownej książce Nowy umysł cesarza W ogóle uwielbiam Penrose'a i jest w ogóle kapitalna rozmowa Penrose'a z tym takim kontrowersyjnym, kanadyjskim psychoanalitykiem, jak on się nazywa. Wiesz, o kim mówię? Petersonem? Peterson, tak. Ale powiem ci, że ta rozmowa i serdecznie państwu polecam. Zobaczyć, posłuchać, bo to jest, oni tam, też jest dużo tarcia, ale rzeczywiście jest tak wymagająca, tak intensywna, tak gęsta, że rozmawia, jak się zderzają ze sobą te osobowości, te umysły.

Jak ktoś jest z nami, to znaczy, że lubi tego rodzaju rozmowy. No dobra, ale właśnie Penrose proponuje interpretację, z którą się nie zgadzasz. Penrose skupia się na naj... To arcydzieło Gedla, ono jest arcydziełem z wielu powodów. Samo twierdzenie jest arcydziełem, ale jeszcze większym arcydziełem jest dowód. Dowód. I Penrose bazuje na kluczowym, finałowym kroku tego dowodu. To rzeczywiście, jak mam swoją prywatną listę top 10 dowodów w historii matematyki, które są takim... Tak jakbyś poszedł do galerii, do Muzeum Narodowego, do jakiejś galerii sztuki i patrzył na Monalizę, to tak samo patrzysz na to dzieło sztuki i to są tego typu doznania.

Bo na tym bazuje Penrose swój argument. I tutaj jest jakby problem z argumentem Penrose'a, który jest pogrzebany. Więc dowód przebiega tak. Najpierw jest bardzo ważna część techniczna, którą pomijamy. Generalnie on konstruuje kodowanie, które pozwala zapisać dowolne zdanie w postaci liczb i potem wnioskowanie w tej sformalizowanej teorii matematycznej tłumaczy na dodawanie mnożenie, bo to jest motorytetyka. I konstruuje to bardzo, bardzo uważnie. To jest bardzo ważny krok, tak żeby ten system był cały czas niesprzeczny i żeby można było konstruować dowody, które jakby się nie rozpadają, które cały czas są w tym. Bardzo ważny krok. Ale jak już to zrobił, to konstruuje w tym systemie słynne zdanie gedlowskie, które jest taką parafrazą, genialną parafrazą paradoksu kłamcy.

I teraz wchodzi Penrose. I teraz Penrose patrzy na ten dowód i zauważa coś, co jest przedmiotem zachwytu mojego i pokoleń osób, które to studiują. Skąd u Licham wiemy, że to zdanie jest prawdziwe? Bo rozumiemy znaczenie tego zdania. I teraz Penrose mówi tak. Okej. To znaczy, że nasze rozumowanie to jest coś więcej niż ten automat opisywany przez Gerdla. Tak, no właśnie. No i teraz... I teraz, gdzie tu jest... Ja sparafrazuję, żebyśmy tak na prosty język, że Penrose patrzy na dowód gedlowski, mówi policzył, a jednocześnie wykazuje zdanie, które wynika z tego dowodu, które samo o sobie mówi coś, czego nie można policzyć, ale my to widzimy.

to widzimy. Czyli wniosek Penroza jest taki, i on to powtarza już w takich popularnych ujęciach, chociażby w tej wspomnianej rozmowie z Petersonem, że to znaczy, że nasza świadomość robi coś, czego nie można policzyć. I to jest to, co jeszcze Turing, powiedzieliśmy o Turingu, Turing mówił o tej intuition, która poprzedza ingenuity. No i tu jest ten front jakby sporu i i dyskusji nad spostrzeżeniem Penrose'a Lukasza, bo jeszcze Lukasz też to zauważył. Przepraszam, to do sprawdzenia. Penrose sformułował to stwierdzenie w czasie, kiedy

Jest bardziej kalkulatorem. Jest takim właśnie, właśnie. No teraz, ale jak już mówimy o lelemach, dyskusji przyjętych o lelemach, cudownych, szczęsnych, nieszczęsnych, LLM-y funkcjonują, czy ta inferencja w LLM-ach odbywa się w przestrzeni znaczeń, w przestrzeni interpretacji i w przestrzeni aproksymacji. Oczywiście możemy powiedzieć, że te mechanizmy, które za tym stoją, to są funkcje obliczalne, ale... Jakby wnioski, które z tego wynikają, one produkują język. I tutaj wobec tego nie widzę... To jest argument, żeby nie przenosić 1 do 1 tego na LLM-y, bo Penrose to robi.

Okej. I teraz ja rozumiem to przejście, że LLM-y, które nie istniają w czasach, kiedy Beden sformułował swój argument, interpretacja, a nie Geddel, jednak operują na pewnej, powiedzmy, semantyce. Tak. Ja rozumiem, że to znaczy, że przynajmniej taka czerwona flaga, żeby nie kopiować 1 do 1, tak? Żebyśmy się dobrze zrozumieli, to jest moja propozycja kontrataku na argument Penroza, ale nie formułuję tego w postaci twierdzenia, bo to należałoby udowodnić. Zresztą sam Penroz też swojego argumentu nie sformalizował, aczkolwiek... No, jakby geniusz Panroza polega również na tym, że on jest w stanie formułować takie stwierdzenia, które są paliwem dla bardzo ważnych dyskusji.

No właśnie. A mogę jeszcze o Panrozie dwa słowa? Of course, of course. Bo ja Panroza wielbię z wielu powodów, ale badawczo wielbię go nie za to, nie za osobliwości czasoprzestrzenne, za które dostał Nobla wspólnie z Hawkingiem sformułowali takie twierdzenia, które mówią o tym, że konieczne są osobliwości czasoprzestrzenne, czyli to, co w czarnej drzwi się znajduje, to jest taka osobliwość w rozumieniu ogólnej teorii względności Einsteina. Ja go wielbię za to, że położył przede mną na stole obiekt moich badań matematycznych, westchnień, czyli pseudoodwrotność. Pseudoodwrotność Penrose'a Moore'a.

Fundamentem rozwiązywania równań, również fundamentem rozwiązywania zadań uczenia maszynowego, to jest odwracanie macierzy. No i nie każdą macierz można odwrócić, ale już każdą pseudoodwrotność można odwrócić. No i Penrose sformułował cztery cechy, które musi mieć taki obiekt matematyczny. Istnieje dokładnie jeden taki, oczywiście to jest właśnie ta pseudoodwrotność Penrose'a. I tym się zajmowałem na MIT właśnie, bo rozwijałem te teorie uogólnionych odwrotności na przypadki takie zrandomizowane, czyli jakby badałem wewnętrzną strukturę tych pseudo-odwrotności. I to oczywiście fundamentem tego jest panel. Po co musimy to wiedzieć? Czy to jest tylko ciekawe, czy widzisz, że to jest potrzebne do czegoś? W ten sposób rozwiązujesz układy równań.

Okej, czyli to nie tylko, bo to wiesz, ja oczywiście zadaję to pytanie, dlatego, że słyszę gdzieś po drugiej stronie, jak kogoś to nas słucha, ale po co to? W ogóle ja nie wiem, co to jest. Po co to, żeby móc uczyć LLM-a. Wracamy do LLM-u w takim razie. Ja bym bardzo chciał z tobą jeszcze... Czy w ogóle ja, żeby w ogóle rozwiązywać... żeby rozwiązywać zadania sterowania, żeby rozwiązywać zadania przetwarzania dźwięku, żeby odszumiać, żeby przetwarzać obrazy, żeby liczyć podatki, żeby... Cała automatyka stoi na rozwiązywaniu układów równań, a układy równań rozwiązujemy dzięki temu, że odwracamy macierze, które tam są, a odwrotność macierzy to jest pseudoodwrotność i tutaj... Czyli innymi słowy Penrose stoi też za uczenie maszynowe. Bardzo ciekawe. Super, że to powiedziałeś.

Znaczy ja rozumiem wniosek i rozumiem też to, o czym mówisz, natomiast nie rozumiem tego, jak o tym mówisz, ale może ktoś z naszych słuchaczy jest w stanie sobie stworzyć reprezentację. Zachęcam do wygooglania pseudoadwertności Penroza Mura. Ja tego jeszcze nie zrobiłem, może jak zrobię to lepiej zrozumiem, ale ważne jest to, co powiedziałeś, bo pamiętajmy też, ja oczywiście całym sercem jestem po stronie badań podstawowych, które mają to do siebie, że nie obiecują żadnego konkretnego wdrażalnego wyniku i bez nich nie byłoby rozwoju nauki. bo nie wiemy jeszcze, bo to jest cała istota właśnie, powiedzmy, takiej kreacji w obszarze po prostu wiedzy, nauki, że nie wiemy, do czego to jeszcze się przyda. Natomiast ty mówisz już bardzo też konkretne zastosowanie dla bardzo zaawansowanego problemu.

To jest o tym argument. Ale dlaczego o tym mówimy też w kontekście Turinga, Penrose'a i tak dalej? No bo pytanie właśnie, czy tutaj nie ma zastosowania ta zasada, że LLM jest jednak maszyną liczącą, nie? Okej, to jest zawansowana matematyka, to jest jakaś tam nasemantyzowana matematyka, no ale wraca gdzieś ten problem, powiedziałeś, bo tu chiński pokój też się wyskakuje, nie? Czyli argument, że to jest matematyka, która pozwala policzyć to, co jest w instrukcjach, co jest w znakach, ale nie wie nic o relacji między tymi znakami a rzeczywistością. No bo to jest dokładnie... Ale to jest istota matematyki. Matematyka, matematycy zajmują się obiektami, o których nie mam pojęcia. Hilbert, czy to powiedział? Więc, więc szczerze, tak jest brutalnie.

So what? So what, że nie możemy stworzyć maszyny matematycznej. Inaczej pytanie, czy możemy stworzyć maszynę, bo tu wracamy do tego właśnie spojrzenia, powiedziałem, że Turing to zamknął w pewnym takim pudełku właśnie matematyki. To znaczy, że albo stworzymy maszynę, która policzy i ostatecznie my jesteśmy takimi maszynami liczącymi, tylko o tym nie wiemy, albo dojdziemy do granic tego paradygmatu i bez zmiany paradygmatu, bez porzucenia matematyki, bez operacjonalizacji tego, o czym powiedzmy Penrose tam mówi, nie zbudujemy, nie przesuniemy się w inżynierii maszyn, które by imitowały nas W tych zadaniach, które są niepoliczalne.

Z dwóch, trzech obrazków wnioskuję z właściwości czwartego czy tam kolejnego. Umiemy to. Nasze dzieci to potrafią, tak? Szolesan wierzy, że to jest możliwe, zbudowanie tego i ma na to różne pomysły. Powiedzieliśmy, już wspomnieliśmy o pracach zespołu Adriana Koseskiego, który pokazał, rozumiem, że też rozumiesz, jak można się za to zabrać. Natomiast moje pytanie jest o to, Czy my mamy dzisiaj, czy matematyka nam daje narzędzia do tego, żeby przewidywać i opowiadać z taką asercją, z jakimś optymizmem o tym, że poczekajmy, poczekajmy, bo my w końcu stworzymy te maszyny. Czy też wraca tutaj Penrose i Geddel, no właśnie, że okej i argument Barhilela, uwaga, uwaga, umiemy robić rzeczy, których się nie da policzyć.