Limity AI: #13 A co jeżeli Turing prowadzi na manowce? Komputacyjność a inteligencja

Richard Sutton to jest jeden z ojców chrzestnych, ale tym razem uczenia przez wzmocnienie. Laureat Nagrody Turinga za rok 2024. Czyli jeden z gigantów, starszy pan już, ale jeden z gigantów twórców AI. I on właśnie zwraca uwagę dobitnie na to, o czym wiemy, ale o czym mało myślimy, że LLM-y fantastycznie, ok, prognozują, co powinno się napisać, co może się napisać, w zależności od instrukcji, czyli prompta, ale mają zero danych. na temat świata pozatekstowego, to ponieważ były trenowane na tekstach, nie? Zgadza się. I to jest, wracając do twojej pierwszej myśli, to ograniczenie, które mamy my, powiedzmy te systemy inteligentne, które żyją w świecie fizycznym i które biorą dane z... Tak, tak.

Żeby tworzyć systemy, które na końcu będą spełniać taki jeden z testów tak zwanej ogólnej inteligencji, nazywa to się teraz fizycznym testem Turinga, w którą humorystyczną wersję zaproponował przywoływany już tutaj kilka razy w naszym podcaście Steve Woźniak, czyli maszyna, która jest w zachowaniach nieodróżnialna od człowieka, a Steve Woźniak proponuje, że to by była maszyna, która po wejściu do przypadkowej kuchni w przypadkowym domu potrafi zaparzyć kawy. Czyli odnajdzie się w każdym środowisku i wykona każdą czynność. I to jest, powiedzmy, ten kierunek inżynierii teraz robotycznej i czegoś, co nazywamy Large Behavioral Models, które są rozwijane. Wspomnieliśmy o Gemini Robotics.

I to jest po prostu układ równań, który jest rozwiązywany numerycznie. Czy nasz akurat też to robi w takim razie? Nie mogę podać teraz przykładu, ale nie widzę powodu, dla którego to gdzieś nie miałoby się wydarzać. Zaraz pójdziemy do Turinga i tylko pytanie, czy inteligencja jest obliczaniem? Ale to jest taki argument trochę prowokacyjny, że to by oznaczało, że mamy w naszych mózgach, w naszym ciele bardzo zaawansowaną matematykę, z której korzystamy nie wiedząc o tym. Da. To też możemy oczywiście pójść w kierunku nasz piękny matematyczny świat i matematyzowalność wszystkiego. To pytanie potem Platona jest, skąd matematyka, nie?

którzy dziedziczą pewien paradygmat myślenia o tym, czym jest inteligencja, sformułowany przez Turinga, z grubsza, w roku 50., a potem wzmocniony przez towarzystwo z Dartmouth, przez McCarthy'ego, przez Mińskiego. I to jest bardzo płodny paradygmat. On nam dał transformery, on nam dał... W gruncie rzeczy tą technologię Perceptrona, która została zbudowana 50 lat później dzięki NVIDII, można powiedzieć w skrócie, gdzie Turing zadekretował, że inteligencja to jest obliczeniowość, komputacyjność, to jest to, co można policzyć. Plus, jeżeli imituje język. To znaczy, inteligentna będzie ta maszyna, która będzie potrafiła tak policzyć dane, że na końcu będziemy mogli behawioralnie stwierdzić, że jest nie do odróżnienia w tym behawiorze, jakim jest rozmowa od człowieka.

Rozumiesz? Co do tego byś się nie przyczepił opisu. Jakiś niuans? Ważne. Bo ja chcę jeszcze drugą myśl dodać. Tutaj myślę, że Turing ma swoją historię. Tak. I przed 50 rokiem był po pierwsze Bletchley Park. Jeszcze w 47 roku miał wykłady dla tam już teraz nie pamiętam jakiego towarzystwa, w których odróżniał ingenuity, czyli powiedzmy pomysłowość od intuition. Mhm. gdzie już twierdził, że intuition może być policzalne, ale w swoim doktoracie z 1938 roku wyraźnie rozgranicza, mówiąc już językiem metodologii nauk, kontekst odkrycia, czyli zdolność do odkrywania na przykład podstawowych aksjomatów matematyki, do odkrywania ogólnych praw przyrody, do odkrywania ogólności w ogóle w doświadczeniu,

od tego, co można policzyć, czyli ingenuity. I to on się długo z tym mocował, a w końcu machnął ręką i powiedział, a w ogóle nie zastanawiajmy się nad inteligencją, zróbmy maszyny, które gadają. I uważam, że słusznie. Znaczy spoko. Ja już mówię dlaczego. Też można by bardzo długo i jest to fascynujący temat. Trochę decyduje pragmatyka, to znaczy co tak naprawdę możemy zrobić, co możemy zaprogramować. No i Turing wyinżynierował swoją maszynę, którą nazywano maszyną Turinga, czyli stworzył automat, który potem Neumann zamienił w peceta i mamy.

I już. I z tym możemy pracować. Oczywiście pytanie, co w ten sposób można zrobić. Istnieją tutaj przepiękne, ważne twierdzenia z logiki matematycznej, które mówią o tym, co można w ten sposób prezentować, jaki system formalny jest reprezentowany przez automat Turinga, czy maszynę Turinga, jakie to ma ograniczenia. No i oczywiście bardzo ważne rozważania filozoficzne, badające relacje pomiędzy maszynami Turinga, językiem, badające semantykę i to, co jest wyrażalne.

Sama koncepcja tzw. funkcji obliczalnych Czyli tych, dla których istnieje taki automat, który da się zaprogramować, mówiąc troszeczkę trywialnie. No bo istota, bo teraz Turing się mocował z Gedlem. To znaczy jego najpierw praca z 1936 roku, gdzie sformułował problem haltu, czyli problem stopu, czyli tezę, że można wykazać matematycznie, że niemożliwy jest algorytm, który wyłącza każdą maszynę. Nie istnieje algorytm, który może ocenić, czy inny algorytm się zatrzyma, czy nie. I wykorzystuje do tego ten sam argument, tę samą konstrukcję dowodu, którą wykorzystuje Gedl.

to widzimy. Czyli wniosek Penroza jest taki, i on to powtarza już w takich popularnych ujęciach, chociażby w tej wspomnianej rozmowie z Petersonem, że to znaczy, że nasza świadomość robi coś, czego nie można policzyć. I to jest to, co jeszcze Turing, powiedzieliśmy o Turingu, Turing mówił o tej intuition, która poprzedza ingenuity. No i tu jest ten front jakby sporu i i dyskusji nad spostrzeżeniem Penrose'a Lukasza, bo jeszcze Lukasz też to zauważył. Przepraszam, to do sprawdzenia. Penrose sformułował to stwierdzenie w czasie, kiedy

Ale drugi argument jest jeszcze taki, że spójrzmy, co tak naprawdę mówi twierdzenie Gedla. Twierdzenie Gedla mówi, że Ten automat, który potem Turing też do którego nawiązywał, ten automat nie jest w stanie spojrzeć z góry na to zdanie. Wobec tego nie jest w stanie zobaczyć. Dlatego, że on operuje w tej przestrzeni, przestrzeni kodującej te pojęcia w bardzo specyficzny sposób. trochę taki, no właśnie, automatyczny w sensie automatów Turinga. Ma ten słownik swój i te operacje zamiany znaków i tak dalej.

To jest o tym argument. Ale dlaczego o tym mówimy też w kontekście Turinga, Penrose'a i tak dalej? No bo pytanie właśnie, czy tutaj nie ma zastosowania ta zasada, że LLM jest jednak maszyną liczącą, nie? Okej, to jest zawansowana matematyka, to jest jakaś tam nasemantyzowana matematyka, no ale wraca gdzieś ten problem, powiedziałeś, bo tu chiński pokój też się wyskakuje, nie? Czyli argument, że to jest matematyka, która pozwala policzyć to, co jest w instrukcjach, co jest w znakach, ale nie wie nic o relacji między tymi znakami a rzeczywistością. No bo to jest dokładnie... Ale to jest istota matematyki. Matematyka, matematycy zajmują się obiektami, o których nie mam pojęcia. Hilbert, czy to powiedział? Więc, więc szczerze, tak jest brutalnie.

So what? So what, że nie możemy stworzyć maszyny matematycznej. Inaczej pytanie, czy możemy stworzyć maszynę, bo tu wracamy do tego właśnie spojrzenia, powiedziałem, że Turing to zamknął w pewnym takim pudełku właśnie matematyki. To znaczy, że albo stworzymy maszynę, która policzy i ostatecznie my jesteśmy takimi maszynami liczącymi, tylko o tym nie wiemy, albo dojdziemy do granic tego paradygmatu i bez zmiany paradygmatu, bez porzucenia matematyki, bez operacjonalizacji tego, o czym powiedzmy Penrose tam mówi, nie zbudujemy, nie przesuniemy się w inżynierii maszyn, które by imitowały nas W tych zadaniach, które są niepoliczalne.

Nie wiem, czy Serl był świadomy. Zresztą ja do Serla chodziłem na seminaria. Ciekawe jest to, że w ogóle się nie udziela jakoś w tych rozmowach. Może po prostu już... jest na emeryturze. Natomiast jego argument ciągle stoi. On pokazuje, że maszyna może policzyć i wygenerować, przejść przez test Turinga w uproszczeniu, nie mając jednocześnie bladego pojęcia w naszym rozumieniu pojęcia, czyli takiego psychologicznego pojęcia, powiedzmy bardziej pragmatycznego, jak wolimy, czyli właśnie odnoszenia do rzeczywistości, bo na gruncie logiki języka pragmatyka jest o regułach odnoszenia znaków do rzeczywistości. Więc ja słyszę też, wiesz, bar Hillela tutaj w tym argumencie Serla. Ty powiedziałeś, że możesz pokazać, gdzie się Serl pomylił, to ja z chęcią się dowiem. Tak. To przypomnijmy ten cały scenariusz z chińskim pokojem.

Dennett chyba nazywał to pompą intuicji, czymś takim. Intuition pump, coś takiego. No to teraz, jak obalić się? I to jest argument mówiący o tym, że chiński pokój ma dowodzić tego, że maszyna nie rozumie. Ona ma dowodzić, że można przejść test Turinga, maszyna może przejść test Turinga, dla nas będzie sensownie produkować treści, jednocześnie mając zero tego, co my mamy, kiedy te treści czytamy. Czyli jesteśmy tym Chińczykiem, który rozumie chiński, maszyna nie musi rozumieć chińskiego. No dobra, no to teraz weźmy mikroskop i zobaczmy, co robi nasz obszar Wernikego czy Brogi.