Limity AI: #13 A co jeżeli Turing prowadzi na manowce? Komputacyjność a inteligencja

to to, że rzeczywiście na tej ścieżce do IGI, czy do tych systemów, które wykształcą albo nie jakąś formę świadomości, kluczowe są interakcje. W świecie fizycznym. W świecie fizycznym, jeżeli mówimy o takiej świadomości, którą znamy my, no bo... Ale wiesz, ja nawet jestem gotów rozmawiać w ogóle, nie mówmy o świadomości, tylko cały czas o tej inteligencji. Tak, tak, tak. No to rzeczywiście chodzi o to, żeby dać okazję tym modelom do wykształcenia jakiegoś modelu świata, w którym one istnieją. No i nawiązując do tego, od czego zaczęliśmy... Jeżeli ten model się tam wykształci, no to możemy albo z niego korzystać, albo nie. No i tutaj się rozchodzą te ścieżki wyobraźni, halucynacji, eksplorowania różnych tam możliwych... Bo Satan stawia ciekawą właśnie tezę, że to jest taki fundament pod właśnie trenowanie ze złocnieniem, to reinforcement to jest interakcja ze środowiskiem, czyli maszyna się uczy poprzez sygnał zwrotny,

I jak rozumiem, dążymy do tego, znaczy inżynieria dąży do tego, żeby stworzyć takie, powiedzmy, sieci neuronowe, takie transformery, powiedzmy, które będą w stanie modyfikować te wagi na podstawie tego typu interakcji. Tak. Dwa słowa o uczeniu ze wzmacnianiem i o tym, co Satan zrobił i co pięknie opisał w klasycznym już podręczniku o uczeniu ze wzmacnianiem, który... Rzeczywiście jest wspaniały i zdobi zużyty bardzo i moje półki, ale też moich studentów. Punktem wyjścia jest w ogóle piękny problem matematyczny, który został rozwiązany przez Bellmana.

To jest prawda uniwersalna. Problem polega na tym, że to równanie jest piekielnie trudno rozwiązać. Znamy kilka, na palcach jednej ręki, może dwóch, można policzyć przypadki, w których znamy formalne, analityczne rozwiązanie tego równania. W innych przypadkach trzeba to rozwiązywać numerycznie, ale to równanie cierpi na bardzo poważną chorobę, tak zwane przekleństwo wymiarowości. Ono eksploduje. bo on po prostu przelatuje przez wszystkie możliwe stany, wszystkie możliwe sterowania, wszystkie możliwe zmienne losowe, które się tam pojawiają i wszystkie możliwe klasy funkcji. Generalnie matematycznie pięknie, inżyniersko koszmar. No i tutaj wjeżdża na białym koniu Satan, bo on mówi tak... Ok.

No i Satan to wspaniale rozwinął ogólnie, zbadał mnóstwo różnych ciekawych przypadków i sprowadził problem Zautomatyzował ten problem uczenia do problemu konstrukcji algorytmu, który obserwuje i który koryguje politykę sterowania. Przy czym jest oczywiście po drodze mnóstwo wyzwań. Na przykład zbieżność tych algorytmów, jak szybko one się są w stanie nauczyć. Ale słyszysz, że to są wyzwania bardziej inżynieryjne, czy bardziej związane z inżynierią oprogramowania, czy na przykład z mocą obliczeniową, czy z hardwarem, czy koncepcyjnym? Wszystkiego... Koncepcyjnie tutaj w zasadzie wiemy bardzo, bardzo dużo.

Jeżeli nie... Z języcznickiego punktu widzenia tam nie zostało wiele, aczkolwiek takie sformułowania zawsze kończą się katastrofą dla tego, kto to mówi, więc mówię to z pokorą. Ciekawsze, znaczy sensacją, taką sensacją medialną, ale też naukową, przecież to było piękne, to było to, co zrobił Andrew Eng, czyli on postawił ten problem satana na głowie i sformułował zadanie odwróconego uczenia ze wzmocnianiem, to znaczy odgadywania funkcji tej kosztu. Jeśli dobrze pamiętam, i przepraszam, jeżeli to jest takie przełamanie, może pamięć mi płata figlę, ale w ten sposób były nauczone pierwsze drony, które robiły takie beczki i tak dalej, czyli robiły te niezwykle skomplikowane manewry, których wcześniej bardzo trudno było, co było bardzo trudno osiągnąć klasycznymi metodami sterowania.

Ja chciałbym z tobą jeszcze przemawiać coś, co za mną chodzi ostatnio też w kontekście tego, co powiedział wspomniany tu już Satan. Jeszcze raz przypomnę ten wątek, że LLM-y mają bardzo dużo informacji, ale tekstowych. One są trenowane na tekstach. I jest taki pan, był, nazywa się Joshua Bar-Hillel, który był entuzjastą uczenia, to jeszcze nie było uczenie maszynowe, ale to były pierwsze prace nad sztuczną inteligencją w latach 50., ale jak się przyjrzał, to stracił swój entuzjazm, ponieważ doszedł do wniosku, że niemożliwe jest rzetelna translacja, to znaczy taka automatyczna rzetelna translacja, przekład z jednego języka na drugi, co było jednym z takich pierwszych programów czy projektów w zakresie tej jeszcze wczesnej sztucznej inteligencji, czyli jak stworzyć maszynę, która tłumaczy od języka na język, no bo to się wydaje takie najbardziej...

I ja słyszę, że ten argument do dziś dzień leży i mamy go... Ja rozumiem, że potem się pojawił internet, pojawiły się dane głębokie, uczenie głębokie, dane niustrukturyzowane, zaszywane i mamy bardzo dużo kontekstów, które nam determinują znaczenie, ale ciągle są te konteksty pozajęzykowe, o których mówi Satan. I teraz właśnie pytanie, czy Czy abstrahując od problemu halucynacji, tak jak go definiujesz, tylko bardziej zahaczając ten temat odnoszenia wygenerowanych przez transformery opisów rzeczywistości do niej samej, i tego, że rozumiemy, że potrzebujemy wiedzy innej niż zawarta w LLM-ie do tego, żeby odnosić, czy to nie pokazuje właśnie na przewagę, na jakąś różnicę, którą posiada nasz umysł, której nie możemy póki co symulować.