#14 - Sztuczna Inteligencja: Historia i Przyszłość | prof. Ryszard Tadeusiewicz

I proszę powiedzieć, co się wydarzyło takiego, że uzyskaliśmy te nowe możliwości właśnie związane z użyciem tych algorytmów, które tak naprawdę prawie 20 lat wcześniej zostały wymyślone? To znaczy, ja tutaj jakiegoś takiego pojedynczego faktu bym nie był w stanie sobie się doszukać. Ja może wspomnę o jednej rzeczy, o której jeszcze nie mówiliśmy w kontekście sztucznej inteligencji, a w szczególności sieci neuronowych. Mianowicie drugi z noblistów, Hopfield, John Hopfield wymyślił sieć neuronową, która miała bardzo niezwykłe właściwości. My w sieciach neuronowych generalnie bardzo unikamy rekurencji, to znaczy tego, żeby sygnały z wyjścia trafiały na wejście.

Tymczasem sieć Hopfielda charakteryzuje się tym, że tam wszystko ze wszystkim jest sprzężone zwrotnie. Ja nawet jak to opowiadam studentom, to mówię, że jest taki żart, prawda? Czy wąż ma ogon? Odpowiedź jest wyłącznie, no bo wąż wygląda jakby się składał z samego tego ogona. Wobec tego pytanie, czy w sieci Hopfielda jest sprzężenie zwrotne, jest odpowiedź właśnie taka, że wyłącznie, znaczy wszystko ze wszystkich jest przywrotne w ogonie. Natomiast sieci Hopfielda mają bardzo ciekawe i użyteczne właściwości. One leżą trochę z boku w stosunku do tych sieci wielowarstwowych, nawet tych sieci głębokich, ale udostępniają z kolei badaczom, użytkownikom nowe obszary.

Na czym to polega? Otóż sieci Hopfielda są w stanie znajdować rozwiązania optymalne W sytuacji, kiedy czynników decydujących o tym, że coś jest najlepsze jest dużo i tradycyjne metody optymalizacji, te takie oparte o techniki gradientowe, o metody poszukiwania najlepszych rozwiązań za pomocą komputerów, ale właśnie metodą przeszukiwania przestrzeni zawodzą. Tutaj takim bardzo sławnym czy w jakimś sensie kluczowym pojęciem jest tak zwany problem konwojarzera. Polega na tym, że trzeba zaprojektować taką drogę właśnie takiego wędrownego sprzedawcy,

żeby rozwiązać problem Ugon-Poyagera. On zresztą, to jest jeszcze dodatkowo ciekawe, bo jest tak zwany problem NP-zupełny. NP, czyli non-polynomial, czyli złożoność problemu nie wzrasta jak wartość wielomianu, tylko znacznie, znacznie szybciej wykładnicza. Co się okazało? Sieci Hopfielda były w stanie rozwiązać ten problem. Oczywiście rozwiązania były suboptymalne, to znaczy nie było gwarancji, że ten konwojarz zapłaci najmniej, ale był efektywny sposób właśnie przez sieci Hopfielda i tanka, bo wtedy on tam też się włączył do tego, właśnie rozwiązywania tego bardzo klasycznego problemu.

Co więcej, sieci Hopfielda mają właściwość taką, że są w stanie rekonstruować niekompletne informacje. To najlepiej widać na obrazkach, jakkolwiek te niekompletności mogą dotyczyć różnego rodzaju informacji, czasami na przykład gospodarczej, czasami politycznej, czasami jeszcze jakichś innych. Otóż te sieci Hopfielda mogły, na przykład wyobraźmy sobie, mamy jakiś bardzo zamazany obraz, ale Pierwotny, ten prawdziwy obraz był w sieci Hopfielda pokazany i on tam został, że tak powiem, zarejestrowany w tej sieci. Jak pokażemy ten obraz bardzo, bardzo, bardzo zanieczyszczony, zaszumiony, zniekształcony, to sieć Hopfielda odtworzy ten obraz w formie idealnej.

Jest w stanie, ja bardzo lubię ten eksperyment, mianowicie mamy buźkę psa, taką mordkę sympatycznego pieska, a potem w sieci Hopfielda pokazujemy tylko kawałek ucha tego psa. Aura otworzy całego tego psa. Więc to jest taka właśnie sieć asocjacyjna. Może być autoasocjacyjna, właśnie taka, która odtwarza całość na podstawie fragmentu, ale bywają też części heteroasocjacyjne. Jeżeli na przykład, no nie wiem, jestem w mieście, gdzie mieszka moja babcia, to widok ulicy tej babci przypomina mi zapach pierogów. To jest osobiaca taka odległa. To wszystko sieci Hopfielda potrafią robić.

Wobec tego właśnie tak, po pierwsze tradycyjne sieci neuronowe, po drugie sieci głębokie, te o których mówiliśmy, no i po trzecie nałożone na to jeszcze z innej strony właśnie sieci Hopfielda, podkreślam jeszcze raz, Hopfield dostał Nagrodę Nobla właśnie też w zeszłym roku, no za swoje prace związane z sieciami neuronowymi, chociaż w ogóle to on jest fizykiem, więc dostał nagrodę z fizyki, ale nie za działalność w ramach fizyki, co było dosyć paradoksalne. No i okazało się, że dzięki temu, że te sieci neuronowe z tak bardzo wielu różnych stron są w stanie atakować problemy, które chcemy rozwiązać, są one po prostu naprawdę bardzo przydatne. W tej chwili, jeżeli wpiszemy do Google na przykład neural network application, to wychodzą miliony odpowiedzi, a te miliony odpowiedzi oznaczają, że milionom badaczy

Udało się coś rozwiązać, bo skoro ktoś napisał artykuł, a Google go tam skatalogowały, albo był na konferencji, to nie pisze się artykułu, że mi się nie udało. Nie jedzie się na konferencję wypłakać się, że mi się nie udało. To muszą być sukcesy. Wobec tego właśnie pytanie, neural network application, dostajemy kilkadziesiąt milionów odpowiedzi, to tylu badaczy zastosowały te sieci neuronowe do czegoś i odnieśli sukces. Tak, no tutaj się wydaje wręcz, że te sieci neuronowe niedługo będą wszędzie stosowane w naszym nawet codziennym życiu, co może być jakąś formą zagrożenia, ale chciałem jeszcze podpytać o te sieci Hopfielda, dlatego że

Głównie się teraz czyta o tych transformerach, tych sieciach generatywnych, GPT i tak dalej, a proszę powiedzieć, czy są próby połączenia tych sieci Hopfielda razem z tymi takimi bardziej klasycznymi deep learningowymi? Powiedzmy, czy słyszał Pan może o takich próbach i czy są z tego jakieś dobre rezultaty? Bo to się wydaje, że one leżą trochę osobno od siebie. Mam podobne wrażenie, że to są rzeczy, które jeszcze wzajemnie jak gdyby się nie zazębiły w żaden sposób. Leżą odrobnie. Ja zresztą w moich takich tam czasem opracowaniach popularnych mówię, że generalnie sztuczna inteligencja, nie tylko sieci neuronowe, ale generalnie sztuczna inteligencja przypomina taki archipelag wysp. Dlaczego? Bo są różne metody do różnych celów.