#14 - Sztuczna Inteligencja: Historia i Przyszłość | prof. Ryszard Tadeusiewicz

Termin sztuczna inteligencja nie ma jeszcze nawet 70 lat, za to ma już za sobą dosyć burzliwą historię. Jest to historia nadziei i zawodów, udanych i nieudanych prób, ale także ciągłego rozwoju, który ostatecznie doprowadził do stworzenia algorytmów i systemów, Którym coraz trudniej odmówić określenia inteligentne. W dzisiejszym odcinku miałem przyjemność porozmawiać właśnie o historii sztucznej inteligencji z profesorem Ryszardem Tadeusiewiczem. Ryszard Tadeusiewicz jest naukowcem od lat związanym z AGH w Krakowie, której był trzykrotnym rektorem. Specjalizuje się w sieciach neuronowych, a także od lat popularyzuje naukę. Jest autorem licznych książek i artykułów na temat sztucznej inteligencji, laureatem nagród i odznaczeń oraz członkiem wielu organizacji naukowych. W dzisiejszym odcinku rozmawiamy o początkach współcześnie rozumianej sztucznej inteligencji, teście Turinga, pierwszych systemach, perceptronie, tzw. zimie sztucznej inteligencji, algorytmie propagacji wstecznej, różnych architekturach sieci neuronowych, a także o współczesnym stanie tej dziedziny nauki.

Nastąpiła taka zima sztucznej inteligencji, po prostu przez pewien czas ta dziedzina się bardzo słabo rozwijała. Z tego co się orientuję, to ten właśnie GPS, o którym Pan wspomina, to jest 57 rok i ta data też wydaje się istotna z tego względu, że to jest też rok, w którym mówi się o stworzeniu perceptronu, to znaczy tego pierwszego elementu tych bardziej współczesnych sieci neuronowych. I proszę powiedzieć, jak stworzenie, może stworzenie to jest złe słowo, bardziej zamodelowanie, zbudowanie, opis matematyczny może tego perceptronu, jak on tutaj odegrał rolę? Tam też były jakieś problemy z tym perceptronem. Z perceptronem był problem polegający na tym, że perceptron, a dokładniej mówiąc właśnie taka pierwsza wtedy sieć neuronowa, chociaż tej nazwy jeszcze wtedy nie używano, była maszyną uczącą się,

Właśnie to, co obecnie jest taką cechą sztucznej inteligencji, że machine learning jest takim dominującym wątkiem, właśnie w Perceptronie Franka Rosenblata. Frank Rosenblatt był psychologiem, badał procesy uczenia się u zwierząt, u szczurów przede wszystkim. Ale doszedł do wniosku, że podobne procesy, które obserwował u żywych organizmów, u szczurów, które się tam uczyły np. w jaki sposób zyskać nagrodę, a uniknąć wstrząsu elektrycznego, te mechanizmy można przenieść do maszyny. Frank Rosenblatt zrobił to na kilka bardzo w nowym czasie rewolucyjnych sposobów, ponieważ po pierwsze, jako pierwszy zbudował urządzenia elektroniczne, a właściwie dokładnie elektromechaniczne urządzenia, które mogły się zachowywać jak komórki nerwowe, a ponieważ jedną z cech komórek nerwowych jest zdolność do uczenia się, zdolność do uczenia się poprzez zmianę swoich parametrów,

Wobec tego te elektromechaniczne, sztuczne neurony, powiedzmy Franka Rosenblata właśnie wchodzące w skład perceptronu, było ich 256 w tym perceptronie, te elementy miały bardzo zabawną z dzisiejszego punktu widzenia technikę uczenia się. Mianowicie proces uczenia musi zmieniać parametry. ...tego neuronu, czy to naszego biologicznego, jak coś słyszymy i czegoś się uczymy, to tam w synapsach następują pewne zmiany, przybywa albo ubywa taki wakuoli i tak dalej. Wobec tego to jest proces parametryczny. Wobec tego, żeby zmieniać parametry w urządzeniu elektronicznym, zastosowano potencjometry.

Dzisiaj potencjometrów się w zasadzie w takiej postaci prawie że w ogóle nie widuje, natomiast przez wiele lat potencjometry były niezbędnym elementem wyposażenia radioodbiorników czy telewizorów przy pomocy właśnie gałki i takiego opornika o zmiennej oporności, czyli właśnie potencjometru. Regulowało się głośność, regulowało się jasność ekranu, Można było po prostu rozmaite rzeczy nastawiać. A ponieważ ten perceptron miał się sam uczyć, wobec tego Rosenblatt kazał wbudować silniczki elektryczne, które kręciły tymi potencjometrami. Wobec tego to się odbywało w taki sposób bardzo, bardzo mechaniczny. Z tego to był pierwszy taki element, który był bardzo oryginalny.

To nie była prawda, jeszcze raz to chcę podkreślić. Tym niemniej Frank Rosenblatt właśnie ten swój perceptron montował w ten sposób, że zastosował takie losowe techniki. Przy czym, co może zabawne, on taki był trochę cyrkowiec, w związku z tym używał podobno rekwizytów z Las Vegas. Puszczał ruletkę, zależnie od tego, co mu wyszło, łączył te niektóre neurony pomiędzy sobą albo z taką siatkówką, którą też wymyślił, zbudował, żeby pokazywać temu perceptronowi różne obrazki. Również rzucał kostką, wyciągał karty, losowo to wszystko połączył. I co się okazało? Lesowo połączona struktura elementów zdolnych do uczenia się była w stanie działać celowo, oczywiście po nauczeniu.

Uczenie polegało na tym, że pokazywano temu perceptronowi, pokazywano mianowicie w taki sposób, wtedy jeszcze nie istniały te matryce CCD, które obecnie uzbrajają nasze telefony komórkowe czy nasze aparaty fotograficzne, Otóż wtedy tego nie było, wobec tego Rosenblatt kazał zmontować w odpowiednią matrycę fotoelementy, takie fotokomórki. Tworzył w ten sposób pierwszą taką retinę, pierwszy taki rodzaj sztucznej siatkówki, powiedzmy, tak jak siatkówka oka. Na ten element odbiorczy rzutowano różne obrazy. Perceptor coś tam kręcił i miał na wyjściu pewne elementy sygnalizujące jego decyzje.

I on miał rozpoznawać. Miał rozpoznawać na przykład litery, miał rozpoznawać figury geometryczne, miał rozpoznawać znaki alfabetu chińskiego. Uczono go tego. Uczono go na zasadzie kar i nagród. Jak wykonał prawidłowo działanie, dostawał nagrodę, odpowiednie połączenia, odpowiednie parametry w tej sieci neuronowej uzyskiwały te wartości dobre. Natomiast jeżeli mylił się, no to dostawał sygnał kary, jak gdyby potem starał się tego unikać. Okazało się, że perceptron uczony w taki właśnie sposób Potrafił zrobić rzecz taką. Po pierwsze, co prawda był to, jeszcze raz podkreślam, zespół losowo połączonych, uczących się elementów, ale on w kolejnych fazach, w kolejnych etapach coraz rzadziej się mylił.

Tadeusz Tadeusz Tadeusz Tadeusz Tadeusz Tadeusz Tadeusz Charakterystyczna w ogóle cecha wszelkich systemów uczących się, że najpierw bardzo szybko wykorzystują najprostsze możliwości zmniejszenia błędów i zmniejszenia tej kary, ale potem robią to wolniej, jak gdyby zlizują resztki tego błędu. I teraz okazało się, że to rzeczywiście było w stanie się nauczyć i z niewielkim poziomem tzw. błędu rezydualnego, czyli takiego pozostałego, w zasadzie ten perceptron umiał to robić, czego od niego wymagano.

Rosenblatt jednak nie byłby sobą, gdyby, że tak powiem, na tym poprzestał. To już był sukces. Zbudował maszynę uczącą się i ta maszyna skutecznie się uczyła. Wobec tego było to pierwsze jego osiągnięcie, które no już zadziwiło świat, zaczęto się temu bardzo bacznie przyglądać. Ale Rosenblatt postanowił skomplikować sprawę. Mianowicie ten nauczyciel, który przyznawał nagrody i kary, miał się mylić. To znaczy, była sytuacja taka, pokazywano jakiś znaczek, perceptor sygnalizował, że jego zdaniem to jest taki i taki znaczek, powiedzmy np. litera X albo trójkąt, powiedzmy, w zależności od tego, co rozpoznawano. Nauczyciel w tym momencie, jakoś tam losowo, rzucał może kostką albo w jakiś inny sposób decydował, czy powie prawdę, czy nie.

I wobec tego czasami było tak, że ten właśnie gorszy nauczyciel w pewnym procencie, ale przypadkowych błędów nagradzał za złą odpowiedź albo karał za dobrą odpowiedź. W pewnym procencie, w większości wypadków był uczciwy. Co się okazało? Oczywiście perceptor na początku zaczął trochę wariować, no bo nagle dostawał nagrody niezasłużone, nagle otrzymywał ciosy, kary też niezasłudzone, wobec tego szamotał się w tym wszystkim. Ten proces uczenia z takiej płynnej, spadającej linii zmienił się w takie zygzaki, prawda? Raz się polepszało, raz się pogarszało, ale generalnie zjeżdżało w dół, więc wyglądało na to, że jest nie najgorzej. I się zdarzyły rzeczy dwie.

Pierwsze zjawisko, które zostało zanotowane i bardzo potem było komentowane, to było to, że perceptron w pewnym momencie stał się mądrzejszy od swojego nauczyciela. To znaczy, o ile nauczyciel popełniał jakiś tam procent błędów, powiedzmy dla ustalenia uwagi, powiedzmy, że 5 czy 6% tych błędów popełniał ten nauczyciel, to nie mógł być duży procent, ale po pewnym czasie procent błędów perceptronu był mniejszy niż procent błędów nauczyciela, czyli on jak gdyby zjechał poniżej tego poziomu i był mądrzejszy od swojego nauczyciela. Mało tego, okazało się, że ten percepton źle uczony, czyli taki, który dostawał czasem baty niezasłużone albo nagrody, na które też nie zasłużył, on miał ten błąd rezydualny, ten końcowy błąd, miał wyraźnie mniejszy niż percepton, który był uczony przez grzecznego

Mądrego, spolegliwego, uczciwego nauczyciela. Po prostu gorzej uczony percepton lepiej się nauczył tego zadania, które miał rozwiązywać. To były dość szokujące wiadomości. Jak te informacje zaczęły być publikowane, to na całym świecie zaczęto gwałtownie sprawdzać, czy to naprawdę jest możliwe. Na przykład, no Włosi zbudowali w swoich laboratoriach taki właśnie też powiedzmy odpowiednik tego perceptronu na środownictwo, nazwali go pandemonium, no bo właśnie neurony to takie demony, no więc w związku z tym ta zbiorowość tych demonów miała być no właśnie tym czymś. Pamiętam, że Głuszkow, akademik Głuszkow w Kijowie, Rosjanie, znaczy no Ukraińiec powiedzmy, ale działający w Rosyjskiej Akademii Nauk, też gwałtownie budował taki perceptor i też potwierdził, że to wszystko co Rosenblatt napisał jest prawdą, to naprawdę tak właśnie działa.

Te sieci mają ładną, regularną, warstwową budowę, w ten sposób się je łatwiej realizuje elektronicznie, w ten sposób się łatwiej je programuje software'owo, jeżeli mamy program, który realizuje zasadę sieci neuronowej w komputerze. No i tak to, że tak powiem jest. Natomiast Rosenblatt robił przedziwne rzeczy, bo na przykład tak, jak już ten jego perceptor bardzo dobrze się czegoś nauczył, to on przyszedł podobno do laboratorium z wielkimi nożycami takimi do strzyżenia żywopłotu. I zaczął siąć, siąć połączenia, wyrywać te neurony, rozbijać. Czemu to robił? Dlatego, że u człowieka zachodzi naturalny proces obumierania komórek nerwowych w naszym mózgu.

Ten proces zachodzi u każdego. U mnie, powiedzmy, w moim wieku trochę szybciej, u młodych ludzi trochę wolniej. Niemniej jednak każdy z nas mniej więcej od momentu osiągnięcia dojrzałości płciowej, to się ten proces degeneracji mózgu zaczyna, okazuje się, że ubywa tych neuronów. A mimo wszystko my jednak nie głupiejemy tak już całkiem do końca. Bo Weston Rodenblatt starał się pokazać, że jego perceptron też będzie działał, pomimo tego, że się go weźmie i trochę zepsuje. Coś się przetnie, poprzerwa się jakieś połączenie, coś się wyrzuci, coś się wyrwie. I on to wykazał. Pokazał, że rzeczywiście ten perceptron

Tak, tak. No z perceptronem, z tego co też właśnie się orientuję, to też był problem taki, że Miński wykazał w tej słynnej takiej publikacji, w której skrytykował perceptron i słyszałem takie głosy, że się mówi, że to wstrzymało w ogóle rozwój właśnie Tak, zgadza się. Właśnie pod koniec lat sześćdziesiątych, wydaje się w sześćdziesiątym dziewiątym roku, Miński i Pejpert. Pejpert to był z kolei specjalista od nauczania matematyki metodą interaktywną. On wymyślił tego żółwia, język logo i tak dalej. W kaucie Miński, rzeczywiście jeden z twórców, jeden z takich największych guru sztucznej inteligencji.

Zresztą on sam o sobie zawsze twierdził, że nazwę sztuczną inteligencję to on właśnie w tym Dartmouth College podał. Ale właśnie napisał książkę, napisali we dwóch właśnie z Peipertem książkę pod tytułem Perceptrons, czyli Perceptrony. I tam pokazali, że te Perceptrony mają bardzo istotne ograniczenia, że pewnych zadań stosunkowo prostych, taka summa modulo 2 była akurat pewnym takim argumentem kluczowym, koronnym, że te Perceptrony się tego w żaden sposób nauczyć nie mogą. I w tym momencie postawili kropkę nad i powiedzieli, nie, to się w ogóle nie nadaje do tego, żeby rozwijać, bo to prowadzi na manowce.

Co się okazało? Po pierwsze, oni się mylili. Mianowicie w ten sposób, że po prostu rozważali jako jedyne perceptrony takiego typu, jakiego użył Rosenblatt, mianowicie perceptrony jednowarstwowe. Perceptron, w którym właściwie między wejściem, gdzie stawia się zadanie, a odbiornikiem, gdzie uzyskuje się odpowiedź, jest tylko jedna warstwa neuronów. Rzeczywiście, te perceptrony miały ograniczenia, ale w tym momencie właśnie ludzie myślący szerzej, myślący głębiej, doszli do wniosku, że przecież to wcale tak być nie musi, że można mieć te