Mentionsy

Mowa oczywiście o generalnej sztucznej inteligencji, czyli AGI.

No i tak, Elon Musk głosi, że AGI pojawi się już w tym roku.

A do 2030 roku AGI będzie już mądrzejsza niż cała ludzkość razem wzięta.

Co więcej, w swoim pozwie wobec OpenAI twierdzi, że ta firma już stworzyła AGI i co więcej, oddała tę technologię Microsoftowi.

Według niego AGI pojawi się w ciągu od roku do trzech lat.

I w końcu Demis Hassabis, czyli prezes DeepMindGoogla jest jeszcze troszkę bardziej konserwatywny i granica pojawienia się AGI ustawia na 2030-2035 rok.

Tylko tym panom jakby nie było płaci się za wygłaszanie takich stwierdzeń, bo dążenie do osiągnięcia AGI przynosi ich firmom nieustanny i szeroki strumień pieniędzy.

Dziś już niemal wszystkie firmy technologiczne, a przynajmniej te największe, dążą do AGI, więc o ile w ciągu najbliższych lat nie wydarzy się jakaś katastrofa, no to ich wysiłki będą skupione na tym, żeby AGI osiągnąć.

Dlatego w tym odcinku skupimy się na tym, co może zmienić AGI, komu zaszkodzi, a komu sprawi korzyści.

Czy AGI jest dzisiaj bardziej technologią, czy może bardziej religią?

Zanim jednak sprawdzimy, czy AGI jest mrzonką technokratów, czy realnym rozwiązaniem, chcemy Wam podziękować za to, jak bardzo intensywnie nas słuchacie, komentujecie nasz podcast.

Doktor Zuzanna Stamierowska, prezeska firmy Pathway, która buduje architekturę pod AGI.

Nasz dzisiejszy temat jest troszkę bardziej futurystyczny niż zwykle, dlatego ja proponuję zacząć od tego, co nam w ogóle ustawi dyskusję, czyli od definicji tego, czym w ogóle jest AGI.

No dobra, czyli podkręcona piłka na dzień dobry, bo prawda jest taka, że badacze, naukowcy, pracownicy firm technologicznych tak chyba do końca nie wiedzą, co jest AGI, a przynajmniej nie mają jednej wspólnej definicji tego, czym miała być generalna sztuczna inteligencja.

AGI będzie potrafiła nauczyć się i wykonać dowolne zadanie poznawcze, które człowiek może wykonać przy porównywalnym albo wyższym poziomie skuteczności bez specjalnego dostrajania się do każdej nowej dziedziny.

AGI ma być na poziomie człowieka lub troszkę powyżej, powiedzmy na poziomie ludzkiego geniuszu.

Tyle, że na tym etapie pojawia się problem, bo obecnie prawie każdy naukowiec, każda firma mogą zdefiniować AGI inaczej, w zależności od swojej strategii, od swoich potrzeb.

Tak naprawdę nie wiemy, czym jest AGI.

W tej próżni znaczeniowej firmy technologiczne mogą definiować AGI tak, jak jest im to w danym momencie wygodne.

OpenAI na swojej stronie opisuje AGI jako, tu cytat, wysoce autonomiczne systemy, które przewyższają ludzi w większości ekonomicznie wartościowej pracy.

W umowie z Microsoftem AGI oznacza system zdolny wygenerować 100 miliardów dolarów przychodu.

Czyli nawet w samym OpenAI pojawiają się de facto cztery różne definicje AGI.

Tylko zajmiemy się tym problemem, który widać na horyzoncie, a przynajmniej widać według biznesu, czyli właśnie AGI.

Czyli tak, chociaż o AGI mówimy teraz bardzo dużo, to de facto ten termin został faktycznie spopularyzowany w ostatnich dwóch dekadach, ale istnieje z nami od początku ery komputerowej.

No i właśnie jakby ten mit jest korzeniem fascynacji AGI.

I choć są świątkowie, którzy twierdzą, że już obecne generacje AI tak naprawdę są generalne, czyli no właśnie osiągnęły ten poziom AGI, to jednak większość naukowców wskazuje, że żeby ten poziom osiągnąć, trzeba będzie dokonać kilku ważnych i wcale nie takich łatwych przełomów.

Jedno jest tutaj pewne, w świecie technologii wciąż są spory, czy AGI w ogóle jest możliwa i w zależności od tego, kogo spytamy, to dostaniemy inną odpowiedź.

Doktor Zuzanna Stamirowska, prezeska firmy Pathway, twierdzi, że ich model AI jest krokiem ku AGI i jest przekonana, że AGI nadchodzi.

I powoli będzie teraz przechodził do innych dużych firm, więc raczej bym powiedziała, że ludzie się spodziewają bardzo praktycznych efektów tej powiedzmy ścieżki do AGI.

Programowanie to jeszcze nie jest może AGI w całości, natomiast zmiany już takie społeczne i emocjonalne są bardzo widoczne w Dolinie.

O tym, czym ta jej firma się zajmuje, jeszcze dzisiaj porozmawiamy, ale to, co mówi, bardzo wyraźnie oddaje całe nastawienie branży technologicznej, czyli to, że ona naprawdę AGI już widzi, nawet nie na horyzoncie, tylko gdzieś tam w bliskiej, bardzo bliskiej przyszłości.

którzy by do dążenia do AGI podchodzili krytycznie, to ona była w stanie wymienić tylko tmienitkę brud, czyli bydaczkę AI, którą za krytykę pracy nad AI, w tym szczególnie zaszywane takie uprzedzenia, dozwonił Google.

I to nie znaczy, że nie ma głosów pełnych dystansu, jeżeli chodzi o to dążenie do AGI.

Tylko w większości to nie są głosy amerykańskie, bo w ogóle całe AGI to jest taki bardzo anglosaski koncert, amerykańsko-brytyjski.

I zobaczcie, jak sobie przypomni się chociażby nasze odcinki o Chinach, kiedy opowiadałyśmy o Deep Seeku, tam nie ma AGI na horyzoncie, tam jest sztuczna inteligencja, która ma rozwiązywać bardzo konkretne problemy.

Dlatego Acemoglu jest jednym z najbardziej wyrazistych krytyków traktowania AGI jako ostatecznego celu.

Wciąż jednak jest to jeden z nielicznych tak mocnych głosów, bo jednak do inaczej mowa przekonuje cały świat, że AGI jest to kierunek

Nie wierzę w AGI, ponieważ już samo używanie określeń typu wiara wprowadza nas bardziej w obszary religijne i praktycznie taki termin ma więcej wspólnego z religią, czy pewnego rodzaju formami jakichś sekt, kultów, aniżeli jakoś, żeby był zakorzeniony powiedzmy w naukowym rozumieniu o działaniu umysłu, czy kognitywistyki, sztucznej inteligencji, neuronauki i tak dalej.

No i dobra, można być krytycznym wobec nieuchronności AGI, ale już teraz można też wskazywać konkretne, takie brakujące elementy, takie puzzle w działaniu sztucznej inteligencji, które musiałyby się pojawić, które trzeba by było uzupełnić, żebyśmy w ogóle mogli mówić o AGI, więc spróbujmy tę zagadkę trochę rozłożyć na czynniki pierwsze.

AGI zaś to ma być coś, ktoś, taki uczeń, który dostanie zupełnie nowy problem i wie jak się do niego zabrać.

Czyli AGI musi zacząć rozumieć świat, bo dzisiaj AI widzi wzorce, ale nie do końca rozumie, co powoduje co.

Na razie dokończmy brakujące przełomy w drodze do AGI.

Bo wagi tego modelu są robione w trakcie takich dużych sesji pretreningowych.

I żeby wystąpiła więc taka prawdziwa, a nie marketingowa AGI, to wszystkie te elementy mogą zacząć działać jednocześnie, jak taki jeden spójny system, a to jest naprawdę bardzo trudne.

No bo to AGI to nie są klocki Lego, to nie jest tak, że jeden element do kolejnego łatwo dopasować i zawsze coś tam wyjdzie, nawet jeżeli nie będziemy się kierować dokładnie rozpiską z pudełka.

Tylko, że naukowcy nie są zgodni, czy na podstawie tej architektury będziemy w stanie w ogóle osiągnąć AGI.

I to jest duży przeskok, jeżeli myślimy o pracach nad AGI-em.

Ale jak spojrzymy na to, co się dzieje wokół spółek zajmujących się sztuczną inteligencją, szczególnie tych, które właśnie zapowiadają, że pracują nad AGI-em, to te 15 milionów brzmi bardzo skromnie.

To spójrzmy na inne startupy pracujące właśnie nad AGI-em.

Tylko one nie wszystkie mówią, że robią AGI-a.

Nazwa modeli, czyli dokładnie Dragon Hatchling, to jest nazwa architektury, pochodzi od Terego Pratchetta w Color of Magic.

No i cała ta masa pieniędzy rzucana jest na osiągnięcie AGI.

Dopóki będziemy w stanie opłacić rachunki, będziemy dążyć do AGI.

I kiedy spojrzysz na AGI przez pryzmat takich inwestycji, takich zapowiadanych inwestycji, takich ambicji...

Ostatecznie najbardziej fascynujące w narracji o AGI jest to, kto ją opowiada i w jakim celu.

Pomijając na chwilę pytanie, czy AGI okaże się dystopijne czy nie, już teraz widać wyraźnie, że te imperia prowadzą nas w bardzo niepokojącym kierunku.

Z kolei przed kongresem sam Altman opisywał AGI jako system, który potrafi wyleczyć raka oraz rozwiązać problemy ubóstwa i zmian klimatu.

Natomiast dla konsumentów AGI przedstawiane jest jako super asystent, najlepsze możliwe narzędzie, jakiego można chcieć, co w praktyce jest definicją marketingową, mającą skłonić ludzi do wydawania pieniędzy.

Czyli trzeba naprawdę wielkich, wręcz trudnych do wyobrażenia nakładów, by wreszcie dojść do AGI, choć jak mówiła nam Stamirowska, potem będzie lepiej, bo trenowanie modeli AGI powinno być bardziej energooszczędne, oczywiście też tańsze, bo model nie będzie musiał wielokrotnie zobaczyć tego samego przykładu, żeby móc się go nauczyć.

No dobra, ale w tym zjawisku, w zjawisku AGI ciekawe jest w ogóle to, że my dzisiaj tyle mówimy o pieniądzach, o marketingu, natomiast ono nie zaczęło się od sprzedaży i sam pomysł na AGI w ogóle nie wywodzi się z głównego nurtu technologii.

Gersel jednak rozumiał, że sama nazwa nie wystarczy, dlatego rok później współzakładał Conference on Artificial General Intelligence i ta coroczna konferencja stała się miejscem spotkań badaczy, którzy nie chcieli ograniczać się do wąskich zastosowań uczenia maszynowego i to właśnie tam AGI zyskało taki dom akademicki, własny język, no i rosnącą społeczność.

Podczas gdy Gertzel zastanawiał się, jak AGI zbudować, to Jutkowski pytał, jak sprawić, żeby ta AGI nas po prostu nie zniszczyła.

Wielu dzisiejszych badaczy AI po raz pierwszy zacznęło się w ogóle z problematyką AGI właśnie poprzez teksty Judkowskiego.

No i tak właśnie AGI opuściło naukowy margines, Gertzel nadał idei nazwę i takie ramy instytucjonalne, Jutkowski ostrzegał przed jej konsekwencjami i stworzył ruch intelektualny wokół bezpieczeństwa, a postrom wyniósł tę debatę do centrum światowej elity.

I na spotkaniach zespołów podobno skanduje Feel the AGI.

Czyli słuchajcie, czyli w jakimś 2021 roku już tam mieli poczuć AGI.

I on chyba rzeczywiście co skawel mocniej czuje tą AGI niż większość świata.

No bo ten wspomniany przez ciebie startup, czyli Safe Super Intelligence, cała jego praca poświęcona temu był uniknąć tak zwanej zbuntowanej AGI, czyli temu jak ją kontrolować, gdy już powstanie.

Polega ona na tym, że w przeciwieństwie do komputerów i internetu, AGI nie istnieje.

No Haven stawia w ogóle w tym artykule taką dosyć odważną tezę, że to czucie AGI, jako cudzkawera, nie jest tym samym co promowanie kolejnej next big thing, czyli takiej klasycznego marketingu skupionego wokół kolejnych technologicznych innowacji.

Najbardziej zaskoczyło mnie, gdy zaczęłam przeprowadzać wywiady do mojej książki, jak wielu ludzi w Dolinie Krzemowej naprawdę wierzy, że coś takiego jak AGI istnieje, że jest tuż za rogiem, że właśnie ją budują i że doprowadzi ono do katastrofalnych zmian w dobrą albo złą stronę, w zależności od tego, kto je stworzy i jakie decyzje przy tym podejmie.

W pewnym momencie powstał atrakcyjny mit o magicznej maszynie do wszystkiego, która rozwiąże wszystkie problemy świata.

AGI będzie tak mądra, jak całe państwo geniuszy.

I jakby tego było mało, to Musk twierdzi, że AGI ma 20% prawdopodobieństwo unicestwienia ludzkości i coraz więcej ekspertów, w tym Jacek Mańko, także zauważa, że jakby nie było twórcy, technologii uderzają w coraz bardziej religijne tony.

Nie wierzę w AGI, ponieważ już samo używanie określeń typu wiara wprowadza nas bardziej w obszary religijne i praktycznie taki termin ma więcej wspólnego z religią, czy pewnego rodzaju formami jakichś sekt, kultów, aniżeli jakoś, żeby był zakorzeniony powiedzmy w naukowym rozumieniu o działaniu umysłu, czy kognitywistyki, sztucznej inteligencji, neuronauki itd.,

Wiesz co, faktycznie coraz trudniej zorientować się, kto w przypadku AGI i prac nad nią to chwali się, czy jednak żali.

I w tej książce możemy przeczytać, że jeżeli nie wyrwiemy wtyczki z rozwoju AI, no to w bliskiej przyszłości AGI doprowadzi do globalnego Armagedonu.

AGI-megadonu, nie wiem, no na pewno coś wymyślimy.

No to jest taki przedziwny paradoks, bo równolegle to właśnie koncepcje Przyszutkowskiego były impulsem do prac nad AGI-em.

Lizer moim zdaniem zrobił więcej niż ktokolwiek inny, by przyspieszyć AGI.

Z pewnością to on zainteresował wielu z nas AGI i jeszcze dodawał, Jutkowski może kiedyś zasłużyć za to na pokojową nagrodę Nobla.

Tyle, że sytuacja, w której jeden wilk wyje, przyspieszając do jak najbardziej intensywnej pracy nad AGI dla dobra ludzkości, a drugi skomle, że ta technologia zniszczy ludzkość.

No i tutaj podobnie używane są mechanizmy do obiecywania wszelkich wspaniałości, ostrzegania, że jeżeli nie postaramy się jako ludzkość i nie oddamy władzy w ręce tych, co to wiedzą, jak to AGI stworzyć, to będzie katastrofa.

No a z kolei sztuczna inteligencja jako przemysł ugruntowana jest obecnie w wizjach AGI.

Czyli jeżeli jedynym imperatywem rozwoju ludzkości jest AI, a jedynym niepotwarzalnym kierunkiem rozwoju AI jest AGI, no to po prostu musisz iść w tę stronę.

Fani byli rozczarowani, no bo ta nowa wersja flagowej technologii firmy, no nie była jakimś szczególnie oczekiwanym i dużym skokiem jakościowym, ale zamiast potraktować to jako dowód na to, że no dobra, do tego AGI to jeszcze chyba nie, albo w ogóle nie wiadomo, czy będzie, a przynajmniej nie wiadomo, czy będzie osiągane za pomocą LLM-ów, to naprawdę ci najbardziej tacy zahypowani, wierzący po prostu...

Po prostu odsuwali swoje prognozy tego, kiedy nadejdzie AGI.

z Zuzanną Stamirowską, to od niej nie usłyszymy zapewnień o zbawieniu ludzkości i co więcej, Stamirowska ma jedną z najbardziej przyziemnych i co najważniejsze, takich wymiernych, policzalnych definicji AGI, jakie słyszałam.

Jeżeli chodzi o AGI, jest taka miara, która się nazywa MITR i to jest Task Time Horizon się nazywa.

Natomiast mamy artykuł z Technology Review, który wylewa kubeł zimnej wody na wszystkich, którzy chcieliby, żeby ta linia wykładnicza przyniosła nam AGI już w tym roku.

Najważniejszy wniosek z tego artykułu jest taki, że wykres metr jest najważniejszą miarą zbliżania się do AGI, ale nie dlatego, że AI staje się Bogiem, tylko dlatego, że staje się po prostu bardziej użyteczna ekonomicznie.

I według tej logiki AGI to nie jest moment, w którym ta maszyna ożywa albo staje się właśnie tak inteligentna jak wszyscy ludzie albo jak ludzki geniusz, tylko moment, w którym koszt nadzorowania tej technologii przez człowieka staje się wyższy niż wartość jej samodzielnej 40-godzinnej pracy.

Sposób na powszechną obfitość i czy zachęta do posiadania większej liczby dzieci i budowania rodzin, to wciąż są obietnice związane z AGI-em, które padały.