Mentionsy

AI, która z grubsza będzie bardziej inteligentna niż ludzie.

Co więcej, w swoim pozwie wobec OpenAI twierdzi, że ta firma już stworzyła AGI i co więcej, oddała tę technologię Microsoftowi.

Mustafa Suleiman, czyli szef AI w Microsoftzie oraz autor książki Nadchodząca Fala, przewiduje, że ta technologia będzie dostępna w ciągu roku, no może półtora.

Sam Altman, prezes OpenAI, powiedział z kolei, że do 2028 roku większość potencjału intelektualnego ludzkości będzie znajdować się w centrach danych, a nie poza nimi.

No i czy jest grzechem pierworodnym całej technologii AI?

A w dzisiejszym odcinku swoimi przemyśleniami podzielą się... Karen Hao, amerykańska dziennikarka, która pracowała dla wielu najważniejszych mediów świata, m.in. dla MIT Technology Review, ale przede wszystkim autorka książki Imperium Sztucznej Inteligencji, Sny i Koszmary w OpenAI, sama Altmana, która właśnie ukazała się w Polsce.

Zwykle definiuje się je jako hipotetyczny system AI, który dorównuje ludzkiej inteligencji.

OpenAI na swojej stronie opisuje AGI jako, tu cytat, wysoce autonomiczne systemy, które przewyższają ludzi w większości ekonomicznie wartościowej pracy.

Czyli nawet w samym OpenAI pojawiają się de facto cztery różne definicje AGI.

To jest ta AI, którą widzimy w filmach science fiction, ta, która rozwiązuje problemy w sekundę, ta, z którą człowiek nie jest w stanie sobie poradzić, uczy się też w kilka sekund, sama się poprawia, no i tworzy nowe paradygmaty nauki, których człowiek nie będzie w stanie rozumieć.

No i według obecnego stanu wiedzy nie sposób powiedzieć, czy ACI byłoby świadome i czy świadomość w AI w ogóle może wystąpić.

I choć są świątkowie, którzy twierdzą, że już obecne generacje AI tak naprawdę są generalne, czyli no właśnie osiągnęły ten poziom AGI, to jednak większość naukowców wskazuje, że żeby ten poziom osiągnąć, trzeba będzie dokonać kilku ważnych i wcale nie takich łatwych przełomów.

Doktor Zuzanna Stamirowska, prezeska firmy Pathway, twierdzi, że ich model AI jest krokiem ku AGI i jest przekonana, że AGI nadchodzi.

Praca, która kiedyś zajmowała miesiące, w tej chwili jest robiona w parę godzin przy użyciu narzędzi i ten sposób pracy już jest uskuteczniany w różnych laboratoriach AI.

No dobra, ale Karen Hao, która rozmawiała z dziesiątkami, setkami ludzi pracujących w Dolinie Krzemowej, nie tylko związanych z OpenAI, ale po prostu z szeroko rozumianym biznesem technologicznym, widzi te opowieści po prostu bardziej jako narrację.

którzy by do dążenia do AGI podchodzili krytycznie, to ona była w stanie wymienić tylko tmienitkę brud, czyli bydaczkę AI, którą za krytykę pracy nad AI, w tym szczególnie zaszywane takie uprzedzenia, dozwonił Google.

W niedawnym wywiadzie, który z nim przeprowadziłam, mówił, że to bardzo dziwne, iż cała branża kieruje się przekonaniem, że AI ostatecznie przewyższy ludzi pod każdym względem.

Systemy AI powinny być projektowane tak, by wykorzystywać siłę obliczeń, a jednocześnie wspierać ludzi w rozwijaniu ich własnych kompetencji.

Tak, badania Darona Acemoglu znacznie różnią się od powszechnego hajpu na temat AI.

I robi to tak skutecznie, no bo ludzie mogą niekoniecznie rozumieć sam termin, a i tak dają się ponieść hype'owi na AI, czy wręcz wierzę w to, że generalna sztuczna inteligencja zaraz nadejdzie.

No tak się składa, że leży u podstaw tej obecnej fali hype'u na AI, nazywany też rewolucją, więc stąd dodatkowo powiedzmy moja niechęć do tego terminu.

Tylko, że ta AI rozwiązuje problemy takie, które już widziała.

Czyli AGI musi zacząć rozumieć świat, bo dzisiaj AI widzi wzorce, ale nie do końca rozumie, co powoduje co.

Jeżeli coś się zmieni, to łatwo się gubi, a rozumowanie jest trudne, choćby dlatego, że AI musi myśleć w języku.

I o tym, dlaczego obecna AI ma takie problemy z rozumowaniem, mówiła nam dr Zuzanna Stamilowska.

Potem między innymi właśnie też Łukasz i w sumie wielu innych Polaków w OpenAI stworzyło modele O1 i O3, czyli tak naprawdę modele rozumowania.

I ono jest wyrażane w czymś, co nazywamy chain of thought, nazwijmy to strumieniem myśli.

Bo my się uczymy non-stop z rozmów, z książek, z podcastów, z codziennego doświadczenia nowych okoliczności, nowych wyzwań, a AI raz wytrenowana zostaje z tą zamrożoną wiedzą i to dlatego dzisiaj niektóre modele wciąż upierają się, że prezydentem USA jest Joe Biden na przykład.

I obecna AI nie może uczyć się cały czas, dlatego że ma ograniczoną pamięć.

I nie chodzi tutaj o moc obliczeniową, po prostu obecna AI nie jest w stanie utrzymywać ani ciągłości konwersacji, na przykład nie pamięta o czym rozmawialiśmy miesiąc temu i to jest jedna z kluczowych, brakujących kompetencji, o czym też mówiła nam Stamierowska.

AI, taki jaki znamy w tej chwili, jest pozbawiona pamięci, jest pozbawiona elementu czasu.

Czyli nasze AI w tej chwili nie jest w stanie tak naprawdę uczyć się z doświadczeniem, nie jest w stanie stawać się mądrzejsza i nie zapamiętuje tego, co robi.

Jeżeli ktoś widział w filmie Mento Christophera Nolana albo w Polsce w telewizji bardzo często w święta czy tam w weekend leciał film Groundhog Day, Dzień Świstaka, to jest trochę podobny koncept, bo modele, jak je trenujemy w AI, w tym paradygmacie, który w tej chwili jest dominujący, trenowane są raz, na podstawie bardzo, bardzo dużych zbiorów danych, całego internetu i wszyscy słyszeliśmy już o

historii tego, jak OpenAI i inni zbierają dane.

W każdym razie AI musi być bardziej samodzielna, czyli nie tylko zauważyć problem, ale i zaplanować jak go usunąć, a potem wdrożyć to w życie.

Więc Transformery to jest obecna architektura AI.

Ona się zaczęła od pracy naukowej opublikowanej w 2017 roku przez zespół Google Brain.

Jednym z współautorów tego artykułu jest polski informatyk Łukasz Kajzer, który wtedy pracował dla Google, a od 2021 roku jest jednym z naukowców w OpenAI i jest też inwestorem w firmę naszej gościnni, czyli w Pathway.

to właśnie na niej zbudowane są wszystkie obecne modele AI, tej generatywnej AI.

To transformery sprawiły, że mogła pojawić się właśnie ta generatywna AI i mogło wykwitnąć OpenAI.

My jako PAFU jesteśmy neolabem, gdzie neolaby to są firmy, które eksplorują to, które pracują w tej chwili na granicy tego, co jest możliwe w AI.

On pracował w Google Brain, współpracował z noblistą Jeffreyem Hintonem, tym, który dostał Nobla teraz za AI, oraz z najczęściej cytowanym naukowcem od AI, Joshua Bengio.

A Thinking Machines Lab Miri Murati, ona była szefową technologii w OpenAI.

zebrała 2 miliardy dolarów na pracę nad multimodalną AI, czyli taką AI, która może jednocześnie czerpać wiedzę i wyciągać wnioski z kilku różnych źródeł danych.

Zobaczymy, jak to się będzie rozwijać, bo jak na razie ich paper, czyli takie badanie naukowe, które wypuścili, wzbudziło dość duże zainteresowanie w świecie naukowym.

I zainspirowała ich do tej nazwy lektura książki, którą zresztą ja też kocham całym sercem.

A liderem tego nurtu jest zespół naukowców Together AI oraz Uniwersytetu Stanfordu.

No równolegle bardzo ambitne i też ciekawe rzeczy dzieją się w firmie Liquid AI, będącej takim spin-offem z MIT, gdzie zespół pod wodzą Ramira Hassaniego rozwija tzw. Liquid Neural Networks.

No, to też jest super ważne, bo jednak koszty energetyczne, prac nad AI, o czym jeszcze w tej chwili powiemy, to są koszmarne pieniądze.

No tak, czyli na razie trwa wyścig, kto pierwszy stworzy architekturę, która umożliwi nową generację AI.

Tak, więc raczej na prowadzenie tutaj wysuwają się takie neolaby, ale i duże laboratoria, takie jak OpenAI.

Chociaż meta też pracuje oczywiście nad generalną AI.

Trochę blisko, trochę daleko, bo jest to sam Altman, czyli OpenAI.

Prawdopodobnie jest gdzieś w OpenAI ktoś bardziej zorientowany na biznes niż ja, kto martwi się tym, ile wydajemy, ale ja tak naprawdę się tym nie przejmuję.

Ale OpenAI faktycznie przepala te pieniądze.

W całym ubiegłym roku, 25, OpenAI zarobiło 20 miliardów dolarów.

Więc o ile sam Altman być może nie przejmuje się pieniędzmi, no to ktoś jednak w tej firmie musi i dlatego OpenAI ma zamiar szukać oszczędności i stopniowo przechodzić na własną infrastrukturę i zwiększać udział tej własnej infrastruktury.

W każdym razie, Chiba to jest oczywiście tylko początek, bo OpenAI na budowę całej potrzebnej tej fizycznej infrastruktury chciało wydać bagatela, 7 bilionów dolarów.

I tutaj my tyle mówimy o pieniądzach, bo koszty i utrzymania, i rozwijania AI już dzisiaj astronomicznie rosną.

Gertzel już od lat dziewięćdziesiątych głosił, że celem AI nie powinno być jedynie rozwiązywanie wąskich problemów, lecz stworzenie maszyn zdolnych do ogólnego rozumowania.

Porażka tylko umocniła jego przekonanie, że prawdziwa AI wymaga zupełnie innego podejścia niż dominujące wówczas metody.

Był jednym z głównych architektów SingularityNet, takiego projektu łączącego sztuczną inteligencję z blockchainem.

Ona miała być otwartą, zdecentralizowaną siecią współpracujących agentów AI, dostępną dla wszystkich.

No to zobacz, to zupełnie jak te początki OpenAI.

To właśnie z tego środowiska wyrósł serwis Less Wrong, w którym narodziło się wiele kluczowych dla AI koncepcji.

Wielu dzisiejszych badaczy AI po raz pierwszy zacznęło się w ogóle z problematyką AGI właśnie poprzez teksty Judkowskiego.

No i to właśnie on spopularyzował takie pojęcia jak problem wyrównywania celów, albo eksplozja inteligencji, albo ryzyko egzystencjalne związane z AI.

A potem jeszcze DeepMind oraz OpenAI sprawiły, że wszystko zaczęło wyglądać nie tylko jak fantastyka naukowa, lecz jak strategia biznesowa,

To był główny naukowiec w OpenAI.

A to jeszcze w Open AI tak skandował.

No tak, bo kiedyś była era komputerów, potem była era internetu, teraz jest era AI i to jest zupełnie normalne, że technologie są przedstawiane jako przyszłość, która wiele zmieni, tyle że między nimi jest pewna różnica.

I to właśnie czyni świat AI tak fascynującym.

Tak właśnie postrzegam dziś świat AI.

Wystarczy posłuchać, co mówią szefowie najważniejszych firm na rynku AI.

Czyli w 23 roku Amodei, Hasabis, Altman podpisali oświadczenie, to jest cytat, łagodzenie ryzyka wyginięcia ludzkości spowodowanego przez AI powinno być globalnym priorytetem,

No tak się składa, że leży u podstaw tej obecnej fali hype'u na AI, nazywany też rewolucją, więc stąd dodatkowo powiedzmy moja niechęć do tego terminu.

I w tej książce możemy przeczytać, że jeżeli nie wyrwiemy wtyczki z rozwoju AI, no to w bliskiej przyszłości AGI doprowadzi do globalnego Armagedonu.

AI-magedonu.

Z pewnością to on zainteresował wielu z nas AGI i jeszcze dodawał, Jutkowski może kiedyś zasłużyć za to na pokojową nagrodę Nobla.

Bo jeżeli to właśnie AI w jakiejkolwiek, nawet nie AI, w jakiejkolwiek formie będzie gdzieś wdrażana na siłę, wpychana, wmuszana pracownikom, to szczególnie odbije się na kondycji pracowników wiedzy, knowledge workers, czy nie lubię tego określenia, media workers.

Czyli jeżeli jedynym imperatywem rozwoju ludzkości jest AI, a jedynym niepotwarzalnym kierunkiem rozwoju AI jest AGI, no to po prostu musisz iść w tę stronę.

W 2024 roku 24-letni były pracownik OpenAI, który zmienił branżę i został inwestorem, Leopold Aschenbrenner, opublikował szeroko analizowany 165-stronicowy manifest zatytułowany Situational Awareness.

Jak ta wiara wygląda, było widać, gdy OpenAI wypuściło mocno hype'owane GPT-5.

Ono nadchodzi, nadchodzi, tylko no wiecie, następnym razem, jak jeszcze się bardziej postaramy, zainwestujemy więcej w centra danych, w moce obliczeniowe ludzie będą więcej swoich danych treningowych dostarczać.

Tylko wiesz, jak dobrze poszukać, to znajdziemy też pierwsze kościoły AI, takie po prostu kościoły AI.

To właśnie on założył pierwszą znaną religię AI.

No i zaskoczenie ogromne, bo Kościół długo nie przetrwał i w przededniu, naprawdę w przededniu rewolucji generatywnej AI w 2021 roku Lewandowski go zamknął.

Natomiast ważniejsze od religijności wokół AI jest tutaj dla mnie to, do kogo kierują te swoje wszystkie podniosłe słowa prezesi wielkich spółek technologicznych.

No tak, kierują je nie do swoich kolegów, innych prezesów, ani nawet nie do nas, w sensie ludzi naprawdę zainteresowanych, ale też maluczkich.

Laboratorium się nazywa MITR i MITR mierzy mniej więcej to, jakiej długości ludzkie zadania, głównie w programowaniu, AI w tej chwili jest w stanie wykonać w sposób względnie autonomiczny.

takiej bardzo skutecznej autonomicznej pracy AI, to wtedy modele będą w stanie się same wymyślać i się same, powiedzmy, tam replikować.

I to jest dla mnie okej definicja, bo to jest definicja dyskretna, która mówi okej, doszliśmy do AI w takim sensie, że ono już nas, znaczy AI nas już nie potrzebuje w pewnym sensie.

Jak trudną robotę potrafi dowieść AI zanim się pogubi i zacznie halucynować?

Żeby to zrozumieć, musimy przestać patrzeć na to, jak szybko AI pisze coś, wyrzuca coś z siebie, a zacząć patrzeć na czas oczami człowieka.

Jeśli model AI ma

Jeżeli mam flow jakieś wielkie, a AI ma tutaj horyzont 50%, to w co drugim wypadku, jeżeli będzie miał to samo zadanie odtworzyć, to zrobi to tylko co drugi raz.

Jeszcze niedawno horyzonty AI liczyło się w minutach.

Czyli w 2024 roku horyzonty czasowe AI podwajały się co 7 miesięcy.

I stąd można byłoby wyciągnąć wniosek, że w tym albo w przyszłym roku AI osiągnie tydzień pracy ludzkiej.

Bo autor tego artykułu wskazuje, że główny błąd w interpretacji tej linii polega na tym, że myślimy, że skoro horyzont czasowy wzrósł do 14,5 godziny, to nagle AI stała się 10 razy bardziej mądrzejsza.

Najważniejszy wniosek z tego artykułu jest taki, że wykres metr jest najważniejszą miarą zbliżania się do AGI, ale nie dlatego, że AI staje się Bogiem, tylko dlatego, że staje się po prostu bardziej użyteczna ekonomicznie.