Limity AI: #13 A co jeżeli Turing prowadzi na manowce? Komputacyjność a inteligencja

Witaj w podcaście MIT Sloan Management Review Polska. Inspirujemy liderów przyszłości. Witamy Państwa w trzynastym odcinku naszego cyklu Limity AI, w którym z naszymi gośćmi, badaczami nowych technologii, naukowcami, inżynierami AI i praktykami biznesu, krytycznie badamy dyskusję wokół AI i próbujemy zrozumieć o co właściwie chodzi, co jest w tej dyskusji rzetelnym, popartym naukowo faktem, a co clickbaitowym, marketingowym spinem, futurystyczną spekulacją czy wręcz dezinformacją służącą grze kapitału. Naszym celem nie jest tu krytykanstwo czy kwestionowanie korzyści jakie daje AI, ale wręcz przeciwnie, precyzyjne ustalenie spektrum tych korzyści i realnych zastosowań przy jednoczesnym określeniu faktycznych ograniczeń, czyli tytułowych limitów.

Richard Sutton to jest jeden z ojców chrzestnych, ale tym razem uczenia przez wzmocnienie. Laureat Nagrody Turinga za rok 2024. Czyli jeden z gigantów, starszy pan już, ale jeden z gigantów twórców AI. I on właśnie zwraca uwagę dobitnie na to, o czym wiemy, ale o czym mało myślimy, że LLM-y fantastycznie, ok, prognozują, co powinno się napisać, co może się napisać, w zależności od instrukcji, czyli prompta, ale mają zero danych. na temat świata pozatekstowego, to ponieważ były trenowane na tekstach, nie? Zgadza się. I to jest, wracając do twojej pierwszej myśli, to ograniczenie, które mamy my, powiedzmy te systemy inteligentne, które żyją w świecie fizycznym i które biorą dane z... Tak, tak.

Tak, ja jestem... Ciężko nie być Platonikiem, nie? Ciężko nie być, chociaż no tak, Platon, Wies, Arystoteles i spółka, to moglibyśmy długo i z przyjemnością to może następnym razem... Nie idźmy może tą drogą, bo nigdy nie skończymy. Zrobimy swój podcast osobny, się rozgałęzi tutaj, no. Tak, co chciałem powiedzieć? Aha, tylko jeszcze słowo na temat tego, jak to można wprowadzić i co w zasadzie akurat też w moim laboratorium Safety and Alignment Lab w A-Center Warszawa tego typu badania prowadzimy. To się nazywa AI czy LLM steering.

Ok, żeby nie redukować tego, co rzeczywiście... Tak, bo rzeczywiście, bo zobacz, nie mamy problemu z tym, że klucz francuski pozwala nam przykręcić śrubkami, w życiu tej śrubki nie przykręcimy, ale już mamy wielki problem z tym, że AI potrafi lepiej od nas rozwiązywać zadania na olimpiadzie matematycznym. Mamy w tym wielki problem. Ja też nie wchodzę z tym, bo ja znowu wiem, o czym mówisz i ja słyszę ten argument. Nie chodzi o jakieś przesadne przywiązanie do ludzkiego geniuszu, tylko takie... Odpowiedzialność za słowo, odpowiedzialność za język, bo my sobie możemy porozmawiać tutaj powiedzmy w jakimś takim, no respektując pewne zasady akademickiej rozmowy, która jest niewinna w tym sensie, że na końcu nie jest obliczona na to, że my będziemy za chwilę to sprzedawać i zarabiać na tym.

Czyli musimy skonstruować mechanizm, który na podstawie zapytania wyszuka w dostępnych dokumentach to, co jest istotne i potem na podstawie tych wyszukanych informacji zbudować kontekst i poprosić LLM, żeby zbudował wypowiedź na podstawie tego kontekstu. W swoim artykule zresztą opisuję ten scenariusz, bo pokazuję w którym momencie, na którym etapie się pojawia ryzyko halucynacji i które z tych czterech kryteriów może być naruszone na którym etapie. Ale jest to jedna ze strategii właśnie zarządzania tym problemem. Do tego wrócimy, jak zarządzać i tam może jeszcze nam się uda proskleić z tym, co publikowali niedawno autorzy z Open AI. Tak, tak. Ale po drodze już kilka razy on się tutaj pojawiał, a ponieważ jesteś profesorem matematyki i też jak już... Informatyki z zastosowaniami matematycznymi.

Ale używasz matematyki i rozumiesz, tak? I no, żeby... Skorzystajmy z tego faktu, bo... Ja zapomniałem tej książkę przynieść, ale sam jestem pod wpływem książki, którą czytam. Ja zawsze czytam książki, nie pamiętam nazwiska autora, ale tytuł książki jest The Myth of AI, wydany jest przez Harvard University Press. I autor, który sam jest przedsiębiorcą i robi startupy dla DARP-y w ogóle, czyli dla wojska. też oparte na głębokim uczeniu, no bardzo mocno rozbija właśnie ten mit, który jest u podstawy powiedzmy hype'u, ale też przyprowadza pewne rozumowanie. To znaczy odejdźmy na chwilę od halucynacji i porozmawiajmy o inteligencji, o której też zaczęliśmy na początku.

stawia znak zapytania przed taką sugestywnością argumentu Serla, ale ponieważ powiedziałeś o rozumieniu, to przynajmniej jeszcze jedną rzecz poruszmy. Pojawiły się dwa takie na przestrzeni ostatniego roku, to znaczy po raz pierwszy to był jeszcze rok temu artykuł, paper takiego zespołu inżynierów AI w APL-u, w którym między innymi uczestniczy Sami Benio, czyli brat Joshua Benio, Czyli osoba, która dobrze się orientuje w temacie uczenia głębokiego i w ogóle budowania tych systemów, które zrobili bardzo ciekawe dwie rzeczy. Po pierwsze to był argument sprzed roku, gdzie pokazali, że wówczas to był O4 zdaje się, czy w każdym razie wcześniejszy model GPT-a.

Więc aspekty kulturowe mają tutaj kolosalne znaczenie. I co ciekawe, to oczywiście, to jest tak, że rzeczywiście troszeczkę, tak jak mówisz, istnieje ten świat pozajęzykowy, bo Z jednej strony mamy komunikat, ale on jest zupełnie inaczej rozumiany w jednej kulturze, zupełnie inaczej rozumiany w drugiej kulturze. Jest zupełnie inaczej odbierany, wywołujący inne emocje. Inaczej jest w kulturze koreańskiej rozumiane pytanie, że sam akt pytania jest rozumiany zupełnie inaczej niż w naszej kulturze. Dlaczego to jest ważne w kontekście AI? Bo to są rzeczy, które na dziś dzień są bardzo trudne do automatyzacji. Nie wiemy za bardzo jak, chociaż jak obiecujemy inteligencję ogólną, to ona będzie ogólna, jeżeli będzie to umiała robić. Wiesz, może lądując, myślę, że nam się uda dzisiaj wylądować.

To jedna z tych rozmów, dla których warto tracić czas. Dziękuję w takim razie wszystkim Państwu, którzy z nami zostali. Naszym gościem był profesor Michał Karpowicz, profesor informatyki technicznej, szef Samsung AI Center w Warszawie. Do zobaczenia Michale, do zobaczenia Państwu w kolejnych. Bardzo dziękuję. To był podcast MIT Sloan Management Review Polska. Przestrzeni dla liderów kreujących przyszłość swoich biznesów. Dołącz do naszej społeczności i zasubskrybuj nasz kanał.