Mentionsy

Witamy Państwa w trzynastym odcinku naszego cyklu Limity AI, w którym z naszymi gośćmi, badaczami nowych technologii, naukowcami, inżynierami AI i praktykami biznesu, krytycznie badamy dyskusję wokół AI i próbujemy zrozumieć o co właściwie chodzi, co jest w tej dyskusji

rzetelnym, popartym naukowo faktem, a co clickbaitowym, marketingowym spinem, futurystyczną spekulacją czy wręcz dezinformacją służącą grze kapitału.

Naszym celem nie jest tu krytykanstwo czy kwestionowanie korzyści jakie daje AI, ale wręcz przeciwnie, precyzyjne ustalenie spektrum tych korzyści i realnych zastosowań przy jednoczesnym określeniu faktycznych ograniczeń, czyli tytułowych limitów.

I czwarte kryterium to jest knowledge constraint optimality.

I teraz, gdybym miał studenta, który wprawdzie się nie przygotował, to zawsze mogę ocenić to, na ile on jest w stanie zaimprowizować.

Czyli jeden z gigantów, starszy pan już, ale jeden z gigantów twórców AI.

To nie jest metafora, dokładnie tak to jest zaimplementowane.

To się nazywa AI czy LLM steering.

Ok, żeby nie redukować tego, co rzeczywiście... Tak, bo rzeczywiście, bo zobacz, nie mamy problemu z tym, że klucz francuski pozwala nam przykręcić śrubkami, w życiu tej śrubki nie przykręcimy, ale już mamy wielki problem z tym, że AI potrafi lepiej od nas rozwiązywać zadania na olimpiadzie matematycznym.

Do tego wrócimy, jak zarządzać i tam może jeszcze nam się uda proskleić z tym, co publikowali niedawno autorzy z Open AI.

Ja zawsze czytam książki, nie pamiętam nazwiska autora, ale tytuł książki jest The Myth of AI, wydany jest przez Harvard University Press.

Aha, i jeszcze drugi perfidny zformułowany kontrargument, że mówienie o tym, że znaczenie nie pojawia się z takiego procesu, jest podobnie naiwne jak twierdzenie, że potrząsanie magnesem nie generuje światła.

Pojawiły się dwa takie na przestrzeni ostatniego roku, to znaczy po raz pierwszy to był jeszcze rok temu artykuł, paper takiego zespołu inżynierów AI w APL-u, w którym między innymi uczestniczy Sami Benio, czyli brat Joshua Benio,

Dlaczego to jest ważne w kontekście AI?

Może najpierw odnieśli się do tekstu, do badań opublikowanych przez zespół OpenAI, które ciekawe, że doszedł do takich wniosków jak ty, chociaż chyba inną drogą.

Natomiast tam wnioski są takie, że po pierwsze, i to jest, wracamy na powierzchnię można powiedzieć, bo to już jest dla każdego użytkownika, zwykłego zjadacza LLM-a, że po pierwsze pamiętajcie, że błędy są nieuchronne, zwłaszcza dla tak zwanych arbitralnych faktów, to jest język OpenAI, a ty mówisz o nietrywialnych pytaniach.

Potem dołóżmy do tego to, że autorzy z OpenAI twierdzą, że tego się nie da wyeliminować po treningu, ponieważ testy nagradzają zgadywanie.

Można konstruować takie ciągi kontekstów, bo to w ogóle dotyczy Chain of Thoughts, czyli tych mechanizmów wnioskowania.

Bo to tam jest takie palące zainteresowanie, że fajnie by było zastąpić tych paralegals, asystentów.

Naszym gościem był profesor Michał Karpowicz, profesor informatyki technicznej, szef Samsung AI Center w Warszawie.