Co AI mówi szeptem czyli hackowanie modelu

Cześć wszystkim, witam was w kolejnym odcinku Rozmów na Autopilocie, czyli w podcaście, w którym razem z Adamem Gospodarczykiem rozmawiamy na naszej społeczności Ahoy o różnych bieżących tematach, głównie automatyzacji, AI i rzeczach, które zmieniają i wpływają na naszą produktywność. Dzisiaj porozmawiamy o tematach bardzo aktualnych. Już chwilę w zasadzie nie mieliśmy takiego Takiego podcastu, w którym omawialibyśmy bieżące wydarzenia, a tych wydarzeń jest w świecie AI obecnie bardzo, bardzo dużo. Można powiedzieć, że każdy kolejny tydzień przynosi nowe, bardzo ciekawe i zaskakujące nawet czasem wiadomości, więc w tym odcinku porozmawiamy sobie o tym, kim jest Devin, czym jest Gemini 1.5 Pro i jak ogólnie wpływa na to, jak będziemy pracować w przyszłości, co się pod tym kryje

Może nie piekła, czyściec przynajmniej w każdym razie. Chodzi o to, że teraz jesteśmy coraz bliżej rozumienia tego, o czym w zasadzie od dawna mówimy, że tak naprawdę te czynności, które są wykonywane teraz w miarę... Programowanie jest jeszcze bardziej naturalnym chyba językiem niż język nasz, naturalny, którym się porozumiewamy i którym mówimy. I to, że LLM-y zaczęło od języka tego naturalnego, którym się porozumiewamy, to nie znaczy, że nie mogą posługiwać się językami programowania. Wręcz przeciwnie, jest to dla nich dużo bardziej naturalne środowisko, jest to dużo łatwiejsze. No i oczywiście tak będzie. A w skrócie mówiąc o Devinie, to co jest imponujące, W tym projekcie no to jest to, że po raz pierwszy gdzieś tam możemy zaobserwować takie dosyć holistyczne podejście do programowania, bo do tej pory programiści mocno wspomagali się sztuką inteligencją na przykład z pomocą Copilota.

który po prostu pomaga w codziennej pracy pomaga generować pewne kawałki kodu pomaga generować komentarze pomaga generować opisy do na przykład repozytoriów czy na przykład rozwiązywać proste problemy które pojawiają się w kodzie i pokazywać informacje na ich temat ewentualnie jakieś proponowane metody ich rozwiązania natomiast do tej pory nie mieliśmy na Jakiegoś takiego fajnego dema, systemu, który mógłby kompleksowo pisać całe oprogramowanie, testować je, ulepszać i deployować jego nowe wersje. No i Devin jest takim, można powiedzieć, pierwszym dosyć kompletnym konceptem, któremu można po prostu powiedzieć to, co chcemy osiągnąć i on faktycznie różnymi sposobami spróbuje to zrobić. Może korzystać z różnych języków programowania, z różnych środowisk.

Co AI mówi szeptem czyli hackowanie modelu. Był w stanie osiągać dość imponujące wyniki, no ale rzeczywiście Devin okazał się projektem, który znacznie szerzej uderzył w tak naprawdę, ja bym powiedział, czuły punkt programistów, programistek, ponieważ ta wizja, w której AI jest w stanie realizować zadania za nas, wydała się w tym momencie znacznie bardziej taka namacalna.

Jednocześnie Devin w tym momencie potrzebuje dużo czasu na wygenerowanie odpowiedzi, popełnia dużo błędów. To z kolei przekłada się także na koszty. No i jednocześnie brakuje albo przynajmniej jest dość ograniczony interfejs pod kątem tego, żeby człowiek brał jeszcze w tym udział. Znowu każdy z tych problemów jest do rozwiązania i prędzej czy później zostanie to zaadresowane. Na przykład modelem Gemini 1.5 Pro, który Tak jak wspomniałeś umożliwia przetwarzanie jednorazowo ogromnej ilości treści. Dla porównania tutaj w przeliczeniu na tokeny wersja GPT-4 pierwsza wspierała bodaj 8 tysięcy tokenów, w tej chwili jest to 128 tysięcy.

Ale tutaj znowu powołuję się na rozmowę Jana Lekuna z Leksem Friedmanem. To jest jedna z ostatnich rozmów oraz w ogóle Jan Lekun, mam wrażenie, ostatnio na Eksie bardzo krytykuje duże modele językowe pod kątem tego, że według niego Taki Devin nigdy albo przynajmniej nie w najbliższej przyszłości do naszego życia nie będzie w stanie realizować zadań tak jak sobie to wyobrażamy. On jest teraz takim głosem powiedzmy krytycznym jeżeli chodzi o AI. Natomiast trzeba pamiętać, że też ma trochę w tym pewien interes bo on kieruje narrację w stronę małych modeli albo mniejszych.