Co AI mówi szeptem czyli hackowanie modelu

Cześć wszystkim, witam was w kolejnym odcinku Rozmów na Autopilocie, czyli w podcaście, w którym razem z Adamem Gospodarczykiem rozmawiamy na naszej społeczności Ahoy o różnych bieżących tematach, głównie automatyzacji, AI i rzeczach, które zmieniają i wpływają na naszą produktywność. Dzisiaj porozmawiamy o tematach bardzo aktualnych. Już chwilę w zasadzie nie mieliśmy takiego Takiego podcastu, w którym omawialibyśmy bieżące wydarzenia, a tych wydarzeń jest w świecie AI obecnie bardzo, bardzo dużo. Można powiedzieć, że każdy kolejny tydzień przynosi nowe, bardzo ciekawe i zaskakujące nawet czasem wiadomości, więc w tym odcinku porozmawiamy sobie o tym, kim jest Devin, czym jest Gemini 1.5 Pro i jak ogólnie wpływa na to, jak będziemy pracować w przyszłości, co się pod tym kryje

No i jest w stanie to zrobić samodzielnie i dodatkowo wyobraź sobie, że możesz mieć takich Devinów na przykład No i co o tym sądzisz? Jak widzisz taką rzeczywistość? Nie tylko to sobie wyobrażam, ale też taka wizja rzeczywistości mnie w całości przekonuje i jestem też przekonany do tego, że faktycznie taką wizję rzeczywistości będziemy realizować. Myślę, że już w nie tak długim czasie. Patrząc również właśnie na nową wersję Gemini z dużym kontekstem, patrząc na Devina, który nie wiem czy ma przypadkową nazwę, czy kojarzy się z Devil, czy z innymi złymi rzeczami, które mogą spotkać programistów.

który po prostu pomaga w codziennej pracy pomaga generować pewne kawałki kodu pomaga generować komentarze pomaga generować opisy do na przykład repozytoriów czy na przykład rozwiązywać proste problemy które pojawiają się w kodzie i pokazywać informacje na ich temat ewentualnie jakieś proponowane metody ich rozwiązania natomiast do tej pory nie mieliśmy na Jakiegoś takiego fajnego dema, systemu, który mógłby kompleksowo pisać całe oprogramowanie, testować je, ulepszać i deployować jego nowe wersje. No i Devin jest takim, można powiedzieć, pierwszym dosyć kompletnym konceptem, któremu można po prostu powiedzieć to, co chcemy osiągnąć i on faktycznie różnymi sposobami spróbuje to zrobić. Może korzystać z różnych języków programowania, z różnych środowisk.

Co AI mówi szeptem czyli hackowanie modelu. Był w stanie osiągać dość imponujące wyniki, no ale rzeczywiście Devin okazał się projektem, który znacznie szerzej uderzył w tak naprawdę, ja bym powiedział, czuły punkt programistów, programistek, ponieważ ta wizja, w której AI jest w stanie realizować zadania za nas, wydała się w tym momencie znacznie bardziej taka namacalna.

Jednocześnie Devin w tym momencie potrzebuje dużo czasu na wygenerowanie odpowiedzi, popełnia dużo błędów. To z kolei przekłada się także na koszty. No i jednocześnie brakuje albo przynajmniej jest dość ograniczony interfejs pod kątem tego, żeby człowiek brał jeszcze w tym udział. Znowu każdy z tych problemów jest do rozwiązania i prędzej czy później zostanie to zaadresowane. Na przykład modelem Gemini 1.5 Pro, który Tak jak wspomniałeś umożliwia przetwarzanie jednorazowo ogromnej ilości treści. Dla porównania tutaj w przeliczeniu na tokeny wersja GPT-4 pierwsza wspierała bodaj 8 tysięcy tokenów, w tej chwili jest to 128 tysięcy.

Ale tutaj znowu powołuję się na rozmowę Jana Lekuna z Leksem Friedmanem. To jest jedna z ostatnich rozmów oraz w ogóle Jan Lekun, mam wrażenie, ostatnio na Eksie bardzo krytykuje duże modele językowe pod kątem tego, że według niego Taki Devin nigdy albo przynajmniej nie w najbliższej przyszłości do naszego życia nie będzie w stanie realizować zadań tak jak sobie to wyobrażamy. On jest teraz takim głosem powiedzmy krytycznym jeżeli chodzi o AI. Natomiast trzeba pamiętać, że też ma trochę w tym pewien interes bo on kieruje narrację w stronę małych modeli albo mniejszych.