Mentionsy

Teraz pewnie trzeba byłoby tu dodać jeszcze AI czy LLM.

Kiedyś AI równa klasyczny ML, teraz AI równa się LLM, ale warto pamiętać, to już mówiliśmy też przed podcastem, że LLM to też ML, tylko on faktycznie znacząco się różnie, więc wygląda jako coś odwzorownego, ale to cały czas machine learning pod spodem.

Mimo tego, że wydaje się często logiczne, że chcemy mierzyć, chcemy mieć jakieś miary, to często jak obserwujesz realne projekty związane z LLM i pytasz, w jaki sposób mierzycie jakość, to zwykle to pytanie zaskakuje.

I ważna jest taka myśl, że nie ma idealnych rozwiązań, LLM zawsze się myli, ale jest jakiś akceptowalny poziom dla biznesu.

Ale ciekawe, że on pewnie to ogólnie, właśnie to a propos LM, jak on działa.

Więc to tak działa LM.

Bo większość rzeczy będą automatycznie generowane, tworzone, ale... Z czym ma problem AI i LLM ogólnie rzecz biorąc?

I jakbym poznał go cały czas z różnych stron, te różne LLM'y testujemy.

Na przykład w naszym labie mamy ponad 200 modeli LLM i to cały czas sprawdzamy, testujemy.

I z jednej strony ja nie mogę powiedzieć, że LLM nie jest kreatywne albo nie rozumie swoje problemy, ale z drugiej strony ta kreatywność jest bardzo ograniczona.

I jeżeli my tak myślimy o rozwiązaniach, jak oni będą powstawać, to LM będzie generować kod na 100%.

Natomiast LM ma duży kłopot, żeby zrozumieć, co dokładnie ma wygenerować.

Tym bardziej teraz, kiedy masz LLM, jak na czymś się nie znasz, zawsze możesz podpytać w ten czy inny sposób.

I to jest taki przykład, gdzie LM się myli, że dla niego on potem powie, oj, przepraszam.

A LLM jakby nie ma emocji i dla mnie na tyle to jest taka ulga, że mogę zawsze z nim porozmawiać, odbyć myśli i on zawsze jest gotowy mi odpowiadać, więc to jest niesamowite.

Ale pomyślmy inaczej.

Przykład, jak pojawił się LLM, to co my zrobiliśmy, to wciągnęliśmy te wszystkie hasła, które brzmiały dookoła, zaczynając od GPT 3.5, te modele, później bazy wektorowe, jeszcze grafowych nie było, ale jakieś tam inne zaczęły się pojawić, grafowe, w sensie pluswektory.

Ale to jest mniej istotne, bo znacznie trudniej będzie później taką osobę zmienić jej stan umysłu, który jest w tej chwili świetny, nie wiem, w Pythonie, w ML-u, ale nie chce na przykład zobaczyć, że LM sporo rzeczy automatyzuje.

Mamy jakieś dane tabularne, tam są konkretne kalumny i jakaś odpowiedź, czy ten klient kupił, nie kupił, albo czy jakaś będzie cena na coś, albo czy ktoś jakiś film ogląda, czy nie będzie oglądał i tak dalej.

Software 3.0, koncepcja, którą my wkładamy, to jest tak, że w środku jest LLM, który jest niestabilny i dookoła musimy go ustabilizować i to robimy przy pomocy Software 1.0.

LM jest na tyle problematyczny, na tyle fatalny, że nikt by tego nigdy w życiu nie używał, jakby to nie byłby aż tak piekielnie użyteczne.

Czyli faktycznie LM pokazuje duże możliwości i hype zwykle się na tym skupia, ale ma też duże problemy, jeżeli chodzi o niepowtarzalność.

Bo tam LM jest w środku i on robi pewne rzeczy.

LLM w środku, no tam akurat z stabilizacją jest gorzej, ale mniejsza.

De facto nawet Cloud Code jest w stanie takie rzeczy już generować, jeżeli chodzi o proste projekty, ale możemy też sobie wyobrazić, że możemy stworzyć swój własny taki silnik, swój własny taki kawałek oprogramowania systemu, w którym w środku jest LLM,