Better Dev Club #42 - Modele decyzyjne: Jev, Microsoft (na Qwenie) i co dalej?

Dzisiaj ja prowadzę, no niech będzie, no bo nasza ukochana firma, jaką jest Microsoft, którą serdecznie pozdrawiamy wszystkich, których znamy z Microsoftu, wypuścił oczywiście nowy model, model decyzyjny, czyli Microsoft Decision One. I nie jest to specjalna nowość, jeśli chodzi w ogóle o cokolwiek. Co, znowu Ci się nazwa nie podoba? Nazwa jest świetna. Nie, nie, nazwa spoko, ale zacząłeś od tego, że w ogóle od modelu z Microsoftu zamiast o tym, o którym wszyscy mówią, chcesz nas bić na sam dół YouTube'a? Ale, no bo właśnie do tego chciałem przejść, no spokojnie, bo właśnie Microsoft wypuścił Microsoft Decision One jako konkurencja dla tego najbardziej znanego, czyli Jeva.

I Jev, tutaj też się dużo rzeczy zadziało, bo dostał spore finansowanie, jak wszyscy oprócz nas niestety na tym rynku, ale dużo się dzieje. I ja muszę się na dobry początek podzielić jedną rzeczą. Widać, szczególnie właśnie przy tych publikacjach, Jak dużo mamy ciekawych person na LinkedInie i innych social mediach, które nazywają się osobami, które ogarniają AI, które edukują z AI, które chcą edukować z AI i robią najróżniejsze inne rzeczy. Niektóre na szczęście są jeszcze nazywane, znaczy same siebie nazywają entuzjastami AI, ale wiemy jakie mają aspiracje.

Natomiast Grono osób kompletnie nie rozumie w ogóle jaka jest różnica pomiędzy modelem decyzyjnym a LLM-em i zaczynają porównywać. Bardzo możliwe, że to jest kwestia tego, że po prostu w swojego agenta wrzucili artykuł na temat Microsoft Decision One, gdzie sam Microsoft porównuje Microsoft Decision One do modelu GPT. No i to wiadomo, że to będzie wielki rozjazd. Natomiast i w pierwszej wersji tego artykułu nie porównali sami siebie do Jeva. I to kolejny strzał w kolano, ale na szczęście już poprawili ten artykuł, poprawili te informacje.

Ktoś im zwrócił uwagę też, że chyba jednak powinni tego Jeva opublikować jako swojego konkurenta. No i wyszło, że i tak jest całkiem nieźle, to znaczy ten model sobie bardzo dobrze radzi, ale właściwie z czym on sobie radzi właśnie? Czym, powiedzmy, albo może ty powiesz, czym jest właściwie model decyzyjny? No co, ja w ogóle się zgubiłem, wiesz, w ogóle właśnie dotarło do mnie, że ty jesteś w zupełnie innym miejscu sosialnych mediów niż ja, pomimo to, że teoretycznie zajmujemy się, słuchaj, tym samym. Prowadzimy razem podcast. W ogóle nie zobaczyłem tego artykułu. Tak jak o Jev'ie to po prostu zalany jestem. O Microsoftzie widziałem dwa posty.

Ale zaraz, moment, bo chodzi mi o to, żeby jeszcze powiedzieć, to jest nowe podejście, troszeczkę inne, gdzie pod spodem jednak jest ten duży model, tylko on jest odpowiednio przygotowany i my mieliśmy wcześniej już, zanim się pojawił Jev, mieliśmy takie podejście powiedzmy do czegoś takiego, bo było coś takiego jak LLM ze Structured Output. To znaczy mogliśmy skonfigurować sobie agenta, który mógł odpowiadać w sposób ustrukturyzowany, czyli realnie mógł nam zwrócić Jasona. Tyle, że mimo wszystko u podstaw tego był LLM, który jako taki nie działa w ten sposób jak model decyzyjny, to znaczy on bierze sobie odpowiedź i generuje token po tokenie i kolejny token

Moja żona naprawdę jest ekspertem, nie? W sensie tak jak ja się śmieję, że ja to jestem tam małym trybikiem, nie? Tam część z nas jak gdyby tam może spojrzeć na moje osiągnięcia czy coś tam. Nie, jak gdyby ja przy mojej żonie, jej znajomości w kwestii zabytkowych, jej wąskiej specjalizacji oczywiście, ja tam jestem, niekim jestem. Ona jest po prostu jak gdyby bossem. Takie modele decyzyjne to może właśnie niektóre rzeczy byłyby trochę łatwiejsze. W sensie, że przynajmniej miałabyś szansę dostać się od razu, pominąć Kolejkę pod tytułem lekarz pierwszego kontaktu, specjalista stopnia pierwszego, specjalista stopnia drugiego, pan profesor stopnia trzeciego.