Better Dev Club #42 - Modele decyzyjne: Jev, Microsoft (na Qwenie) i co dalej?

Cześć Piotrek. Cześć Kajtek. Piotrek, wiesz czym się różni model decyzyjny od szefa? Nie mam blarego pojęcia. Model decyzyjny zawsze bierze pod uwagę dane, a szef nie do końca. No, oczywiście chyba coś w tym jest. Ty jesteś szefem, z tego co pamiętam, to musisz to ocenić we własnym serduszku. O nie! I teraz, no różnie to bywa. Ale teraz widzisz, dzięki modelom decyzyjnym może być łatwiej, bo za każdym razem jak ktoś w zespole zada pytanie, to faktycznie będzie łatwiej podejmować decyzje, bo będą one oparte o konkretne dane. Ale dlaczego o tym mówimy? No dajesz, dlaczego o tym mówimy? Dzisiaj ty prowadzisz...

Dzisiaj ja prowadzę, no niech będzie, no bo nasza ukochana firma, jaką jest Microsoft, którą serdecznie pozdrawiamy wszystkich, których znamy z Microsoftu, wypuścił oczywiście nowy model, model decyzyjny, czyli Microsoft Decision One. I nie jest to specjalna nowość, jeśli chodzi w ogóle o cokolwiek. Co, znowu Ci się nazwa nie podoba? Nazwa jest świetna. Nie, nie, nazwa spoko, ale zacząłeś od tego, że w ogóle od modelu z Microsoftu zamiast o tym, o którym wszyscy mówią, chcesz nas bić na sam dół YouTube'a? Ale, no bo właśnie do tego chciałem przejść, no spokojnie, bo właśnie Microsoft wypuścił Microsoft Decision One jako konkurencja dla tego najbardziej znanego, czyli Jeva.

Natomiast Grono osób kompletnie nie rozumie w ogóle jaka jest różnica pomiędzy modelem decyzyjnym a LLM-em i zaczynają porównywać. Bardzo możliwe, że to jest kwestia tego, że po prostu w swojego agenta wrzucili artykuł na temat Microsoft Decision One, gdzie sam Microsoft porównuje Microsoft Decision One do modelu GPT. No i to wiadomo, że to będzie wielki rozjazd. Natomiast i w pierwszej wersji tego artykułu nie porównali sami siebie do Jeva. I to kolejny strzał w kolano, ale na szczęście już poprawili ten artykuł, poprawili te informacje.

Dosłownie dwa posty i tyle. To ja widziałem bardzo dużo postów na temat Decision One, natomiast w większości to właśnie były posty, Że teraz według Microsoftu zaczyna się era małych modeli, które będą specjalizowane w czymś tam. I według Microsoftu nie powinniśmy już używać GPT-Astra, tylko powinniśmy się skupić i fine-tunować Decision One. I myślę sobie, Boże drogi, jakie jest wielkie niezrozumienie w ogóle całego pojęcia. Jesteś w jednym kawałku Invernetu niż ja, zdecydowanie.

Modele decyzyjne nie są niczym nowym, natomiast teraz troszeczkę też działają w nieco inny sposób niż działały wcześniej. Jak działa Microsoft Decision One? To nie jest zupełnie nowy model, tylko jest to model decyzyjny przygotowany na podstawie modelu Qwen. I to jest ten kawałek internetu, w którym ja byłem. Microsoft nie zrobił swojego modelu, on zrobił fine tuning Qwena. Ale też przyznają, że to jest jakby pierwsze podejście, bo są już w trakcie fine-tunowania swoich modeli typu Thinking One i innych ze stajni Microsoft AI.

Co nam to zmienia, że mamy takie modele decyzyjne? Skoro mieliśmy LLM-y, one też potrafiły podejmować decyzje. Odpowiadając na Twoje pytanie, co nam to zmienia? W zasadzie zupełnie inny mechanizm podejmowania decyzji, bo w przeciwieństwie do LLM-ów takie modele są szybkie. Czyli przestajemy liczyć odpowiedzi w grube sekundy, tylko zaczynamy liczyć odpowiedzi w milisekundy. Czyli jak gdyby jesteś w stanie spytać swojego szefa i to ja muszę pomyśleć, przyjdę do Ciebie z decyzją jutro, tłumaczę scenę ludzki, tylko szef Ci mówi od razu tak, nie, nie. To jest chyba ta podstawowa różnica, w której rzeczywiście to działa.

To mniej więcej chyba taki jest Sposób porównania. I to się nadaje do jedzenia, i to się nadaje do jedzenia, i to ma jakieś zalety, i tamto ma jakieś zalety, nie? No bo wiadomo, że Apple a day keeps doctor away, jak już jestem w temacie medycznym, a kanapka z szynką jest po prostu fajna i smaczna, chociaż może lepiej z kurczakiem, bo to białko. Koniec chciałem. Natomiast to, co mi się nie podoba, że tak, przepraszam, jadę cały ten, to ja ci zadam trudne pytanie. Wytłumacz mi, co się dzieje na rynku, że nagle wszyscy jadą na Qwenie. To jest bardzo dobre pytanie, bo to oczywiście jakby powiedziałeś, powiedziałeś o tym nie przez przypadek prawdopodobnie, bo Decision One nie jest jedynym modelem decyzyjnym, który będzie oparty na Qwenie, jeśli dobrze pamiętam, bo jest jeszcze Drex, tak?

Dobrze kojarzę? I on też jest oparty na... Nie, Drex jest chyba na własnej. Wydawało mi się, że Drex chyba też jest na jakimś chińskim, ale dobra, nie ma to znaczenia. W każdym razie faktycznie coraz więcej jest budowanych właśnie na Qwenie. Może to być kwestia tego, że one są bardziej otwarte wbrew pozorom, jakby bardziej niż te amerykańskie. Może to jest kwestia, kurcze nie wiem, ale to jest w ogóle bardzo ciekawa decyzja ze strony Microsoftu, że właśnie wziął akurat Qwena, bo no właśnie, oni jednak są amerykańską spółką, mimo że globalną, ale amerykańską i to może mieć ciekawe konsekwencje też w najbliższym czasie.

Ale to też jest jakby powiedziane, nie wypowiedziane, ale powiedziane, że te modele są warte bardzo szczególnej uwagi. Jakby nie powinniśmy ich ignorować na rynku. To ja coś powiem, tu mam takie widać, u mnie czasem, przepraszam, nie ta ręka, tu widać takie ten, jest to Microsoft MVP, Kary tam zresztą też, ale powiem coś bardzo brzydkiego, Microsoft bardzo dobrze, tak bym to określił, dobra moment Poinformowania, że jest Microsoft Decision One. Idealnie tego samego dnia, kiedy okazało się, że Jeff dostał, nie pamiętam ile tam milionów dolarów, dużo, w pizdu.

Naprawdę nie mógł popracować chwilę i zbudować swój własny, oparty na swoim. No widać nie mógł, nie? Jak gdyby widać nie mógł, Microsoft nagle rusza do walki ze startupem. No chyba startupem, to nawet takim małym startupem. Wiem, że ma teraz olbrzymiowe ceny, nie? I pod spodem jest koleś, który w ogóle nie wiadomo co tam zrobił i w ogóle w tej branży to w ogóle cuda zrobił i tak dalej. Jak o tym pomyślisz, Dobra, bardzo bym chciał, żebym był właścicielem takiego startupu i to wymyślił i coś takiego zbudował, no ale usiadło kilku koleś zajebistych mózgów, powiedzmy sobie to szczerze. Nie wiem, tam mówiąc szczerze, jak gdyby skład, jak duży jest, jak jest diversity i w ogóle różne dziwne rzeczy, no ale usiedli jak gdyby

Grupa ziomali, ziomalek, nazwijmy to, w piwnicy zakopali się na pół roku i zrobili coś jak gdyby fajnego. A duża firma, olbrzymia firma potrzebuje to wydać na już. Do tego chyba wjechało też coś od OpenAI, ale wcale nie jestem pewien. Też chyba wjechało OpenAI Decisions, ale może się mylę, może coś pomyliłem. O tym nie słyszałem. A może widziałem tylko zajawkę. Nagle internet odkrył, że to w ogóle jest istniejące. Jest jeszcze polski przykład, to pamiętam, on się chyba Basar nazywa, albo coś takiego.

Dla Microsoftu to jest strzał bardzo dobry, tak wbrew pozorom, pomimo tego, w jaki sposób to zrobili, ale Microsoft bardziej stawia właśnie na komunikaty do osób, które tworzą Aplikacje oparte o agentów, może w ten sposób? Albo które właśnie tworzą systemy multiagentowe. No bo tak, no jakby troszeczkę inaczej masz to w momencie, w którym oni cały czas mówią, możesz to zachostować u nas na Foundry i wpleść to w swoje aplikacje, w swoje workflow swoich multiagentów. A co innego jest, jak Antropic daje jakiś sygnał nowy albo OpenAI daje jakiś nowy sygnał.

W którym mówi właściwie dawaj do naszej aplikacji desktopowej albo do naszego terminala tam jest wszystko czego potrzebujesz w ogóle się tym nie przejmuj. To tam się modele to się będą już zaraz same zamieniać jak będzie potrzeba. Ty się nie przejmuj to sobie po prostu tam promptuj. Płać co miesiąc i będzie gitara. Więc te komunikaty są w tej chwili troszeczkę inne i trochę na innych odbiorcach się te firmy skupiają. A Microsoft, realnie mam ostatnio wrażenie, Może to jest znowu jakaś bańka, w której mnie nie ma, ale Microsoft tak trochę przycichł z informacjami na temat GitHub Copilota, a trochę bardziej właśnie idzie w stronę Copilot Studio, Foundry i to, żeby te swoje modele tam zachostować i w tym widzą znowu kolejny biznes, a nie w tym, żeby ludzie korzystali z Copilota i wykupowali subskrypcje.

A nie wiem, wiesz co, ja to mam wrażenie, że jak tu nam się będzie chciało montaż, to wklejemy tutaj ten znany odcinek jak wygląda struktura Microsoftu, czyli wszyscy do siebie strzelają. Ja to mam wrażenie, że się po prostu nic nie zmieniło i w ogóle jesteśmy w tym samym miejscu zawsze z Microsoftem. Ale no, ale dobra, nie? W sensie jak gdyby... Dobra, chyba nie chce mi się aż tego komentować. W sensie to jest aż tak typowe dla Microsoftu, że chyba mi się nie chce, że nagle zmienili ten i nagle wpychają innego Copilota. Nazwaliby inaczej te produkty, chociaż byłoby wygodniej wewnątrz firm rozmawiać. A o jakiego Copilota Ci chodzi?

Dla mnie to takie modele, jeżeli będą zrobione rzeczywiście szeroko, to one nam znowu uchylą jakiś drzwi. I jak ktoś będzie miał pomysł, To świat stoi otworem. Może to my będziemy... czekaj, możemy jakiś startup teraz wymyślić. Może w końcu. To jakbyście za tydzień nas nie usłyszeli, to znaczy, że dostaliśmy finansowanie. Ale dopóki tego finansowania nie dostaniemy... Ja mam pomysł na startup. Nie mów. Nie mów. Nie, nie, powiem wszystkim. Przyjmowanie I pamiętajcie, jak zaimplementujecie, to ten, który przyjdzie od Stapa i Kajtka, bo my żeśmy to wymyślili, deal jest.