Mentionsy

I tutaj zaczęliśmy testować, czyli trochę partyzancko, podeszliśmy do tego i zobaczyliśmy po prostu w świecie zakupów, co te LLM w ogóle nam dają, jak streszczają teksty, jak piszą umowy, jak piszą dokumenty RFP i od tego to się zaczęło.

Dla LLM-ów.

Chociaż już teraz od początku roku też wiem, że tam w obszarze takiej sczytywania jasnych tekstów też LLM-y bardzo do przodu poszły, bo to nie jest tak, że to od początku one miały tę możliwość.

Też to, co już te LLM pochłonęły, no to się też ogranicza.

To prawda i takie firmy na przykład jak Google, no mają przepotężną bazę tych informacji, choćby nawet z samej wyszukiwarki tak naprawdę, z samego programu Google Ads, gdzie mają dokładne zwyczaje zakupowe konsumentów, więc biorąc pod uwagę wszystkie te usługi, z którymi już korzystaliśmy wcześniej, przed istnieniem tych LLM-ów, to jest potężna baza informacji i samo przetrenowanie tych modeli

Także w tym punkcie warto powiedzieć, że LLM ogólnie nie lubią liczb.

LLM-y kochają tekst i dodawać następne słowo, tak?

To nie jest tak, że sam LLM robi nam ogromne kalkulacje, bo jak się takie poczyta jeszcze z początków, gdzie te LLM jeszcze były takie nagie, można powiedzieć, no to takie proste liczenie były często wyzwaniem dla LLM-ów.

Nadal jest dla tych czystych LLM-ów bez narzędzi.

Nawet jak się przypomni kilka lat wstecz, jak się wrzucał jakiegokolwiek Excel, jak już w ogóle się pojawiła możliwość wrzucenia pliku do LLM-u, no to on zazwyczaj odpowiadał coś w stylu...

Ponieważ pracowaliśmy w kontekście właśnie tych dużych plików, dużych ofert, mieliśmy na przykład wyzwania, żeby w ogóle LLM-y, i to nie mówię tutaj, że wrzucaliśmy to do chat GPT, mieliśmy rzeczywiście taki playground zrobiony w Pythonie, gdzie mogliśmy nieograniczone ilości danych...

Od LLM-a do LLM-a bardzo różnie z czytaniem plików, dużych plików sobie radziły.

I myślałem, że po prostu, a podłączycie tutaj LLM-a, tutaj napiszecie trochę kodu dookoła i to będzie działać.

I oczywiście na naszych LLM-ach, że to nasze koszty są od trwania LLM-ów.

Jakieś dostosowanie ogólnodostępnych LLM-ów do wszelkiego rodzaju zastosowań, tych, które opisywałeś, czyli na przykład porównywanie ofert, wyszukiwanie dostawców są w pełni wystarczające.

Można to też zrobić całkowicie poza Zapierem, czyli po prostu napisać sobie taki plik jasonowy, nawet LLM może to napisać i to też w miarę dobrze działa, ale to jest troszkę bardziej skomplikowane, jak się ktoś chce zmienić, coś wyrzucić, jakąś funkcjonalność dodać.

Czy da się prewencyjnie łagodzić ryzyko używając LLM-ów w tym obszarze?

Dopóki te dane nie są po prostu ogólnie dostępne, że po prostu każdy LLM wejdzie i zobaczy, przeczyta, no to współpraca jednak z takimi firmami będzie nadal według mnie potrzebna.

Ale jeżeli się już decydujemy pójść w zrobienie takiego ogólnego researchu z pomocą LLM-ów, to jak Twoim zdaniem można ocenić wiarygodność tych danych?

On też opisywał bardzo szczegółowy sposób, jak te LLM-y powinny operować.

Najbardziej już zaawansowany biznesowo to jest kontrakt management, czyli ogólnie praca z umowami, czy to mówimy już o workflow, czy tworzenie dokumentów, analizowanie, ponieważ LLM-y uwielbiają tekst, a umowy to jest tekst, to po prostu te aplikacje, które już na rynku były od wielu lat.

Oczywiście LLM są tutaj potężnym narzędziem, jeżeli umieją wyciągnąć wnioski, obliczyć to jak najbardziej.

Tak, ale do komunikacji, do negocjacji już też można używać LLM-y.

Potem może jeszcze wrzucę do jakiegoś fine tuningu to w LLM, żeby to wygładzić, ale de facto nawet wrzucam to do przetłumaczenia i to jest dla mnie okej.

I to jest przyjemniejsze, bo tak jak mówisz, de facto jak się takie już stricte, czyste, LLM-owe teksty widzi i czyta, to po dwóch pierwszych zdaniach można wyczytać po sekwencji słówek, zdań.