Mentionsy

I w tym momencie spadłem z takim jednym znajomym na pomysł, żeby może zrobić masterminda dla osób, które gdzieś siedzą z tym LLM-ami wtedy, bo wtedy był właśnie ten czat GPT.

Przed rozmową nie zapytałem cię jeszcze o Eleven Labs, które w tej chwili wszyscy znamy, rozwija właśnie inteligentnych konwersatorów, czyli opartych na LLM-ach.

Bo to jest takie AI nie właśnie LLM-owe, tylko oparte na takim deep learningu.

Nie ma tutaj miejsca na takie rzeczy, jak LLM wykonują, że to jest w pewien sposób token selektor, nie?

Wspomniałeś, że pracowałeś nad rozwijaniem tych interfejsów głosowych w krakowskiej firmie Edron dla różnych, jak rozumiem, klientów biznesowych, czyli różne sklepy, różne e-commerce'y przed już trzema laty, jeszcze przed wejściem LLM-ów.

No to zapytam się od razu, czy jak widzisz z perspektywy teraz dostępnych technologii, wspomnieliśmy tutaj już o Eleven Labs i tym podobnych rozwiązanych opartych na LLM-ach, które robią wrażenie, które są sprzedawane, promowane, obiecywane jako przyszłość w ogóle e-handlu i w ogóle interakcji, czy to z usługami, czy to z produktami.

I to jest też takie ciekawe usprawnienie, bo jakby patrzymy też na takie usprawnienia super technologiczne, LLM-y, ale czasami takie proste rzeczy zmieniają bardzo wiele.

Natomiast powiedziałeś, że na to, na co musimy uważać, to jest wykorzystanie AI opartego, czy to, jak rozumiem, na tych LLM-ach, czy to na innych rozwiązaniach tradycyjnych, technologicznych do obsługi klienta, tak?

Aha, ale to jest oparte na LLM-ie?

Ale myślisz, że to jest tak zwany RAC, że to jest po prostu LLM podpięty pod wielką bazę danych Amazona i że po prostu?

Ale to ja słyszę, że, ja słyszę znowu, jako powiedzmy taki, no trochę bardziej zorientowany, ale jednak laik, tak, że teraz, jeżeli ja mam sklep, ja sprzedaję swoje usługi przez internet, no to jeżeli mamy LLM-y, czy to Gemini'a, czy to, czy to Claude'a, czy to, czy to powiedzmy...

Dzięki LLM-om.

Ale to nas kieruje w ogóle, od razu powiedziałeś o perplexity, no bo jednym z kierunków rozwoju LLM, oczywistym, jest to, że ludzie, jak się przyzwyczajają do korzystania z tych interfejsów, no to zaczynają traktować to jako wyszukiwarki produktów, tak?

Jest już to możliwe dla mnie poprzez LLM-y.

I wiecie, przez jedną edycję tego nowych LLM-ów będę jednym z większych producentów.

żeby mój sklep sprzedaje buty, sprzedaje ciuchy, sprzedaje drzwi, zaczął funkcjonować domyślnie jako odpowiedź w ofercie generowanej przez LLM-a, czyli mówiąc już bardzo prostym językiem, żeby się pokazywał moim klientom przez te generatywne wyszukiwarki, jakimi są LLM-y.

to biorąc pod uwagę ten czas trenowania, tą epokę, jeśli chodzi o trenowanie LLM-ów, to ja potrzebuję wygenerować miliony tekstów i to najlepiej powiedziałeś człowiekiem, bo teksty generowane maszyną, maszyna rozpoznaje jako generatywne.

Niekoniecznie człowiekiem, może być generowane LLM-ami.

Wiemy, że wykorzystuje to też ISIS w tej chwili do tworzenia propagandy, czyli też walki o motywację, walki o umysły użytkowników LLM-ów.

Czyli tworzenie opartych na LLM-ach, tak?

Wtedy trzy lata temu, jeszcze bez LLM-ów.

Jeszcze bez LLM-ów.

No bo LLM-y nieuchronnie halucynują, tak?

Z drugiej strony mamy evalsy, czyli ewaluację w odpowiedzi, którą dał nam LLM, czyli sprawdzamy, czy on nie spróbował sprzedawać, sprawdzamy jakieś tam inne rzeczy.

Oczywiście te ewaluatory bardzo często nie są oparte o LLM.

Ja z tyłu głowy już tutaj między wyszami powiedzieliśmy, wiem mniej więcej jak to zrobić, z kolegą siądę i zrobimy na LLM-ie.

Ale właśnie spółki, czy to jest tak, że każdy sam musi sobie znaleźć takiego kogoś, kto mu pomoże zbudować w oparciu o jego stronę, jego ofertę, jego bazę klientów, jego historię zapytań RAGI, czyli dokumenty, które podpina następnie pod LLM-a i tutaj oczywiście jest kwestia bezpieczeństwa danych,

Ja słyszałem taką interpretację, że w ogóle te wszystkie głębokie wyszukiwarki od Perk Plus City począwszy przez te tryby głębokiego wyszukiwania w chatbotach, pozostałych LLM-ach, one są projektowane jako właśnie alternatywa dla Google'a.

Jeżeli to jest klient, który korzysta z konkretnego LLM'a, typu Perplexity czy Gemini, no to oczywiście oni będą zarabiać sobie na tych informacjach.

Te tradycyjne technologie, jeszcze nie LLM-y.

To jest jeden z wątków, który tutaj warto uświadamiać, że my odsłaniamy się też na manipulacje ze strony różnych wykorzystujących też LLM-y ośrodków propagandy po prostu.

To jest dzisiaj ta stawka, żeby być widocznym dla tych crawlerów, które gromadzą dane do treningu dla LLM-ów.

To ci będzie, LLM ci będzie generował kontent marketingowy.

My mieliśmy rozmowę kapitalną, zresztą bardzo chętnie oglądaną z Ewo Hartmann o tym, jak interakcje z AI generatywnym, z LLM-ami wpływają na nasz mózg.

Ale to jest bardzo blisko, no bo gdzieś na końcu rozmawialiśmy dzisiaj o takiej perspektywie, że technologie oparte na LLM-ach, czy szerzej na AI-u generatywnym, także głosowym, będą coraz bardziej obecne, mówimy wszechobecne.