Mentionsy

Teraz, gdy bardziej LLM-owe, no to ma gigantyczne znaczenie, ile maszyn de facto użyjesz, szczególnie jeśli masz rozwiązania on-premise'owe na przykład i budujesz coś wewnątrz.

Tak samo teraz w LLOM-owym świecie, no jakby czy wszystko zrobisz LLM-em?

No można i będzie pewnie idealnie w wielu miejscach, żeby zrobić LLM, ale ci się to opłaca.

I no fajnie byłoby to zrobić wszystko LLM-em, ale koszt będzie gigantyczny, nie?

Dochodzi do takich fajnych dyskusji i właśnie jak zoptymalizować to, żeby ten przesłuch danych może był troszeczkę, ten kontekst window był mniejszy, żeby te, tak jak ostatnio mieliśmy taką dyskusję z naszymi inżynierami, w której gdzieś tam doszliśmy do wniosku, okej, no to zamiast jednego LLM tworzymy trzy LLM, które będą ze sobą funkcjonować, bo ten kontekst window trzeba tak skondensować, aby

Ja na przykład, jak masz LLM-y ostatnio chciałem się, jak transformery działają czy coś tam, zacząłem po prostu gadać, zgłębiać to prosić o wytłumaczenie każdej kolejnej koncepcji i naprawdę bardzo wiele był w stanie mi wytłumaczyć.