Mentionsy

Ale zanim wiesz, przejdziemy do tych porównań, może przypomnijmy tak na szybko, czym właściwie jest LLM.

No więc, najprościej mówiąc, LLM, czyli duży model językowy, to jest taka zaawansowana sztuczna inteligencja, wytrenowana na gigantycznych zbiorach tekstów.

Pierwsza to skorzystanie z gotowych usług w chmurze, często określanych jako LLM as a service, czyli LLM us.

Tak, lokalne LLM-y mają tutaj zdecydowaną przewagę.

Chmurę, czyli LLMS, często wybierają startupy i małe lub średnie firmy.

Z kolei narzędzia jak OpenLLM pozwalają na wystawienie lokalnie uruchomionego modelu jako punkt końcowy API, często kompatybilny ze standardem OpenAI.

Gdzie uruchomić LLM dla naszego nowego projektu?

Wyraźnie widać, że decyzja o tym, gdzie zamieszka nasz LLM jest złożona i no cóż, nie ma jednej uniwersalnej odpowiedzi.