Mentionsy Mentionsy
Data Zen AI Podcast (PL)
Data Zen AI Podcast (PL)

Jak Pisać Efektywne Prompty: Sekretne Techniki Oszczędzania Tokenów

18.03.2026 ·13 min 55 s

Jak zmniejszyć koszty korzystania z AI? W tym odcinku Data Zen AI Podcast wyjaśniamy, czym są tokeny oraz jak pisać prompty, które generują dobre odpowiedzi przy mniejszym zużyciu zasobów.Artykuł i materiały:https://datazen.top/podcast-ai-19#PromptEngineering #AI #LLM #DataZenAI

W takim świecie nikt nie używałby uprzejmości. Ludzie rzucaliby po prostu suche... Stacja. Szybko. Jasne. Zero lania złdy. I wiesz, to jest idealna ilustracja tego, jak dzisiaj tysiące zespołów programistycznych po prostu nieświadomie przepala potężne budżety na sztuczną inteligencję. Witam wszystkich. To jest program Data Zen AI, tworzony przez społeczność Data Zen Community. Cześć. Dzisiejsza analiza materiałów sprowadza się do jednego, bardzo konkretnego pytania. Zastanówmy się, co by było, gdyby można było obniżyć koszty użycia AI o równe 50%, po prostu zmieniając sposób pisania promptów. No brzmi to trochę jak taki tani chwyt marketingowy, muszę przyznać.

Też tak na początku myślałam. Ale opieramy się dziś na twardych danych. Mamy raporty od Mavic Labs, z Ratlidisa, analizy z 10 Clouds, AI Planet i nawet z Green Places. Sprawdzimy dziś, jak przejść od takiego drogiego gadania do taniej inżynierii. A to jest mega ważny kontekst, bo inżynieria promptów to już nie jest tylko kwestia uzyskania, wiesz, lepszej odpowiedzi od czata, to jest bezpośredni wpływ na budżet firmy, na szybkość działania całej aplikacji i przepustowość infrastruktury. Rozłóżmy to w takim razie na czynniki pierwsze. Zacznijmy od absolutnych fundamentów. Każdy, kto korzysta z modeli LLM, wie, że płaci się za jednostki zwane tokenami. Dlaczego ten system tokenów potrafi być aż tak zdradliwy?

Problem polega na tym, że często projektujemy aplikacje AI, jakby to były zwykłe wyszukiwarki, a modele językowe w ogóle nie czytają słów. One operują właśnie na tokenach. Czyli to nie jest relacja jeden do jednego z tekstem? Dokładnie nie. W języku angielskim jeden token to średnio cztery znaki, czyli powiedzmy takie trzy czwarte słowa. Ale tu wchodzi ważny niuans z danych AI Planet. Systemy tokenizacji np. OU OpenAI są stworzone pod język angielski. Czyli sam fakt, że wdrożony przez nas asystent obsługuje klientów po polsku, hiszpańsku czy japońsku, od razu podbija nam rachunek? Niestety tak. Ze względu na inną gramatykę, to samo zdanie w innym języku wymaga od 20 do nawet 30% więcej tokenów.

No dobrze, diagnoza jest dość brutalna. Tutaj robi się naprawdę ciekawie, bo musimy znaleźć na to konkretne techniczne rozwiązania. Jak pisać te prompty wydajniej? Z pomocą przychodzi nam ekstremalna kompresja. Machine Learning Mastery świetnie to opisuje. Zamiast pisać, twoim zadaniem jest przeanalizowanie poniżejszego tekstu, wystarczy napisać podsumuj. Po prostu jedno słowo. Tak, to oszczędza od 30 do 50% tokenów. Do tego warto używać ustrukturyzowanych formatów, na przykład JSON. Ale wiesz, tu muszę dopytać. Czy to zmuszanie AI do formatu JSON i takie brutalne skracanie nie sprawia, że tracimy te wszystkie niuanse?

Ale z AI to chyba nie zadziała, bo ludzie różnie formułują pytania. Dokładnie. I tu wchodzi cache semantyczny. Używa wektorów. Jeśli ktoś zapyta, jaka jest pogoda, a potem ktoś inny napisze, jaką mamy aurę, system widzi podobieństwo znaczeniowe. Nawet jeśli słowa są zupełnie inne. Tak. System zwraca gotową odpowiedź bez wywoływania modelu LLM. To pozwala zaoszczędzić nawet do 73% kosztów na API. 73% to jest przepość i jeszcze w notatkach mam coś o prompt catchingu od dostawców chmurowych. Tam trzeba pamiętać o kolejności. To jest kluczowe. Wszystkie stałe instrukcje dajesz na sam początek promptu, a zmienne, czyli to o co pyta użytkownik, doklejasz na samym końcu.

Czy w naszych projektach regularnie mierzymy koszty AI w przeliczeniu na pojedyncze zapytanie? No właśnie, rzadko się to robi. Czy zespoły optymalizują prompty pod kątem tokenów, czy tylko szukają lepszych odpowiedzi tekstowych? Odpowiednie projektowanie staje się powoli wymogiem na stanowiskach technicznych. Zdecydowanie tak będzie. Zostawcie proszę serduszko pod tekstem, to bardzo pomaga w tworzeniu takich materiałów. Mhm, dokładnie. I nie zapomnijcie subskrybować nas na Spotify, Apple Podcasts i YouTube. Ale zanim uciekniemy, mam wrażenie, że te wszystkie materiały prowadzą do jednego dość prowokującego wniosku. Zgadza się. Skoro kluczem do obniżenia kosztów są struktury JSON, wektory semantyczne i ekstremalna kompresja słów, to idziemy w bardzo dziwnym kierunku.

Pokazano wszystkie 6 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.