Mentionsy Mentionsy
Data Zen AI Podcast (PL)
Data Zen AI Podcast (PL)

Jak Pisać Efektywne Prompty: Sekretne Techniki Oszczędzania Tokenów

18.03.2026 ·13 min 55 s

Jak zmniejszyć koszty korzystania z AI? W tym odcinku Data Zen AI Podcast wyjaśniamy, czym są tokeny oraz jak pisać prompty, które generują dobre odpowiedzi przy mniejszym zużyciu zasobów.Artykuł i materiały:https://datazen.top/podcast-ai-19#PromptEngineering #AI #LLM #DataZenAI

W takim świecie nikt nie używałby uprzejmości. Ludzie rzucaliby po prostu suche... Stacja. Szybko. Jasne. Zero lania złdy. I wiesz, to jest idealna ilustracja tego, jak dzisiaj tysiące zespołów programistycznych po prostu nieświadomie przepala potężne budżety na sztuczną inteligencję. Witam wszystkich. To jest program Data Zen AI, tworzony przez społeczność Data Zen Community. Cześć. Dzisiejsza analiza materiałów sprowadza się do jednego, bardzo konkretnego pytania. Zastanówmy się, co by było, gdyby można było obniżyć koszty użycia AI o równe 50%, po prostu zmieniając sposób pisania promptów. No brzmi to trochę jak taki tani chwyt marketingowy, muszę przyznać.

Też tak na początku myślałam. Ale opieramy się dziś na twardych danych. Mamy raporty od Mavic Labs, z Ratlidisa, analizy z 10 Clouds, AI Planet i nawet z Green Places. Sprawdzimy dziś, jak przejść od takiego drogiego gadania do taniej inżynierii. A to jest mega ważny kontekst, bo inżynieria promptów to już nie jest tylko kwestia uzyskania, wiesz, lepszej odpowiedzi od czata, to jest bezpośredni wpływ na budżet firmy, na szybkość działania całej aplikacji i przepustowość infrastruktury. Rozłóżmy to w takim razie na czynniki pierwsze. Zacznijmy od absolutnych fundamentów. Każdy, kto korzysta z modeli LLM, wie, że płaci się za jednostki zwane tokenami. Dlaczego ten system tokenów potrafi być aż tak zdradliwy?

Model musi dzielić nasze polskie słowa na mniejsze, nienaturalne kawałki. No dobrze, ale to jest tylko wstęp do kosztów. Z naszych materiałów wynika, że prawdziwa pułapka finansowa to różnica między tym, co wysyłamy do modelu, a tym, co on nam zwraca. Tak, to jest tak zwana asymetria cenowa. Faza wejściowa, czyli nasz prompt i cały ten wklejony kontekst jest nazywana fazą pre-fill. I z tego, co czytałam, to jest ta tańsza część rachunku. Z czego to technicznie wynika? Wynika to bezpośrednio z kart graficznych w serworowniach. Faza wyjściowa może być przetwarzana równolegle. Procesor widzi cały twój tekst od razu i mieli go w jednym momencie. Jasne. Ale faza wyjściowa, czyli dekodowanie, działa sekwencyjnie.

Tak. Ale jeśli będziemy grzeczni i napiszemy, czy mógłbyś mi dostarczyć kompleksowy przegląd moich zaplanowanych spotkań na dziś, to już jest 18 tokenów. Wynik ten sam, a koszt rośnie dwukrotnie. I tu ktoś mógłby powiedzieć, no, zaraz. No właśnie. Czy my tu nie liczymy jakieś groszy? To są ułamki centów. Zastanawiałam się, czy naprawdę warto marnować czas programistów na obcinanie sylab. Wiesz, jeśli spojrzymy na to z szerszej perspektywy, to te ułamki centów tworzą gigantyczne problemy w skali. Redis przeanalizował bota e-commerce, który obsługuje milion konwersacji w miesiącu. Milion to już sporo. Dokładnie. Kiedy ten bot działał na długich, przegadanych promptach, rachunek wynosił 3250 dolarów.

O rany. A po kompresji zapytań i zmianach, ten sam milion rozmów kosztował niespełna 200 dolarów. Ponad 3000 dolarów miesięcznie w kieszeni, tylko dzięki zmianie tekstu. Niesamowite! Ale jest jeszcze jeden wątek, o którym myślałam czytając raport Green Places. Wątek ekologiczny. No tak, to jest temat, o którym mało kto mówi. Przetworzenie miliona tokenów, czyli około jednego dolara kosztu na serwerach, emituje tyle dwutlenku węgla, co przejechanie samochodem spalinowym 32 km. Każdy bezsensowny prompt to dosłownie spaliny. Zgadza się. To są kilowatty prądu i woda do chłodzenia serwerów. Więc skoro wiemy, że to takie drogie i szkodliwe, to musimy sprawdzić, gdzie te tokeny nam uciekają w codziennej pracy.

Czyste marnotrawstwo, ale prawdziwe czarne dziury budżetowe to chyba systemy RUG, prawda? Czyli to wyszukiwanie w wewnętrznych dokumentach firmy. Tak. Zjawisko nazywane Oversized RUG. Załóżmy, że pytasz wewnętrznego bota o to, jak zresetować hasło do poczty. A system pobiera z bazy wiedzy cały podręcznik bezpieczeństwa IT mający 10 stron i wrzuca go w całości do promptu. To jakby pójść do lekarza po plaster na skaleczenie i przynieść mu swoją kartę medyczną od dnia narodzin. Świetne porównanie. I płacisz za to, że model czyta o szczepionkach z dzieciństwa, żeby dać ci plaster. Koszmar. I jeszcze jest kwestia braku limitów na wyjściu. Nie dajemy twardych ram i model z uprzejmości pisze cztery akapity podsumowania.

No dobrze, diagnoza jest dość brutalna. Tutaj robi się naprawdę ciekawie, bo musimy znaleźć na to konkretne techniczne rozwiązania. Jak pisać te prompty wydajniej? Z pomocą przychodzi nam ekstremalna kompresja. Machine Learning Mastery świetnie to opisuje. Zamiast pisać, twoim zadaniem jest przeanalizowanie poniżejszego tekstu, wystarczy napisać podsumuj. Po prostu jedno słowo. Tak, to oszczędza od 30 do 50% tokenów. Do tego warto używać ustrukturyzowanych formatów, na przykład JSON. Ale wiesz, tu muszę dopytać. Czy to zmuszanie AI do formatu JSON i takie brutalne skracanie nie sprawia, że tracimy te wszystkie niuanse?

Ale z AI to chyba nie zadziała, bo ludzie różnie formułują pytania. Dokładnie. I tu wchodzi cache semantyczny. Używa wektorów. Jeśli ktoś zapyta, jaka jest pogoda, a potem ktoś inny napisze, jaką mamy aurę, system widzi podobieństwo znaczeniowe. Nawet jeśli słowa są zupełnie inne. Tak. System zwraca gotową odpowiedź bez wywoływania modelu LLM. To pozwala zaoszczędzić nawet do 73% kosztów na API. 73% to jest przepość i jeszcze w notatkach mam coś o prompt catchingu od dostawców chmurowych. Tam trzeba pamiętać o kolejności. To jest kluczowe. Wszystkie stałe instrukcje dajesz na sam początek promptu, a zmienne, czyli to o co pyta użytkownik, doklejasz na samym końcu.

Warto też wspomnieć o zarządzaniu stanem w praktyce. Takie narzędzia jak Iris Agent w automatyzacji wsparcia ucinają niepotrzebny kontekst, redukując zużycie tokenów o ponad 80%. Jest jeszcze asynchroniczne przetwarzanie, czyli tzw. batching. Jeśli nie potrzebujemy odpowiedzi tu i teraz, wysyłamy paczkę danych poza godzinami szczytu. Co daje nam natychmiastowe zniżki rzędu 50%? Więc co to wszystko oznacza w praktyce? Dla mnie wniosek jest jeden. Inżynieria promptów to już nie jest sztuka ładnego gadania z chatbotem. Zdecydowanie nie. To jest twarda kompetencja inżynieryjna, zarządzanie pamięcią i optymalizacja architektury. I to prowadzi nas do pytań, które warto sobie zadać.

Czy w naszych projektach regularnie mierzymy koszty AI w przeliczeniu na pojedyncze zapytanie? No właśnie, rzadko się to robi. Czy zespoły optymalizują prompty pod kątem tokenów, czy tylko szukają lepszych odpowiedzi tekstowych? Odpowiednie projektowanie staje się powoli wymogiem na stanowiskach technicznych. Zdecydowanie tak będzie. Zostawcie proszę serduszko pod tekstem, to bardzo pomaga w tworzeniu takich materiałów. Mhm, dokładnie. I nie zapomnijcie subskrybować nas na Spotify, Apple Podcasts i YouTube. Ale zanim uciekniemy, mam wrażenie, że te wszystkie materiały prowadzą do jednego dość prowokującego wniosku. Zgadza się. Skoro kluczem do obniżenia kosztów są struktury JSON, wektory semantyczne i ekstremalna kompresja słów, to idziemy w bardzo dziwnym kierunku.

Pokazano wszystkie 10 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.