Mentionsy Mentionsy
Data Zen AI Podcast (PL)
Data Zen AI Podcast (PL)

Jak Pisać Efektywne Prompty: Sekretne Techniki Oszczędzania Tokenów

18.03.2026 ·13 min 55 s

Jak zmniejszyć koszty korzystania z AI? W tym odcinku Data Zen AI Podcast wyjaśniamy, czym są tokeny oraz jak pisać prompty, które generują dobre odpowiedzi przy mniejszym zużyciu zasobów.Artykuł i materiały:https://datazen.top/podcast-ai-19#PromptEngineering #AI #LLM #DataZenAI

Tak. Ale jeśli będziemy grzeczni i napiszemy, czy mógłbyś mi dostarczyć kompleksowy przegląd moich zaplanowanych spotkań na dziś, to już jest 18 tokenów. Wynik ten sam, a koszt rośnie dwukrotnie. I tu ktoś mógłby powiedzieć, no, zaraz. No właśnie. Czy my tu nie liczymy jakieś groszy? To są ułamki centów. Zastanawiałam się, czy naprawdę warto marnować czas programistów na obcinanie sylab. Wiesz, jeśli spojrzymy na to z szerszej perspektywy, to te ułamki centów tworzą gigantyczne problemy w skali. Redis przeanalizował bota e-commerce, który obsługuje milion konwersacji w miesiącu. Milion to już sporo. Dokładnie. Kiedy ten bot działał na długich, przegadanych promptach, rachunek wynosił 3250 dolarów.

Ten taki ludzki dotyk modelu. Robimy z niego zwykły parser. To jest powszechna obawa, ale w systemach produkcyjnych formatowanie JSON wręcz zwiększa jakość. Serio? W jaki sposób? Bo eliminuje halucynacje. Jeśli każesz modelowi wypełnić tylko trzy konkretne pola – imię, nazwisko, stanowisko – to on nie ma miejsca na dygresję i zmyślanie. Jest zmuszony do konkretu. Aha, czyli paradoksalnie mniej wolności daje nam lepsze wyniki biznesowe. Co jeszcze możemy zrobić? Coś o cachowaniu czytałam. Tak, to jest potężna broń. Semantic Caching. Na przykład z użyciem Redisa. Tradycyjny cache działa tak, że zapamiętuje idealnie takie samo zapytanie, prawda?

Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.