Радар на почту

Как я сократил свои расходы на LLM API на 70% без изменения кода

DEV · 16.11.2026 · 00:55

Автор делится своим опытом снижения затрат на API вызовы, которые использовались в его проекте. Он описывает, как изначально использовал полную историю разговоров и контекст в запросах, что…

Читать в источнике

Оригинал

How I Cut My LLM API Costs by 70% Without Touching My Code

I was staring at my Stripe dashboard in disbelief. $208 for API calls last month. Not my infrastructure. Not my database. Just the LLM APIs powering my side project's features — the ones I'd integrated before I even knew what I was doing. The "before" version of my code was simple: every time a user interacted with my app, I fired off a prompt to OpenAI with the full conversation history, all my system context, and a bunch of instructions I'd copy-pasted from random blog posts. It worked. It wa