Бюджеты задержки извлечения для менеджера знаний с акцентом на конфиденциальность в 2026 году: журнал построения
DEV · 14.11.2026 · 00:54
Статья обсуждает важность ограничения задержки извлечения для личного менеджера знаний, ориентированного на конфиденциальность. Предлагается использовать поэтапное извлечение с явными…
Оригинал
Retrieval Latency Budgets for a Privacy-Focused Knowledge Manager in 2026: A Build Log
The constraint that changes this design is a small, predictable latency budget. A privacy-focused personal knowledge manager cannot make a user wait for a giant retrieval fan-out, then hide weak evidence behind a fluent answer. Short answer: use staged retrieval with explicit collections, bounded queries, and source context that survives all the way to the citation. I budget 150 ms for retrieval in the interactive path. That is a planning number, not a measured promise. The first 40 ms is reque