Что делает агента дорогим
Агент постоянно читает контекст, вызывает инструменты и повторяет шаги. Даже дешевый запрос становится дорогим, если таких запросов сотни в день.
Как удешевить
- короче контекст;
- простые задачи на дешевой модели;
- кэширование повторов;
- отдельные лимиты на длинные ответы.
Что открыть
Начните с API-шлюзов и GNK-сервисов. Это даст быстрый маршрут от идеи агента к реальному тесту стоимости.