Агент вопрос-ответ по инфраструктуре на MCP

Причина галлюцинаций оказалась в слое инструментов · каталог в контексте сжат вдвое

Что сделано

Агент, которому можно задать вопрос про инфраструктуру словами. LLM с tool-calling поверх MCP-серверов учёта и мониторинга, ответы приходят в бот. Прогнал 15 контрольных вопросов и сверил каждый ответ с базой. Честными оказались шесть. Дело было не в модели: узкая схема запросов, нет честного подсчёта, лимит шагов душит. Всё это слой инструментов, там и чинилось. Каталог уходит модели каждую итерацию, поэтому сжал вдвое. В проде. Спроса пока нет.

Стек

MCPLLM tool-callingPythonTelegram Bot APIDockerGitLab CI

Другие кейсы