Kогда агенты предают друг друга: отказы внутри мультиагентных систем
Тезисы
Мультиагентные системы ломаются не только от внешних атак. Они ломаются изнутри: агент передаёт невалидный контекст через handoff, RAG подтягивает нерелевантные данные, MCP-инструмент возвращает неожиданный формат, и весь пайплайн даёт непредсказуемый результат. В докладе разберём, как выстроить защиту не только по периметру, но внутри системы. При вызове инструментов, при передаче контекста между агентами и при работе с A2A протоколом. Покажу, как сочетать AI-валидацию и детерминированные обёртки вокруг агентов, чтобы повысить стабильность ответов и сделать поведение системы предсказуемым для бизнеса.
Мультиагентные системы ломаются не только от внешних атак. Они ломаются изнутри: агент передаёт невалидный контекст через handoff, RAG подтягивает нерелевантные данные, MCP-инструмент возвращает неожиданный формат, и весь пайплайн даёт непредсказуемый результат. В докладе разберём, как выстроить защиту не только по периметру, но внутри системы. При вызове инструментов, при передаче контекста между агентами и при работе с A2A протоколом. Покажу, как сочетать AI-валидацию и детерминированные обёртки вокруг агентов, чтобы повысить стабильность ответов и сделать поведение системы предсказуемым для бизнеса.
Информация о спикере
Кирилл Кухарев
HiveTrace
  • Кирилл Кухарев
    HiveTrace
Все доклады трека