Microsoft запускает Guardian Agents, предупреждает, что ИИ-агенты могут действовать как внутренняя угроза

Microsoft заявила в понедельник, 19 октября 2026 года, что рассматривает ИИ-агентов, развёрнутых внутри компаний, как новую категорию внутренней угрозы, запустив функцию безопасности под названием Guardian Agents в рамках платформы Project Perception, сообщает TechCrunch.

Что объявила Microsoft

• Guardian Agents — это дополнение к Project Perception, платформе, которую Microsoft представила в июне с тремя классами агентов: «красная команда», атакующая как хакер, «синяя команда», её обнаруживающая, и «зелёная команда», устраняющая уязвимости, сообщает TechCrunch.
• Руководитель направления безопасности Microsoft Хайете Галло (Hayete Gallot) заявила при анонсе функции: «К сожалению, передовым моделям, независимо от их происхождения, нельзя доверять», добавив, что это связано с непредсказуемостью моделей, а не с их злонамеренностью, сообщает TechCrunch.
• Генеральный директор Сатья Наделла заявил: «Нам нужно отделить поставку интеллекта от полномочий над ним», сообщает TechCrunch.
• В продукте Microsoft Defender появилась функция обнаружения агентов, охватывающая до 60 типов корпоративных агентов, включая Claude Code, OpenAI Codex и GitHub Copilot, после того как компания расширила обнаружение ещё на 35 типов агентов, говорится в блоге Microsoft по безопасности.
• В том же блоге представлены Dynamic Permissions и Dynamic Conditional Access — функции, позволяющие сужать, ограничивать по времени или отзывать доступ агента, если его поведение меняется в ходе выполнения задачи, сообщила Microsoft.
• Microsoft стала одним из основателей новой платформы Nvidia Open Agent Safety Platform, которую, по данным TechCrunch, поддерживают более 100 других технологических компаний; платформа изолирует агентов в защищённых средах и может отслеживать и останавливать их поведение на аппаратном уровне.

Почему это важно

Шаг Microsoft закрепляет переход от восприятия ИИ-агентов исключительно как инструментов производительности к управлению ими как потенциальными рисками безопасности, требующими независимого мониторинга, сдерживания и отзываемого доступа — отдельно от лабораторий ИИ, создающих базовые модели, даже там, где Microsoft инвестировала в эти же лаборатории. Для компаний и государственных органов Каспийского региона, которые сейчас пилотируют агентный ИИ в обслуживании клиентов, финансах или разработке кода, этот эпизод — напоминание о том, что развёртывание агента, созданного одним поставщиком, не включает встроенный контроль над тем, к чему этому агенту разрешено иметь доступ, — пробел, который предприятиям всё чаще придётся закрывать самостоятельно.