AI Kill Switch: «аварийный выключатель» для ИИ-агентов

Компания CrowdStrike добавила в платформу Falcon Guardian функцию AI Kill Switch — «аварийный выключатель» для ИИ-агентов. Об этом сообщил глава компании Джордж Курц.

Идея простая: если агент вдруг начнет делать что-то не то, безопасник сможет мгновенно остановить его прямо на том хосте, где тот работает. Повторный запуск блокируется, доступ к корпоративной сети агент теряет. Все это опирается на уже существующий сенсор Falcon: сначала операции режутся на уровне шлюза, потом на конечной точке. Каждое действие пишется в журнал аудита, инициирует его только уполномоченный администратор.

Проблема, которую решают таким способом, вполне реальна. ИИ-агенты получают доступ на системном уровне, например, в облаках и SaaS-приложениях, выполняют цепочки операций и иногда выходят за рамки выданных разрешений. Falcon Guardian и раньше умел находить таких агентов и следить за их поведением, теперь появилась возможность их выключать.

Курц заодно повторил свою позицию: призывы притормозить развитие ИИ он считает бессмысленными, поскольку открытые модели уже доступны всем. После атак на Hugging Face и RubyGems, по его мнению, нужен новый уровень защиты. Новый функционал даст возможность безопасно и быстро отключать ИИ-агентов, которые решили взять на себя больше, чем положено.