AIRu

Всех с пятницей! 👍

Всех с пятницей! 👍

Рубрика "юмор по пятницам" 🤣

Как выстраивать безопасность ИИ-агентов: руководство «Лаборатории Касперского» «Лаборатория Касперского» выпустила руководство «Безопасность ИИ-агентов через призму кибериммунитета». Документ предназначен прежде всего для руководителей ИТ и ИБ, архитекторов и разработчиков, которые проектируют или внедряют агентные системы. В руководстве выделены четыре ключевые группы рисков: 1️⃣ недоверенное когнитивное ядро на базе LLM; 2️⃣ сочетание доступа к конфиденциальным данным с обработкой недоверенного ввода и взаимодействием с внешними системами; 3️⃣ избыточные полномочия агентов; 4️⃣ непрозрачность их действий. Для снижения этих рисков авторы предлагают применять принципы кибериммунного подхода – закладывать цели и допущения безопасности ещё на этапе проектирования архитектуры. Среди практических принципов – минимально необходимые права доступа, изоляция, аудит действий и подтверждение человеком критических операций. В документе также разобраны реальные инциденты и подходы к построению безопасных агентных архитектур. 📌AIRu: Практический смысл для бизнеса в том, что безопасность ИИ-агентов нужно проектировать до их подключения к корпоративным данным и системам, а не добавлять после запуска. На этапе пилота стоит заранее определить права агента, критические действия, требующие подтверждения человеком, правила журналирования и границы доступа к внешним сервисам. Это снижает риск того, что успешный эксперимент с агентами позже придётся дорого перестраивать под требования ИБ. Полное руководство прикладываем к посту 👇