Автономные ИИ-хакеры превосходят человеческих хакеров

По мере роста числа случаев использования программ-вымогателей службы безопасности предприятий сталкиваются с резким изменением в оценке векторов угроз. Новое исследование, заказанное компанией Exabeam и проведённое Sapio Research, показало, что 48 % руководителей ИТ- и безопасности в настоящее время считают автономных агентов искусственного интеллекта, обладающих чрезмерным или непреднамеренным доступом к системе, своей самой серьёзной угрозой, опережающей по важности внешних хакеров, скомпрометированных внутренних пользователей и злонамеренных сотрудников.

В опросе приняли участие 600 руководителей, принимающих решения в сфере безопасности и финансов, из США, Канады, Великобритании, Франции, Германии, Нидерландов и Австралии; все они представляют организации со штатом 500 и более сотрудников. Второе место заняли внешние злоумышленники (28 %), а на долю скомпрометированных сотрудников и злонамеренных сотрудников пришлось по 12 % соответственно.

Почему агентские системы обходят традиционные системы защиты

Компания Exabeam определяет рассматриваемые AI-агенты как автономные системы, ориентированные на достижение целей, которые могут получать доступ к ресурсам предприятия и действовать при ограниченном контроле со стороны человека, в отличие от диалоговых чат-ботов. Поскольку эти агенты, как правило, работают с использованием легитимных административных учетных данных, ключей API и расширенных привилегий, действия недобросовестного или неправильно настроенного агента могут обойти традиционные средства защиты периметра и базовые показатели поведения пользователей, не вызывая стандартных предупреждений о безопасности. Для возникновения такого риска не требуется злого умысла со стороны агента — достаточно лишь неконтролируемого доступа.

Системы мониторинга не успевают за темпами внедрения

По мере того как организации расширяют использование автономного ИИ в рамках своей деловой деятельности, поставщики решений безопасности приступают к разработке специализированных средств анализа поведения агентов, позволяющих отслеживать процесс принятия решений машинами наряду с существующими журналами доступа пользователей. В отчёте Exabeam под названием «Агент-инсайдер: от мониторинга к пониманию» отмечается, что, хотя компании уже расширяют свои усилия по мониторингу ИИ-агентов, многим по-прежнему сложно в полной мере понять поведение агентов в различных системах и бизнес-контексте.

Стоит отметить, что в ходе опроса оценивался воспринимаемый риск среди лиц, принимающих решения, а не подтверждённые данные об инцидентах, поэтому его результаты не следует рассматривать как доказательство того, что агенты ИИ превзошли хакеров по фактическому количеству нарушений. Тем не менее, полученные данные указывают на явный сдвиг в приоритетах: по мере того как агенты получают более широкий доступ к корпоративным системам, устранение разрыва между предоставлением такого доступа и фактическим мониторингом его использования становится актуальной проблемой для служб безопасности.

Администраторы Windows вынуждены справляться с потоком обновлений

Этот вывод появился в тот момент, когда ИТ-команды предприятий и без того вынуждены справляться с постоянным потоком обновлений и исправлений для Windows на всех своих устройствах. Недавнее предварительное обновление самой Microsoft, KB5124010, принесло с собой набор новых функций и две раскрытые известные проблемы, что служит напоминанием о том, что поддержание базовых систем в исправленном и стабильном состоянии по-прежнему является работой на полную ставку даже до появления ИИ-агентов. По мере того как организации будут внедрять автономных агентов в дополнение к существующей нагрузке по управлению исправлениями и доступом, тем же администраторам потребуется расширить сферу контроля с операционных систем и конечных устройств на агентов, которые теперь работают наряду с ними.