Кибератаки с помощью искусственного интеллекта: LLM могут планировать и выполнять кибер-операции автономно

Исследование, проведенное под руководством Брайана Сингера, кандидата наук в области электротехники и вычислительной техники в Университете Карнеги-Меллон https://engineering.cmu.edu/news-events/news/2025/07/24-when-llms-autonomously-attack.htmlпоказало, что LLM могут имитировать сетевые атаки, удивительно похожие на реальные, если они оснащены высокоуровневыми возможностями планирования и специализированными механизмами агентов.

В ходе исследования LLM смогли проникнуть в корпоративные сети, выявить уязвимости и провести многоступенчатые атаки без вмешательства человека. Это исследование демонстрирует, что продвинутые модели ИИ способны не только выполнять базовые задачи, но и автономно принимать решения и адаптироваться к динамичным сетевым средам.

Это создает как значительные риски, так и потенциальные возможности для кибербезопасности. С одной стороны, злоумышленники могут использовать такие технологии для автоматизации и масштабирования своих атак. С другой стороны, компании и исследователи в области безопасности могут использовать LLM для разработки и тестирования мер кибербезопасности, например, моделируя атаки для упреждающего выявления уязвимостей.

Результаты исследования подробно описаны на исследовательском сайте Anthropic; препринт статьи также доступен на arXiv. Эти публикации дают ценное представление о методологии и последствиях этого новаторского и сложного исследования в области кибератак с помощью ИИ.