Компания Anthropic представила Claude Mythosновую модель искусственного интеллекта, которая, по словам компании, может стать поворотным моментом в области ИТ-безопасности. Модель, как утверждается, чрезвычайно хороша в поиске уязвимостей в системе безопасности - и именно поэтому Anthropic пока не выпускает ее в открытый доступ. На данный момент это было бы слишком рискованно.

Anthropic утверждает, что Mythos обнаружил уязвимости нулевого дня во всех основных операционных системах и браузерах, включая очень старые и труднообнаруживаемые дефекты. В качестве примера приводятся уязвимость в OpenBSD 27-летней давности, дефект в FFmpeg 16-летней давности и уязвимость в FreeBSD 17-летней давности, которая якобы позволяла получить root-доступ по сети. Реальная опасность заключается в том, что Mythos может не только выявлять уязвимости, но и создавать сложные эксплойты.

По словам Anthropic, более 99% найденных уязвимостей все еще не исправлены, поэтому компания пока не хочет делать Mythos достоянием общественности. Если бы такая модель попала в чужие руки без надлежащего контроля, злоумышленники могли бы превратить уязвимости в реальные атаки быстрее, еще до того, как будут доступны обновления безопасности. Вместо этого Anthropic запускает проект Glasswing - контролируемое внедрение для избранных партнеров, направленное на защиту критически важного программного обеспечения до того, как подобные возможности станут более доступными.

Модель Mythos от Anthropic уже обсуждается на Reddit. Многие видят в этом анонсе прежде всего сильный маркетинговый ход и сомневаются в заявленных возможностях. В то же время, существует опасение, что в будущем ИИ может все чаще помогать злоумышленникам находить и использовать уязвимости в системе безопасности.