Apple и Microsoft присоединяются к Anthropic в новом проекте по безопасности ИИ стоимостью 100 миллионов долларов

Проект Anthropic's Project Glasswing это новая инициатива в области кибербезопасности, направленная на выявление и устранение уязвимостей в глобальной программной инфраструктуре. В программе участвуют такие крупные игроки, как Amazon Web Services, Apple, Broadcom, Cisco, Google, Microsoft, Nvidiaи Linux Foundation. Эти партнеры будут использовать новую передовую модель для сканирования и защиты систем от первых лиц и систем с открытым исходным кодом.

Проект основан на Claude Mythos Preview, специализированной модели, которая, по утверждению Anthropic, достигла такого уровня возможностей кодирования, что может превзойти большинство людей в поиске программных эксплойтов. В ходе предварительного тестирования Anthropic утверждает, что модель автономно обнаружила тысячи уязвимостей высокой степени серьезности в основных операционных системах и веб-браузерах. Среди них были 27-летний дефект в OpenBSD и 16-летняя уязвимость в FFmpeg, которые пережили миллионы предыдущих автоматических тестов.

Anthropic выделяет участникам проекта $100 миллионов в виде кредитов на использование модели. Компания также жертвует $4 миллиона организациям, занимающимся открытым исходным кодом, в частности, $2,5 миллиона - Alpha-Omega и OpenSSF и $1,5 миллиона - Apache Software Foundation. Однако компания не планирует делать Claude Mythos Preview общедоступной. Вместо этого модель будет доступна проверенным организациям через API Claude, Amazon Bedrock, Google Cloud's Vertex AI и Microsoft Foundry. Стоимость использования для этих участников будет составлять $25 за миллион входных токенов и $125 за миллион выходных токенов.

Ожидается, что проект Glasswing продлится несколько месяцев - Anthropic также пообещал публичный отчет в течение 90 дней. В отчете будут подробно описаны обнаруженные уязвимости, а также перечислены практические рекомендации по улучшению безопасности, такие как автоматическое исправление и повышение безопасности цепочки поставок. Anthropic заявила, что она также ведет постоянные переговоры с представителями правительства США относительно наступательных и оборонительных возможностей модели.