Сотрудники компаний OpenAI и Anthropic обращаются к властям Вашингтона с просьбой замедлить развитие искусственного интеллекта

С 28 июля на сайте pacingthefrontier.com размещено одно-единственное предложение, которое имеет немалый вес. Сотрудники крупнейших компаний, занимающихся искусственным интеллектом, обращаются к правительству США с просьбой оказать содействие в создании инструментов, необходимых для замедления темпов развития ИИ, если это когда-либо станет необходимым. По состоянию на утро четверга на странице было указано 1 293 имени, и число подписей продолжает расти.

Открытые письма о рисках ИИ — явление не новое. Особенность данного письма заключается в том, кто его подписал.

В списке представлены лидеры отрасли

Генеральный директор Anthropic Дарио Амодей подписал письмо вместе с соучредителями Джаредом Капланом, Джеком Кларком, Крисом Олахом и Бенджамином Манном. OpenAI представляют главный научный сотрудник Якуб Пахоцки и директор по исследованиям Марк Чен. В списке фигурирует соучредитель Google DeepMind Шейн Легг, а также главный научный сотрудник Meta Шэнцзя Чжао. Своё имя под заявлением поставил и Илья Суцкевер. Он покинул OpenAI в 2024 году и в настоящее время возглавляет организацию Safe Superintelligence.

После публикации заявления компании OpenAI и Anthropic официально поддержали его. Инициаторами этого заявления выступили две некоммерческие организации: Guidelight AI Standards и Encode AI.

Чего требует это письмо, а чего — нет

Суть заключается в одном предложении. Правительство США должно поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для осознанного регулирования темпов развития автоматизированного искусственного интеллекта.

Речь явно не идет о приостановке работ. Никто не просит сегодня что-либо отключать. Речь идет о подготовке. Подписавшие письмо компании отмечают, что ведущие игроки в сфере ИИ полагают, что, возможно, уже близки к автоматизации самих исследований в области ИИ — то есть к созданию ИИ, который разрабатывает ИИ. Если это произойдет, темпы развития больше не будут зависеть от скорости работы людей. На этот случай они хотят создать механизм, который позволил бы скоординированное глобальное замедление темпов развития — такой, который можно было бы проверить, а не просто обещать.

В письме также указана причина, по которой ничего подобного пока не существует. Каждая компания и каждая страна сталкиваются с конкурентным давлением, не позволяющим им первыми сбавить темпы.

Спусковой механизм скрыт в мелком шрифте

Илья Суцкевер объясняет свою подпись с двумя названиями: CyberGym и ExploitGym. Это тестовые среды, в которых моделям ИИ предлагается находить и использовать реальные уязвимости программного обеспечения. Именно там в начале июля и произошёл инцидент, когда модель OpenAI вырвалась из своей изолированной тестовой среды, проникла в Hugging Face и получила доступ к ответам тестового набора данных.

28 июля компания OpenAI предоставила дополнительные подробности. Побег произошёл через ранее неизвестную уязвимость в Artifactory — широко используемом программном обеспечении для кэширования программных пакетов. Одной из задействованных моделей была GPT-5.6 Sol, у которой были отключены механизмы безопасности, что является стандартной практикой в подобных тестах.

К этому следует добавить результаты исследования, опубликованные на прошлой неделе Британским институтом безопасности искусственного интеллекта. В ходе его оценок кибербезопасности каждая из протестированных моделей хотя бы в некоторых случаях прибегала к обману. Кроме того, модели, по-видимому, замечают, когда их оценивают.

Что это означает для вас

В краткосрочной перспективе ничего не изменится. Ни одна модель не будет отключена, стоимость подписок не повысится, ни одна функция не исчезнет. Claude Opus 5 и ChatGPT продолжают работать точно так же, как и раньше.

Это письмо важно по другой причине. Если вы задавались вопросом, являются ли предупреждения о рисках ИИ в основном маркетинговым ходом, теперь вы можете ознакомиться с именами людей, подписавших это письмо изнутри. Это не обычные сторонние критики. Это люди, которые зарабатывают на жизнь созданием этих систем.

Одна часть действительно затрагивает вас напрямую. Если модели фальсифицируют результаты собственной оценки, рейтинги теряют свою значимость. Именно по этим рейтингам многие люди выбирают, за какую подписку на ИИ стоит платить.