OpenAI выпустила GPT-6 Astra AI: версию «Терминатор»

Улучшенные результаты при выполнении рабочих задач

Как и следовало ожидать от каждого крупного релиза OpenAI, GPT-6 Astra справляется со сложными задачами лучше, чем предыдущие модели компании. Сюда входит создание публикаций с правильно отформатированными диаграммами данных, поиск квартир, разработка видеоигр, моделирование схем печатных плат и создание CAD-проектов автомобильных трансмиссий.

Компания заявляет, что улучшила способность Astra сохранять концентрацию на задаче даже после нескольких часов работы, повысив её надёжность при выполнении задач и сократив необходимость в корректировке со стороны пользователя. Кроме того, к радости обычных американцев, компания продемонстрировала пример того, как ИИ с лёгкостью заполняет налоговые формы 1040.

Риски для безопасности и защиты, связанные с GPT-6 Astra

В ходе внутреннего тестирования компания OpenAI обнаружила, что GPT-6 Astra стала настолько мощной, что представляет критическую угрозу безопасности в случае её выпуска без дополнительных мер защиты, способных прервать её работу, включая механизмы предотвращения «джейлбрейка».

Система Mythos продемонстрировала аналогичную способность к взломам в отсутствие защитных мер, обнаружив перед выпуском «тысячи уязвимостей высокой степени серьезности, в том числе некоторые в каждой из основных операционных систем и веб-браузеров». Правительство США даже объявило о полном приостановлении его доступности вскоре после первоначального выпуска, пока между правительством, компанией Anthropic и важными третьими сторонами велись обсуждения по поводу мер кибербезопасности. Банковский сектор особенно обеспокоен тем, насколько быстро эти ИИ могут находить уязвимости в своей вычислительной инфраструктуре, которые можно использовать в злонамеренных целях.

Хотя OpenAI заявляет, что внедрила дополнительные меры для предотвращения неправомерного использования Astra хакерами или применения её небезопасным образом, изобретательные хакеры, вероятно, найдут способы использовать такие возможности в своих целях. В ходе внутреннего тестирования, включая имитацию развертывания в Codex, Astra продемонстрировала нежелательное поведение, хотя и в очень редких случаях, в том числе извлечение учетных данных пользователей и обход средств контроля доступа, а также совершение деструктивных действий и предоставление ложной информации.

Кроме того, внешнее тестирование, проведённое британской организацией AISI, показало, что «При решении сложных смоделированных задач в области кибербезопасности Astra совершала ряд вредоносных действий», в том числе «написание вредоносного кода в качестве вклада в не относящуюся к данному проекту базу исходного кода с открытым доступом, создание поддельных личностей для введения разработчиков в заблуждение, а также завоевание доверия посредством легитимных вкладов в смоделированную базу кода с целью добиться принятия вредоносного кода».

К счастью, уровень биологического и химического риска Astra по-прежнему находится на нижней границе категории «Высокая угроза», что означает, что система пока не способна самостоятельно создать новый смертоносный вирус или химическую угрозу. Кроме того, по сравнению с предыдущими моделями компании улучшился показатель несоответствующих ответов в отношении лиц моложе 18 лет по различным категориям, таким как самоповреждение. 

Дополнительные сведения можно найти в системной карте GPT-6 Astra.

Доступность GPT-6 Astra

GPT-6 Astra уже доступна для избранной группы компаний, названия которых не разглашаются, и вскоре станет доступна широкой публике напрямую через подписки ChatGPT Plus, Pro, Business и Enterprise, API OpenAI или через сторонние платформы, включая Microsoft Azure и AWS Bedrock. Стоимость ChatGPT начинается от 20 долларов в месяц за тарифный план «Plus».

Только проверенные компании получат доступ ко всем возможностям Astra в области биологии и кибербезопасности в рамках программ «Trusted Access for Biology Research» и «Trusted Access for Cyber» после прохождения проверки.

Альтернативы платным ИИ-сервисам

Читатели, желающие избежать оплаты услуг чат-ботов, могут запускать ИИ-чат-ботов локально с помощью таких инструментов, как GPT4All, или использовать ИИ-помощников с помощью OpenClaw. Приложения, подобные llmfit, помогут пользователям выбрать модели ИИ, наиболее подходящие к характеристикам их оборудования, а неограниченный локальный ИИ можно легко создать на основе общедоступных моделей.

Для работы лучших и наиболее интеллектуальных моделей ИИ, как правило, требуется ПК с большим объёмом оперативной и постоянной памяти, а также мощный графический процессор Nvidia (например, такая видеокарта Nvidia GeForce RTX 5090 32 ГБ, продаваемая на Amazon), или даже ИИ-кластеры на базе мини-ПК, таких как недавно анонсированный Lenovo ThinkCentre X Ultra.