Генеральный директор OpenAI Сэм Альтман высказался о недооцененных рисках ChatGPT 5.0

Сэм Альтман (Sam Altman), генеральный директор OpenAI, недавно выразил свои опасения по поводу потенциального влияния будущих моделей ИИ в подкасте This Past Weekend подкасте (эпизод № 599, 30 июля 2025 года). Во время беседы с Тео Воном Альтман открыто рассказал о рисках, которые, по его мнению, могут сопровождать следующую версию ChatGPT. Альтман подчеркнул, что возможности систем искусственного интеллекта быстро развиваются, а вместе с ними и риск неправильного использования.

Больше всего меня беспокоят проблемы с дезинформацией в будущих моделях. Не нынешней, а той, что будет после нее, и той, что будет после нее". (Подкаст Altman im "This Past Weekend")

ChatGPT 5.0 может вывести убеждение на новый уровень

По словам Альтмана, наибольшее беспокойство вызывает не ChatGPT 4.0, а следующее поколение, которое, скорее всего, будет более мощным, убедительным и потенциально манипулятивным. Генеральный директор OpenAI особенно обеспокоен возможностью политического или социального влияния через обманчиво реальный контент, созданный ИИ.

Они будут так хороши в убеждении, так хороши в обмане, так хороши в... ну, Вы знаете, просто как, будучи в состоянии как бы... манипулировать людьми, если Вы этого хотите". (Altman im Podcast "This Past Weekend")

Альтман предупреждает, что развитие идет настолько быстро, что границы между правдой и вымыслом становятся все более размытыми и трудноразличимыми. Далее он предупреждает о мире, в котором "мы больше не знаем, что реально, а что нет".

Необходима гражданская ответственность и политическая поддержка

Альтман считает общественные дебаты о генеративном ИИ ключевой задачей на ближайшие годы. Такие компании, как OpenAI, должны разработать технические средства защиты, утверждает он, но также отмечает, что трудно эффективно бороться со злоупотреблениями без четкой правовой базы и общественных дебатов.

Комментарии Сэма Альтмана звучат на фоне растущих дискуссий о так называемых "пограничных моделях": высокопроизводительных системах ИИ с далеко идущими социальными последствиями. OpenAI уже ведет внутреннюю работу над GPT-5, хотя о дате выхода пока можно только предполагать