«Явно нечестно»: математик утверждает, что OpenAI солгала ему о том, что использовала его личные чаты для обучения

Андреас Том, специалист по теории групп из Технического университета Дрездена, публично выразил сомнение по поводу того, не повлияли ли его личные сеансы работы с ChatGPT на результат OpenAI, в ходе которого была получена первая известная несофическая группа — одна из десяти задач, которые, по заявлению OpenAI, Astra решила 1 августа.

В обширном посте из трёх частей на Mathstodon Том написал, что вскоре после этого объявления он направил электронное письмо исследователям OpenAI Марку Селлке и Себастьену Бубеку. Он и его дрезденский коллега в течение нескольких месяцев работали над задачей сопоставления экспандеров и над расширением его работы с Габором Куном в ChatGPT и задали два вопроса: вошли ли эти переписки в обучающие данные и могла ли система получить к ним доступ во время работы над доказательством. Ответ Селлке, как его цитирует Том, состоял из одной строки: этого не произошло. Том утверждает, что ответ касался лишь аспекта «прямого доступа». Сейчас он характеризует его как неоправданно общий и, в ретроспективе, нечестный.

Post by @[email protected]

View on Mastodon

Эта дискуссия вновь разгорелась на этой неделе на фоне заявления OpenAI о модели Навье-Стокса. В нём OpenAI заявила, что ни её исследователи, ни её агенты не видели работы этой пары до публикации и что доступ к конкретным пользовательским данным не осуществлялся. Компания также добавила, что не может исключить, что обезличенные данные, полученные в результате использования ими её продуктов, помогли улучшить её модели. 

Есть ещё два аргумента, подтверждающих его точку зрения. 29 июня он отключил обучение модели. Настройка обучения модели недоступна для проверки пользователями — она не содержит информации о более ранних чатах. Большинство исследователей отдавали предпочтение методам квантовых игр, а не подходу, который он использовал совместно с Куном, поэтому он был удивлён, что Astra выбрала тот же путь, что и он.

На момент написания данной статьи Том пока не заявил о наличии доказательств. Вместо этого он обратился к OpenAI с просьбой раскрыть основания для своего опровержения.

OpenAI публично не прокомментировала его сообщения.