"ChuckyGPT": Плюшевый медведь с искусственным интеллектом для малышей дает опасные ответы - OpenAI блокирует его
OpenAI запретил китайского производителя игрушек FoloToy из-за опасений по поводу одного из его продуктов с искусственным интеллектом. Решение последовало за расследованием , проведенным группой по защите прав потребителей U.S. PIRGкоторая оценила несколько игрушек с искусственным интеллектом для своего ежегодного отчета Trouble in Toyland. Среди них был плюшевый медведь Kumma от FoloToy, работающий на GPT-4o от OpenAI, который продемонстрировал серьезные проблемы с безопасностью во время тестирования.
В отчете PIRG описывается, как плюшевый мишка с искусственным интеллектом давал детям инструкции по зажиганию спичек - серьезная угроза безопасности для продукта, продаваемого как интерактивный компаньон для маленьких детей. Не менее тревожно то, что игрушка также отвечала на вопросы на сексуальные темы. Испытатели выразили дополнительную обеспокоенность по поводу потенциальных нарушений конфиденциальности, включая риск того, что голоса детей могут быть записаны и использованы для мошенничества. Постоянный аудиоконтроль игрушки также был отмечен как серьезная проблема.
Этот инцидент также вызвал дискуссию на сайте Redditгде все сходятся во мнении, что использование ИИ в детских игрушках без строгих мер безопасности крайне безответственно. Как и ожидалось, в этой теме много сарказма: некоторые пользователи проводят параллели со сценариями конца света, связанными с ИИ, и дают плюшевому медведю прозвище "ChuckyGPT" Несколько комментаторов предположили, что неуместные реакции могли быть вызваны намеренными попытками джейлбрейка, хотя это утверждение остается непроверенным.
Компания OpenAI отреагировала быстро отреагировала на результаты исследования. "Я могу подтвердить, что мы отстранили этого разработчика от работы за нарушение наших правил", - сообщил представитель компании по электронной почте PIRG. Компания FoloToy также предприняла немедленные действия, приостановив продажу всех своих продуктов. "В связи с опасениями, высказанными в Вашем отчете, мы временно приостановили продажу всех продуктов FoloToy [...] Сейчас мы проводим сквозной аудит безопасности всех продуктов в масштабах компании", - заявила компания. Хотя плюшевый медведь Kumma с искусственным интеллектом все еще числится на сайте FoloToyно теперь он значится как "распроданный"
Источник(и)
OpenAi по электронной почте PIRG
Источник изображения: Эрик Маклин (Erik Mclean)/Pexels; Alexas_Photos/Pixabay
