Создатели видеороликов с авариями автомобилей Xiaomi получили тюремные сроки в рамках мер Китая по борьбе с дипфейками, связанными с электромобилями

Китай принимает жесткие меры в отношении инфлюенсеров в социальных сетях, которые создают поддельные видеозаписи ДТП или распространяют злонамеренные слухи об электромобилях. Пользователи в Китае пытаются оправдать своё вождение в нетрезвом состоянии или опасное вождение, ссылаясь на системы автономного вождения или выдвигая ложные утверждения о самопроизвольном торможении и ускорении. В частности, подразделение Xiaomi по производству электромобилей, похоже, не может найти покоя от контент-креаторов как раз в тот момент, когда линейка моделей Skynomad EREV компании готовится к запуску.

В течение последних нескольких месяцев компания Xiaomi неоднократно публично сообщала о клеветнических кампаниях, сгенерированных искусственным интеллектом и направленных против её автомобилей и руководителей. В самом последнем случае двое пользователей сфабриковали видеозаписи краш-тестов, призванные создать впечатление, будто автомобили Xiaomi не выдержали столкновения. Китайская полиция отреагировала административными задержаниями и штрафами, и, по заявлению Xiaomi, соответствующие публикации впоследствии были удалены.

Это был не единичный случай: ещё в июне власти города Сиань ликвидировали более масштабную преступную группировку. Три агентства по производству контента MCN и более десятка физических лиц были обвинены в массовом создании с помощью ИИ видеороликов и постов, направленных против Xiaomi; несколько подозреваемых были официально задержаны, а оборудование — изъято. Компания Xiaomi предупредила, что злоупотребление ИИ для распространения дезинформации «повлечёт за собой последствия» — это заявление явно направлено как на сдерживание подражателей, так и на наказание предыдущих правонарушителей.

Xiaomi не одинока в этой борьбе: компания NIO сталкивается с практически идентичной схемой действий. Этот инновационный автопроизводитель недавно сообщил, что полиция арестовала подозреваемого, который, как утверждается, использовал инструменты искусственного интеллекта для распространения сфабрикованного контента о компании через тысячи аккаунтов в социальных сетях, набрав при этом десятки миллионов просмотров. За последний год компания NIO также возбудила ряд гражданских исков о защите чести и достоинства против блогеров и отметила отдельную волну атак, направленных против своего бренда Onvo и сети замены аккумуляторов, которые подозрительно совпадали по времени с запусками собственных новых моделей.

Это широко распространённая проблема во всем секторе электромобилей Китая, где власти усилили меры по борьбе с сфабрикованными видеозаписями ДТП и инсценированными случаями нарушения безопасности — причём в некоторых случаях с использованием искусственного интеллекта — направленными на подрыв репутации конкурирующих автопроизводителей на рынке, где конкуренция становится всё более жестокой. Компания BYD также пошла по тому же правовому пути и недавно добилась судебного решения в свою пользу в деле против блогера, выдвинувшего сфабрикованные утверждения о ее компонентах.

В случае с компанией Xiaomi ставки кажутся особенно высокими, поскольку модели Skynomad EREV знаменуют собой первый шаг компании в сегмент автомобилей с увеличенным запасом хода — все более популярную в Китае категорию, которая в настоящее время обеспечивает запас хода на чистой электроэнергии свыше 300 миль до включения бензинового генератора. Поскольку речь идет в основном о семейных автомобилях, доверие к заявлениям о безопасности может как укрепить, так и подорвать динамику продаж на раннем этапе.

Остаётся неясным, являются ли эти кампании дезинформации случайными провокациями или чем-то более скоординированным, однако компания Xiaomi, по-видимому, намерена сделать показательным примером любого, кто будет пойман на подделке видеоматериалов. Аналогичные трудности, с которыми сталкивается компания NIO, свидетельствуют о том, что это не проблема, характерная исключительно для Xiaomi, а структурная проблема, с которой сталкивается любой китайский бренд электромобилей, готовящийся к крупному запуску.