Компания Pindrop представляет программное обеспечение Pulse Inspect для обнаружения поддельных голосовых клонов, созданных искусственным интеллектом, чтобы помочь остановить мошенничество и дезинформацию
Компания Pindrop представила программное обеспечение Pulse Inspect, предназначенное для обнаружения искусственных голосовых клонов, чтобы помочь остановить мошенничество и дезинформацию. Программное обеспечение использует запатентованные технологии для надежного обнаружения более 90% голосов, сгенерированных искусственным интеллектом, даже при длительности аудиозаписей менее 10 секунд.
Голоса, клонированные искусственным интеллектом, стали настолько убедительно реальными, что миллионы людей были потеряны из-за мошенничества. Ранее в этом году воры с сайта украли 25 миллионов долларов у финансового работника в гонконгской транснациональной корпорации с помощью глубоко подделанного видеозвонка, в котором использовались глубоко подделанные голоса финансового директора и других сотрудников. Глубоко подделанные политические видеоролики использовались для того, чтобы повлиять на исход выбороввключая предстоящие выборы в США в 2024 году. Также были созданы и использованы поддельные голосовые звонки от политиков https://www.nytimes.com/2024/02/27/us/politics/ai-robocall-biden-new-hampshire.htmlчто вызвало большой резонанс.
Компания Pindrop изучала этот вопрос в течение восьми лет и имеет 25 патентов на обнаружение фальшивых аудиозаписей. Их новейший ИИ Pulse Inspect был обучен на более чем 20 миллионах образцов настоящих и поддельных голосов. Образцы поддельных голосов, полученные с помощью более 370 различных инструментов клонирования, обеспечивают высокую скорость обнаружения. ИИ разбивает образцы голоса на четырехсекундные клипы для анализа, используя уникальные аудиохарактеристики различных алгоритмов глубокой подделки и дополнительные аудиохарактеристики настоящих голосов для выявления подделок. Это позволяет Pulse Inspect обнаруживать подделки в 90% случаев, когда речь идет о клонированных голосах из никогда ранее не встречавшихся инструментов глубокой подделки, и в 99% случаев, когда речь идет о голосах из ранее встречавшихся инструментов.
Предприятиям следует знать, что программное обеспечение для обнаружения мошенничества никогда не бывает совершенным. Недавнее тестирование Pulse Inspect, проведенное NPR, показало, что программа не смогла правильно классифицировать настоящие и поддельные голоса в 3 из 84 протестированных образцов. Процент неудач в 3,6% оставляет злоумышленникам небольшой шанс на успех, и компаниям всегда следует использовать глубинную оборону для защиты своих активов.
Читатели, которые беспокоятся о своих активах и близких, должны защитить свои аккаунты с помощью двухфакторных методов, таких как коды доступа, отправляемые по СМС, или физический двухфакторный ключ(как этот на Amazon), и убедиться, что члены семьи используют секретное слово или фразу для подтверждения своей личности во время подозрительных звонков.
Источник(и)
Pindrop запускает Pulse Inspect: Передовое решение для борьбы с подделками и распространением дезинформации
PindropⓇ PulseTM Inspect позволяет СМИ, социальным сетям, некоммерческим организациям и правительствам поддерживать целостность контента, идентифицируя аудио, созданное искусственным интеллектом, с 99% точностью
Атланта, штат Джорджия - 15 августа 2024 г. - Компания Pindrop, мировой лидер в области голосовой аутентификации и безопасности с 2011 года, сегодня объявила о запуске PindropⓇ PulseTM Inspect в Preview. Этот инновационный инструмент, являющийся последним дополнением к передовому семейству продуктов Pindrop для обнаружения глубоких подделок PindropⓇ PulseTM, способен обнаружить сгенерированную искусственным интеллектом речь в любом цифровом аудиофайле с точностью 99%. После запуска Pindrop Pulse в начале этого года и последнего финансирования Pindrop в июле, Pindrop Pulse Inspect расширяет возможности технологии Pindrop не только для колл-центров, но и предлагает новый вариант использования для медиа-организаций, некоммерческих организаций, государственных учреждений и сетей социальных сетей. Pulse Inspect быстро анализирует и проверяет, содержат ли медиафайлы синтетическую речь, чтобы клиенты могли проактивно предотвращать распространение дезинформации и поддерживать доверие к своему бренду.
Генеративный ИИ привел к росту числа глубоких подделок, представляющих серьезную угрозу для авторитета организации. Согласно отчету Pindrop о настроениях потребителей в отношении глубоких подделок и голосовых клонов, более 12 миллионов взрослых жителей США знают кого-то, кто лично сталкивался с глубокими подделками, созданными без их согласия. Эти синтетические файлы часто распространяются через такие платформы, как YouTube, TikTok, Instagram, Facebook и новостные СМИ. Чтобы предотвратить воздействие этих развивающихся угроз, организации могут использовать эту передовую технологию для защиты своего публичного имиджа и доверия. Решение Pulse от Pindrop решает эту проблему, обнаруживая глубокие подделки с исключительной точностью.
Применяя Pulse Inspect, пользователи могут загружать аудиофайлы в платформу Pindrop, чтобы быстро и точно определить, содержат ли эти файлы синтетическую речь. Pindrop предоставляет немедленную оценку глубоких подделок и возможность увидеть конкретные части файла, которые были определены как содержащие синтетические или глубокие артефакты, так что пользователь может уделить больше внимания этому сегменту при просмотре и проведении анализа. С помощью Pulse Inspect пользователи могут быстро принять меры по защите целостности контента перед его распространением на любой онлайновой новостной, социальной или издательской платформе.
"Уже более десяти лет Pindrop находится на переднем крае инноваций в области аутентификации и безопасности голоса. Например, в начале этого года мы обнаружили исходный TTS-движок, использованный в инциденте с глубокой подделкой голоса Байдена, а о критической необходимости надежных механизмов обнаружения глубоких подделок я громко и ясно говорил в разговорах с десятками заинтересованных сторон в разных отраслях", - сказал соучредитель и генеральный директор Pindrop Виджай Баласубраманиян (Vijay Balasubramaniyan). "Сегодня мы запускаем Pulse Inspect, чтобы расширить наши знания и опыт в области обнаружения глубоких подделок для таких организаций, как СМИ, некоммерческие организации, правительства и сети социальных сетей в переломный момент истории. С помощью Pulse Inspect мы даем организациям возможность защитить целостность своего контента и вернуть доверие в современную цифровую эпоху"
Pulse Inspect работает на основе передовой технологии обнаружения подделок Pindrop, которая, по данным NPR, в независимом исследовании оказалась на 40 процентных пунктов эффективнее, чем у ближайшего конкурента. Pindrop обучил свою модель обнаружения фальшивок на 350+ инструментах генерации фальшивок, 20М+ уникальных высказываниях и 40+ языках, что охватывает более 90% разговорных языков Интернета. Непрерывные оценки deepfake предоставляются каждые четыре секунды, позволяя идентифицировать синтетический и человеческий контент в смешанных медиа. Непрерывное отслеживание "живости" позволяет Pulse Inspect определять, какие сегменты аудио являются синтетическими, а какие - настоящими, что особенно полезно, когда только часть аудио является deepfake. Простая в использовании платформа пакетной обработки, управляемая API, и простой пользовательский интерфейс обеспечивают четкий анализ (синтетический и несинтетический) с настраиваемыми пороговыми значениями в зависимости от допустимого риска, что в конечном итоге экономит время, деньги и ресурсы.
"Будучи лидером в области синтетического голоса для Голливуда, компания Respeecher установила принципы и политику, гарантирующие, что наша технология не будет использоваться не по назначению, и мы по-прежнему стремимся стать первопроходцами в этической разработке и использовании технологии клонирования голоса ИИ", - сказал Алекс Сердюк, генеральный директор и соучредитель компании Respeecher, партнера Pindrop. "Технология Pulse Inspect от Pindrop помогает нам убедиться в том, что наша технология обнаружения опережает генеративные угрозы атак ИИ. Мы рады запуску Pindrop Pulse Inspect и с нетерпением ждем, когда эта технология окажется в руках наших совместных клиентов, чтобы они могли криминалистически исследовать любое аудио и определить его синтетическое происхождение"
"Учитывая предстоящие выборы в США и резкий рост числа синтетических аудиозаписей, сгенерированных искусственным интеллектом, которые появятся в таких звонках в 2024 году, YouMail, сервис визуальной голосовой почты и блокировки робозвонков, признает Pindrop Pulse Inspect лучшим решением для точного обнаружения подделок в голосовых звонках", - сказал Майк Рудольф, директор по технологиям YouMail. "Технология Pindrop не только устойчива к различным аудиоформатам, но и впечатляюще точна в масштабе. Мы рады сотрудничать с Pindrop, чтобы выявлять робозвонки, связанные с выборами, которые являются глубокой подделкой, особенно учитывая, что объем таких звонков увеличивается во время критического сезона выборов в США"
"TrueMedia.org - это некоммерческий, беспартийный проект в области искусственного интеллекта, направленный на борьбу с дезинформацией в политических кампаниях путем выявления манипулируемых СМИ", - сказал Орен Этциони (Oren Etzioni), генеральный директор TrueMedia.org. "Наша комплексная оценка показала, что технология глубокого обнаружения аудиоподделок Pindrop обладает более высокой точностью, чем другие альтернативы, в обнаружении синтетической речи. Мы рады сотрудничать с Pindrop в этой миссии и добавить технологию обнаружения фальшивок Pindrop в решение для наших клиентов и пользователей по всему миру"
Add as a preferred source on Google
