Чанпенг Чжао, бывший генеральный директор криптовалютной биржи Binance, опубликовал тревожное сообщение в социальной сети X, в котором выразил обеспокоенность по поводу развития технологий искусственного интеллекта (ИИ), особенно в сфере клонирования голосов.
В своем посте Чжао рассказал, как он случайно наткнулся на видеоролик, в котором его голос был имитирован с такой точностью, что он сам не смог бы отличить подделку от реальной записи. В ролике, созданном с помощью передовых ИИ-алгоритмов, якобы был показан его голос, говорящий на мандаринском диалекте китайского языка. Для публикации Чжао выбрал фрагмент этого видео, чтобы наглядно продемонстрировать возможности технологий.
Эта ситуация не уникальна: за последние годы в области клонирования голосов произошло значительное продвижение благодаря таким разработкам, как ElevenLabs и Resemble.ai. Эти технологии позволяют создавать настолько реалистичные аудиозаписи, что иногда трудно отличить настоящий голос от синтезированного. Однако эксперты уже предупреждают о потенциальных рисках, связанных с подобными возможностями — включая распространение дезинформации, мошенничество и даже фальсификацию голосов известных личностей с целью манипуляции общественным мнением.
Подобные случаи не ограничиваются только опасностями для частных лиц. Например, ранее издание U.Today сообщало о новом виде мошенничества с использованием криптовалюты XRP, когда злоумышленники клонировали голос генерального директора Ripple Брэда Гарлингхауса для обмана пользователей.
В ответ на эти угрозы уже разрабатываются инструменты для распознавания голосов, созданных с помощью ИИ. Такие системы призваны помочь в борьбе с фальсификацией и выявлении подделок, что особенно важно в условиях растущего использования подобных технологий.