По сообщению Financial Times, в Венесуэле были созданы пропагандистские видеоролики с использованием искусственного интеллекта (ИИ). Это вызвало обеспокоенность относительно распространения фейковой информации, созданной при помощи ИИ.
Что случилось
Financial Times сообщает, что YouTube заблокировал пять аккаунтов, которые распространяли дезинформацию, связанную с правительством Венесуэлы, а также использовали искусственный интеллект (ИИ) для создания фейковой информации. Видеоролики, созданные при помощи программного обеспечения, разработанного британской технологической компанией Synthesia, были размещены на одном из заблокированных каналов YouTube, названном House of News. В них содержались фальшивые новости о карнавалах, нищете и временном правительстве Венесуэлы, которые набрали сотни тысяч просмотров.
Образы ведущих были созданы при помощи технологии компании Synthesia, которая использует алгоритмы машинного обучения для создания аватаров. Голоса ведущих были синтезированы, а их американский акцент был сгенерирован. В ответ на данный случай компания Synthesia заблокировала доступ своего венесуэльского клиента к сервису и ввела ограничения на использование своей технологии. Теперь ее разработка запрещена для создания контента в новостных репортажах, а созданные видеоролики будут автоматически помечаться соответствующим цифровым водяным знаком. Однако это не первый случай использования технологии Synthesia для создания политических фейков: в январе были созданы видео с фальшивыми новостями о Мали, а в феврале она использовалась китайскими клиентами для тех же целей.
Почему это важно
Агентство по мониторингу дезинформации Cazadores de Fake News, возглавляемое директором Адрианом Гонсалесом и базирующееся в столице Венесуэлы Каракасе, выразило обеспокоенность тем, что «дезинформация может процветать в информационной пустыне Венесуэлы» из-за широко распространенных пропагандистских СМИ. Financial Times сообщает, что возможность создания и распространения информационных фейков с помощью искусственного интеллекта вызывает опасения в связи с ограниченным доступом населения к альтернативным источникам информации, обусловленным государственной цензурой.
Согласно Financial Times, использование искусственного интеллекта для генерации информационных фейков расширяет границы медиаграмотности и вызывает вопросы об ограничении его использования. Продукты на основе искусственного интеллекта широко используются в различных сферах, от школьников до профессиональных программистов. Однако чат-боты на основе искусственного интеллекта, подобные ChatGPT, могут «галлюцинировать», т.е. распространять ложную информацию, быть предвзятыми и поддерживать теории заговора, расистские и гендерные стереотипы, что вызывает серьезные опасения.
Контекст
Начиная с 2013 года, Венесуэла столкнулась с кризисом, вызванным смертью президента Уго Чавеса и избранием на его место Николаса Мадуро. Согласно отчету организации гражданского общества ProBox, занимающейся мониторингом дезинформации в социальных сетях Венесуэлы, правительство страны вознаграждало людей, распространяющих информацию, выгодную для политики Мадуро, с использованием системы социального кредитования.