Предвзятость в создании изображений при помощи искусственного интеллекта – хорошо изученное явление, однако потребительские инструменты все еще демонстрируют культурные предвзятости. Недавно TechCrunch поделился информацией о чат-боте от Meta*, который, кажется, упорно добавляет тюрбан к изображениям индийских мужчин.
Этот чат-бот, известный как Meta* AI, был запущен в нескольких странах через WhatsApp, Instagram*, Facebook* и Messenger. Однако его запуск для пользователей в Индии, одном из самых крупных рынков компании, был отложен. TechCrunch провели исследование, изучая культурно-специфические особенности запросов в рамках тестирования ИИ.
Оказалось, что Meta* блокирует запросы, связанные с выборами в Индии, из-за проводимых там голосований. Однако при генерации изображений с помощью нового генератора Meta* AI, который назвали Imagine, было обнаружено предпочтение к изображениям индийских мужчин в тюрбанах.
TechCrunch провели ряд экспериментов, сгенерировав более 50 изображений с различными запросами, чтобы понять, как система интерпретирует культурные особенности. Они обнаружили, что даже при использовании разнообразных запросов, система продолжает создавать изображения, на которых индийские мужчины носят тюрбаны. Например, даже запрос на «Индийского мужчину, играющего в шахматы» приводил к изображению с тюрбаном.
Также были обнаружены и другие проявления предвзятости. Например, при запросе на «индийского создателя контента» система неоднократно генерировала изображение женщины. Эти результаты указывают на ограниченность разнообразия представления в наборе данных, используемом для обучения Meta* AI.
Представители Meta* заявили, что работают над улучшением технологии генеративного ИИ, но не предоставили подробностей о процессе. Они подчеркнули, что с момента запуска продолжают выпускать обновления и улучшать модели.
Хотя Meta* AI доступен бесплатно и используется миллионами людей по всему миру, включая различные культуры, важно, чтобы компании, такие как Meta*, уделяли внимание разнообразию и избегали укрепления стереотипов. Индия – это многонациональная страна, и инструменты искусственного интеллекта должны лучше отражать эту разнообразную реальность.
Планы Meta* по расширению использования Meta* AI среди пользователей в Индии и Африке свидетельствуют о стремлении компании использовать свои платформы для масштабирования искусственного интеллекта. Однако для успешной реализации этих планов необходимо активное преодоление предвзятостей и учет культурных особенностей различных регионов.