Используемый искусственный интеллект Meta*, который в России признан экстремистским и запрещенным, подвергся суровой критике из-за своей очевидной неспособности генерировать изображения пар, состоящих из людей разных рас. Когда CNN запросила создание изображения азиатского мужчины и его белой жены, инструмент предоставил множество изображений мужчин и женщин, которые визуально напоминали представителей Восточной Азии. Аналогичная ситуация возникла, когда CNN попросила создать изображение азиатки и белого мужчины.
Отвечая на запрос о создании изображения чернокожей женщины и белого мужчины, искусственный интеллект Meta* представил несколько изображений с чернокожими парами. Однако, когда CNN попросила сгенерировать изображение чернокожего еврея и его азиатской жены, система выдала фотографию чернокожего мужчины в ермолке и азиатской женщины. После множества попыток со стороны CNN получить изображение межрасовой пары, инструмент в конце концов предоставил изображение белого мужчины с черной женщиной и белого мужчины с азиатской женщиной.
Meta* представила свой генератор изображений с искусственным интеллектом в декабре. Первым об этой проблеме сообщило издание The Verge, отметив, что инструмент не в состоянии «представить» азиатского мужчину рядом с белой женщиной. В ответ на запрос CNN на создание изображения межрасовой пары, инструмент Meta* отвечал: «Это изображение не может быть создано. Пожалуйста, уточните запрос».
Важно отметить, что в США межрасовые пары являются распространенным явлением. Согласно переписи населения США 2022 года, около 19% всех браков составляют смешанные пары, а почти 29% — неженатых.
В ответ на запрос CNN о комментарии к ситуации, Meta* направила сообщение в своем блоге, опубликованное в сентябре, посвященное ответственному подходу к созданию генеративных функций искусственного интеллекта. «Мы предпринимаем шаги для борьбы с предвзятостью. Решение проблемы потенциальных искажений в системах генеративного искусственного интеллекта — это новое направление исследований», — говорится в блоге. «Как и в случае с другими моделями искусственного интеллекта, чем больше людей используют эти функции и делятся обратной связью, тем лучше мы сможем усовершенствовать наш подход».
В генераторе изображений искусственного интеллекта Meta* также предусмотрено предупреждение, согласно которому изображения, созданные искусственным интеллектом, «могут быть неточными или неуместными». Несмотря на множество заявлений о потенциале генеративного искусственного интеллекта со стороны представителей технологической индустрии, ошибки генератора изображений Meta* показывают, что инструменты генеративного искусственного интеллекта все еще сталкиваются с серьезными трудностями в работе с концепцией расы.
Ранее в этом году Google объявила о приостановке работы своего инструмента искусственного интеллекта Gemini по созданию изображений людей после того, как он получил критику в социальных сетях из-за генерации исторически неточных изображений, на которых вместо белых людей были изображены люди других рас. В то же время генератор изображений Dall-E от OpenAI также подвергся критике за распространение опасных расовых и этнических стереотипов.
Инструменты генеративного искусственного интеллекта, созданные Meta*, Google и OpenAI, обучаются на огромных объемах онлайн-данных, и исследователи давно предупреждают о возможности воспроизводства расовых предвзятостей, но в гораздо большей степени.
Организация MSI Reproductive Choices (ранее известная как Marie Stopes International) и Центр противодействия цифровой ненависти заявляют, что Meta* и Google ограничивают рекламные возможности местных поставщиков услуг по абортам, но не борются с дезинформацией, которая мешает доступу населения к репродуктивному здоровью. В их отчете отмечается, что посты о абортах и контрацепции были удалены, в то время как дезинформация в социальных сетях в Африке, Латинской Америке и Азии не была заблокирована.