Компания Google объявила о планах доработать свой новый инструмент для создания изображений на основе искусственного интеллекта, после обнаружения, что он чрезмерно корректирует изображения, что вызывает вопросы о расизме. Пользователи утверждают, что бот Gemini отображает изображения представителей различных полов и этнических групп, даже если это исторически неверно.
Например, при запросе на создание изображения отцов-основателей Америки бот предоставлял изображения женщин и людей с другим цветом кожи. «С помощью искусственного интеллекта Gemini генерирует изображения самых различных людей. Обычно это хорошо, так как его используют люди по всему миру. Но в этом случае что-то пошло не так», — отметил Джек Кравчик, старший директор Gemini Experiences. «Мы активно работаем над улучшением работы с такими изображениями».
Это не первый случай, когда искусственный интеллект сталкивается с вопросами о разнообразии. Компания Google уже приходилось извиняться около десяти лет назад, когда ее приложение для обработки фотографий ошибочно определило фотографию чернокожей пары как изображение «гориллы».
Компания OpenAI, конкурент Google, также столкнулась с обвинениями в распространении стереотипов после того, как пользователи обнаружили, что ее генератор изображений DALL-E при запросе «генеральный директор» чаще показывает фотографии белых мужчин.
Кравчик подчеркнул, что Google серьезно относится к вопросам представления и предвзятости и стремится, чтобы ее результаты отражали многообразие пользователей по всему миру. «Исторический контекст содержит больше нюансов, и мы будем продолжать работу в этом направлении», — добавил он в своем сообщении.
В то время как производитель ChatGPT разрабатывает свой продукт для веб-поиска, возможно, на основе поисковой системы Microsoft Bing, остается неясным, будет ли поисковик OpenAI представлен как отдельный продукт, отличный от ChatGPT. Эта разработка ставит OpenAI в прямую конкуренцию с Google и следует за усилиями Microsoft улучшить свою поисковую систему Bing с использованием технологий искусственного интеллекта.