OpenAI временно остановила разработку функции описания фотографий с помощью ChatGPT. Компания опасается нарушения конфиденциальности и неправильной идентификации личностей и их характеристик.
Разработчики ChatGPT волнуются, что новая функция описания фотографий с помощью чат-бота может вызвать юридические проблемы в Европе и штате Иллинойс, где компании обязаны получать согласие граждан на использование их биометрической информации, сообщает New York Times. Также OpenAI опасается того, что нейросеть может неправильно определять пол и эмоции людей на фотографиях.
Согласно исследованию Сандхини Агарвал, которая занимается политикой OpenAI, технология компании в настоящее время может идентифицировать в основном публичные фигуры. Например, инструмент способен распознавать генерального директора OpenAI Сэма Альтмана, но не других сотрудников компании.
Функция описания фотографий человека не была доступна широкой публике, однако компания Be My Eyes получила ее через API. Be My Eyes занимается соединением слепых людей со зрячими, и с помощью ChatGPT они запустили сервис, который описывает слепым пользователям то, что видит камера на их устройствах.
Джонатан Мозеф, слепой тестировщик функции описания фотографий в продвинутой версии чат-бота, оставил исключительно положительные отзывы о ее использовании. По его словам, возможности ChatGPT в описании изображений значительно превзошли другие программы анализа фотографий.
Однако, спустя некоторое время, описание людей прекратило работу по решению самого ChatGPT. Для Джонатана Мозефа это стало разочарованием, так как он считает, что каждый слепой человек должен иметь равный доступ к информации, как и зрячие.
В марте генеральный директор OpenAI Сэм Альтман заявил, что искусственный интеллект революционно изменит наше общество к лучшему. Тем не менее, он признает, что существуют реальные угрозы от технологий. Альтман уверен, что модели искусственного интеллекта слишком зависимы и контролируемы человеком, и следует быть осторожными в отношении того, кто контролирует эти технологии.