Корпорация Microsoft официально заявила о запрете использования своих технологий искусственного интеллекта (ИИ) для распознавания лиц полицейским департаментам в Соединенных Штатах. Этот новый запрет распространяется на правоохранительные органы по всему миру. В условия предоставления услуг Azure OpenAI Service была добавлена ясная формулировка, которая запрещает использование интеграций с этим сервисом «полицейскими департаментами или для них» для распознавания лиц в США. Это включает в себя интеграции с текущими и будущими моделями анализа изображений OpenAI.
Дополнительный пункт в условиях предоставления услуг прямо запрещает использование «технологии распознавания лиц в реальном времени» на мобильных камерах и видеорегистраторах правоохранительными органами по всему миру для попыток идентификации людей в реальной жизни. Эти изменения произошли после анонса компанией Axon, производителем технологий для военных и правоохранительных органов, о новом продукте, использующем генеративную текстовую модель OpenAI GPT-4 для обобщения аудиозаписей с нательных камер.
Новая политика Microsoft вызвала вопросы у критиков из-за возможных проблем, таких как галлюцинации и расовые предубеждения, которые могут быть внесены в систему из-за обучающих данных. Пока неясно, использовала ли Axon GPT-4 через Azure OpenAI Service, и если да, то была ли обновленная политика ответом на этот продукт.
Полный запрет на использование Azure OpenAI Service касается только полицейских департаментов в США и не распространяется на международные правоохранительные органы. Тем не менее, это новое развитие в подходе Microsoft и ее партнера OpenAI к контрактам с правоохранительными органами и обороной.