Недавние события показали, что современные офисные технологии, основанные на искусственном интеллекте, могут случайно прослушивать разговоры и раскрывать корпоративные секреты. Инженер и исследователь Алекс Билзерян поделился на платформе X тем, что он столкнулся с проблемой, когда использовал Otter AI для расшифровки встречи Zoom с венчурной компанией. По его словам, этот сервис случайно записал и раскрыл детали конфиденциального разговора.
После завершения встречи Билзерян получил на электронную почту расшифровку разговора, в которой содержались личные обсуждения инвесторов венчурной фирмы. Эти обсуждения касались секретных аспектов их бизнеса, включая неудачи. Когда Билзерян сообщил инвесторам о том, что прочитал их личный разговор, они были весьма смущены. В результате этого инцидента он принял решение отказаться от сделки.
Компания Otter AI оперативно отреагировала на публикацию Билзеряна, заявив, что они понимают его обеспокоенность и прилагают усилия для обеспечения конфиденциальности и безопасности информации. В их комментарии говорилось, что пользователи имеют полный контроль над разрешениями на обмен сообщениями и могут в любой момент изменять, обновлять или отменять эти разрешения. В частности, в этом случае пользователи могли не делиться расшифровками или же делиться ими только с теми, кто использует тот же домен Workspace.
Согласно информации от Otter AI, их помощник на базе искусственного интеллекта, OtterPilot, записывает и расшифровывает только звук во время конференций. Если участник отключит микрофон, запись не будет вестись. Участники также получают уведомление о том, что совещание записывается, а виртуальный помощник отображается как отдельный участник.
Тем не менее, некоторые бизнесмены уже столкнулись с проблемами. Например, Роб Бездижан из Солт-Лейк-Сити однажды пропустил выгодную сделку, отказавшись от записи встречи с потенциальными инвесторами через Otter. Он объяснил, что опасался раскрытия своих идей и в результате не смог зафиксировать важные детали.
Исследователь и защитник конфиденциальности Наоми Броквелл выразила опасения по поводу распространения инвазивных технологий. Она отметила, что искусственный интеллект повышает риск утечки корпоративных секретов, что может привести к судебным искам. Консультант по кибербезопасности Уилл Андре также предостерег от неоправданного использования ИИ в компаниях, рассказав о ситуации, когда на общедоступных серверах его прежней компании оказалась запись обсуждений, касающихся увольнений.
С учетом растущего интереса к искусственному интеллекту, программное обеспечение и устройства на его основе становятся объектом повышенного внимания. Компании, такие как Apple и Google, также активно развивают технологии ИИ. Однако использование ИИ на платформах социальных сетей вызвало недовольство пользователей, особенно в отношении Meta*, которая обучает свой Meta AI*, опираясь на общедоступные данные пользователей.
Ранее аналитики «Точки» сообщали изданию Inc. о том, что запросы по теме искусственного интеллекта в России значительно увеличились. В частности, количество запросов с формулировкой «искусственный интеллект для бизнеса» выросло с 1 228 в сентябре 2022 года до 8 905 в конце августа 2024 года, что составляет рост на 625%.