Современная «экономика намерений» активно использует искусственный интеллект для прогнозирования и влияния на выбор людей, превращая их стремления в коммерческий актив. Однако эксперты Кембриджского университета предупреждают о серьезных этических рисках, связанных с возможными манипуляциями, и призывают к строгой регуляции, чтобы избежать злоупотреблений.
Согласно мнению специалистов Кембриджского центра Леверхалма, стремительное развитие генеративного ИИ и популярность чат-ботов знаменуют собой начало новой эпохи «технологий убеждения». Эти изменения подтверждаются стратегическими шагами крупнейших технологических корпораций, демонстрирующих растущий интерес к подобным разработкам. Программные агенты с «человеческими чертами», такие как цифровые помощники и виртуальные наставники, способны использовать персональные данные, собранные в процессе взаимодействия, для создания доверительных отношений. Однако это открывает широкие возможности для манипуляции.
Доктор Якуб Чаудхари из Кембриджского центра Леверхалма отмечает, что значительные инвестиции в разработку ИИ-помощников вызывают вопросы о целях их применения. По его словам, данные, которые собираются во время взаимодействия с такими агентами, отличаются глубокой личной вовлеченностью, что делает их особенно ценными для анализа и дальнейшей коммерциализации.
Чаудхари подчеркивает, что уже создаются инструменты ИИ, способные распознавать, интерпретировать и направлять человеческие намерения в интересах коммерческих целей. Эта тенденция вызывает опасения, связанные с потенциальной потерей контроля над личными данными.
Историк технологий доктор Джонни Пенн добавляет, что в интернет-эпоху внимание пользователей давно стало ключевым активом, а социальные сети активно монетизируют этот ресурс. Он предупреждает, что без регуляции «экономика намерений» может превратиться в новую валюту, предоставив бизнесу и политикам инструменты для масштабного влияния на людей.
По мнению Чаудхари и Пенна, большие языковые модели (LLM) предоставляют платформам и рекламодателям мощный инструмент для точечного воздействия, учитывающего политические взгляды, предпочтения и поведенческие особенности пользователей. Это усиливает риски манипуляций с целью получения коммерческой или политической выгоды.
Ранние проявления экономики намерений уже видны в инициативах крупных корпораций. Например, в блоге OpenAI за 2023 год упоминался призыв к сбору данных, отражающих намерения людей на разных языках и в различных контекстах. Компания Shopify в лице директора по продуктам указала на возможности чат-ботов для определения намерений пользователей.
В 2024 году Apple представит платформу App Intents, которая позволит разработчикам интегрировать свои приложения с Siri. Эта система будет использовать протоколы для предсказания действий пользователей. Среди других примеров – ИИ-агент CICERO от Meta*, который демонстрирует высокий уровень анализа намерений в стратегической игре «Дипломатия», сравнимый с человеческим.
«Технологии уже научились монетизировать наше внимание, но следующим шагом станет прогнозирование желаний пользователей ещё до того, как они осознают их», – отмечает Чаудхари. Пенн акцентирует внимание на необходимости общественной осведомленности, чтобы минимизировать риски таких трансформаций.
Дополнительно, исследователи подчеркивают, что ИИ способен учиться подобно людям, используя объяснения, симуляции, аналогии и рассуждения. Такой подход демонстрирует схожесть и различия между естественным и искусственным мышлением, открывая перспективы как для изучения когнитивных процессов человека, так и для анализа возможностей и ограничений искусственного интеллекта.