В новом исследовании, опубликованном в журнале Nature, ученые обнаружили, что на различных платформах социальных сетей наблюдаются стойкие проявления токсичности в обсуждениях пользователей, независимо от типа платформы, темы обсуждения или временного периода. Они обнаружили, что продолжительные онлайн-диалоги имеют тенденцию к усилению токсичности и поляризации, особенно когда сталкиваются разные точки зрения. Однако это не отталкивает пользователей.
Ранее проводились исследования, посвященные поляризации, дезинформации и антисоциальному поведению в сети, но полное понимание того, каким образом проявляются человеческие модели поведения на этих платформах, оставалось неясным. Цель нового исследования состояла в заполнении этого пробела, изучив динамику токсичности в различных цифровых средах.
«Социальные сети стали основным средством коммуникации, получения информации и формирования мнений», — поясняет Уолтер Кватрочиокки, профессор информатики в Римском университете Сапиенца, автор исследования. «Токсичность подрывает эти процессы и может негативно сказаться на психическом здоровье пользователей и качестве общественного диалога. Надеясь на обнаружение глубоких механизмов и потенциальных решений для смягчения такого поведения в течение продолжительного периода, мы стремились к созданию более здоровой цифровой среды», — добавил он.
Группа исследователей собрала данные с восьми различных платформ социальных сетей, охватывая общее количество около 500 миллионов комментариев за 34 года. Среди этих платформ были такие широко используемые, как Facebook* (признанная в РФ экстремистской и запрещенная), Twitter и Reddit, а также менее известные, такие как Gab и Voat.
Ученые также включили комментарии из USENET, мировой распределенной системы обсуждения, созданной в 1980 году, более чем за десять лет до того, как интернет стал доступен широкой публике.
Собранные комментарии охватывали различные темы, такие как политика, новости, окружающая среда и вакцинация. Это разнообразие помогло уменьшить предвзятость, которая могла бы повлиять на характер онлайн-диалогов, и позволило получить более общее представление о токсичности в различных контекстах.
«Анализ нескольких платформ является ключом к выявлению истинных моделей человеческого поведения из простых реакций на конкретную интернет-среду», — говорит соавтор исследования, профессор Лондонского университета Андреа Барончелли. «Слишком часто внимание сосредотачивается на конкретной платформе, игнорируя человеческую природу. Наше исследование является важным шагом к изменению этого подхода и возврату к рассмотрению того, кто мы есть и как мы ведем себя».
Для анализа собранных комментариев исследователи использовали Perspective API — современный инструмент машинного обучения, разработанный компанией Google, который предназначен для обнаружения токсичных высказываний, определяемых в данном исследовании как «грубые, неуважительные или необоснованные комментарии, способные заставить человека покинуть дискуссию».
API Perspective присваивает каждому комментарию коэффициент токсичности, который исследователи использовали для определения распространенности и распределения таких комментариев в наборе данных. Применение такого автоматизированного инструмента позволило ученым эффективно обработать огромный объем данных.
Одним из ключевых открытий стало то, что чем дольше продолжается диалог в интернете, тем больше вероятность того, что он станет токсичным. Эта закономерность сохраняется вне зависимости от платформы социальных сетей, темы обсуждения или исторического контекста. Это говорит о том, что по мере продолжения обсуждений они становятся все более поляризованными и враждебными.
«Токсичное поведение распространено на всех типах платформ и в обсуждениях в социальных сетях, даже в контекстах, не предполагающих конфронтации», — сказал Кваттрочиокки. — «Это говорит о том, что, хотя структура платформы и тема разговора имеют большое значение, существуют неотъемлемые аспекты онлайн-коммуникации, которые способствуют токсичности».
Вопреки распространенному мнению о том, что ядовитые комментарии снижают активность пользователей, исследователи обнаружили, что токсичность не отталкивает людей. Более того, пользователи с большей вероятностью продолжат активное участие в дискуссиях, где преобладают агрессивные комментарии. Этот вывод указывает на то, что такая среда не только не отталкивает пользователей, но и способствует вовлеченности, которая заставляет участников беседы возвращаться к обсуждению, возможно, из-за эмоциональной заинтересованности или чувства конфликта.
«Одним из самых удивительных выводов стало то, что беседы часто продолжались несмотря на наличие токсичных комментариев», — говорит Кваттрочиокки. — «Это опровергает общепринятое представление о том, что токсичность только мешает диалогу. Такая устойчивость открывает новые возможности для понимания того, как люди адаптируются к социальной среде и управляют ею».
Исследователи заметили, что эти паттерны токсичности и вовлеченности совпадают на разных платформах социальных сетей. Это позволяет предположить, что динамика токсичности в интернете может быть фундаментальным аспектом взаимодействия людей в цифровом пространстве и не зависит от специфики платформы, культурного бэкграунда или политики модерации.
Несмотря на использование большого объема данных и глубокий анализ, исследование имеет свои ограничения. Одна из основных проблем заключается в том, чтобы отличить присущие человеку модели поведения от тех, на которые влияют дизайн платформы и структуры алгоритмов. Использование автоматизированных систем для выявления токсичности, хотя и необходимое для обработки больших массивов данных, также вносит потенциальные погрешности из-за сложности естественного языка и тонкостей человеческого общения.
Будущие исследования должны быть направлены на совершенствование технологий выявления агрессивных проявлений, понимание триггеров токсичного поведения и изучение роли алгоритмов платформы в формировании этой динамики. Кроме того, изучение влияния этих моделей взаимодействия в офлайн-среде может дать более глубокое представление о природе токсичности в человеческом общении в целом.