На Национальной астрономической встрече Королевского астрономического общества было представлено новое исследование, демонстрирующее метод обнаружения дипфейков. Ученые обнаружили, что анализ отражений в глазах может помочь выявить подделки изображений, хотя этот метод и имеет некоторые погрешности.
В условиях, когда искусственный интеллект позволяет легко создавать поддельные изображения, умение отличать их от настоящих становится всё более актуальным. Исследователи предполагают, что глаза могут служить ключом к распознаванию дипфейков.
Анализ отражений в глазах человека, аналогичный методам, используемым астрономами для изучения галактик, может помочь обнаружить подделки. Исследование, проведенное под руководством магистранта Университета Халла Адеджумоке Оволаби, сосредоточилось на анализе согласованности отражений света в глазах. Несоответствия в этих отражениях часто указывают на подделку.
«Отражения в глазах соответствуют реальному человеку, но неверны с точки зрения физики для подделки», — поясняет Кевин Пимблет, профессор астрофизики и директор Центра передового опыта в области науки о данных, искусственного интеллекта и моделирования Университета Халла.
Исследователи проанализировали, как свет отражается на глазных яблоках людей на реальных и сгенерированных изображениях. Они применили методы астрономии для количественной оценки отражений и проверили согласованность между отражениями в левом и правом глазах. В поддельных изображениях часто отсутствует согласованность отражений, в то время как в реальных изображениях отражения в обоих глазах обычно совпадают.
«Для измерения формы галактик мы анализируем их компактность, симметрию и гладкость, а также распределение света», — добавляет Пимблет. — Мы автоматизируем обнаружение отражений и проверяем их морфологические особенности с помощью индексов CAS (концентрация, асимметрия, гладкость) и Джини, чтобы оценить сходство между левым и правым глазами».
Результаты исследования показывают, что дипфейки имеют различия в отражениях глаз. Коэффициент Джини, который используется для измерения распределения света на изображениях галактик, также применяется для анализа дипфейков. Параметры CAS, разработанные астрономами для изучения распределения света в галактиках, оказались менее успешными для выявления подделок.
«Этот метод не является идеальным решением для обнаружения фальшивых изображений, — отмечает Пимблет. — Существуют ложноположительные и ложноотрицательные результаты; он не сможет выявить все подделки. Но это дает определенный план действий в борьбе с дипфейками».
Ранее Microsoft и OpenAI объявили о создании фонда в размере $2 миллионов для борьбы с рисками, связанными с использованием ИИ и дипфейков для манипуляции общественным мнением и подрыва демократии. «Фонд социальной устойчивости» направлен на повышение осведомленности о воздействии ИИ на уязвимые сообщества.