Нe всeгдa лeгкo oтличить рeaльныe фoтoгрaфии oт пoддeльныx. Нo бoльшoe кoличeствo фальшивого контента в Интернете продолжает расти, потому нужен был инструмент для определения фейковых фото.
Компания Jigsaw, которая разрабатывает передовые технологии и принадлежит Google, представила бесплатный инструмент, который, по словам исследователей, может помочь журналистам находить подделанные фотографии, даже созданные с помощью искусственного интеллекта.
Компания Jigsaw, известная как Google Ideas, когда она была основана, заявила, что тестирует инструмент под названием Assembler с более чем десятком организаций по проверке новостей и проверкой фактов по всему миру. Но предлагать инструмент для общественности не планируется.
«Мы наблюдали эволюцию в том, как дезинформация использовалась для манипулирования выборами, ведения войны и разрушения гражданского общества», — написал Джаред Коэн, исполнительный директор Jigsaw в своем блоге.
«Но по мере развития тактики дезинформации развивались и технологии, используемые для обнаружения и в конечном итоге прекращения дезинформации».
Инструмент предназначен для проверки подлинности изображений — или показать, где они могли быть изменены. Репортеры могут подавать изображения в Ассемблер, который имеет семь «детекторов», каждый из которых создан для определения определенного типа техники фотоманипуляции.
Когда с изображением манипулируют, например, два изображения были объединены или что-то было удалено из фона, следы изменений могут остаться позади. Ассемблер может анализировать изображение и выделять эти следы.
Пять детекторов изображений Assembler были разработаны исследовательскими группами в университетах, включая Калифорнийский университет в Беркли; Университет Неаполя Федерико II в Италии; и Университет Мэриленда. Программа может обнаруживать такие вещи, как аномалии цветового рисунка, области изображения, которые были скопированы и вставлены несколько раз, и была ли использована более одной модели камеры для создания изображения.
«Эти детекторы не могут полностью решить проблему, но они представляют собой важный инструмент для борьбы с дезинформацией», — сказала Луиза Вердолива, профессор Неаполитанского университета и приглашенный ученый в Google AI.
Два других детектора были разработаны Jigsaw. Один из них был разработан для идентификации «дип фейков» — реалистичных изображений, которыми искусственный интеллект сильно манипулировал, чтобы ввести аудиторию в заблуждение.
Сантьяго Андриго, менеджер по продукции Jigsaw, сказал, что Assembler может быть «наиболее полезным в ситуации, когда журналист из крупной новостной организации получает скандальное изображение и испытывает давление с целью распространения новостей». Его также можно использовать для проверки изображения, которое стал вирусным, сказал он.
Jigsaw также объявил об интерактивной платформе, показывающей скоординированные кампании по дезинформации со всего мира за последнее десятилетие. Среди них — украинские солдаты, получившие целевую дезинформацию, побуждающую их дезертировать из-за аннексии Крыма Россией в 2014 году.
