Facebook хочет научить искусственный интеллект обнаруживать поддельные видео — Роботех

Facebook хочет научить искусственный интеллект обнаруживать поддельные видео

В сентябре Facebook организовал странный кастинг. Компания разослала приглашения разным людям и попросила их глядя в камеру смартфона или ноутбука рассказать о вполне обыденных вещах. В дальнейшем исследователи Facebook будут изменять видео, извлекать лицо каждого человека и накладывать его на голову другого человека. 

Видео на Facebook являются частью обучающего набора данных, который компания собрала для глобального конкурса под названием Deepfake Detection Challenge. В этом конкурсе, проводимом в сотрудничестве с Amazon, Microsoft, некоммерческим партнерством по ИИ и учеными из восьми университетов, исследователи по всему миру стремятся создать автоматизированные инструменты, способные выявлять мошеннические видео.

Кристиан Кантон Феррер помог организовать соревнование в качестве менеджера по исследованиям в AI Red Team из Facebook, которая анализирует угрозы, которые ИИ представляет для гиганта социальных сетей. Он говорит, что глубокие подделки представляют растущую опасность не только для Facebook, но и для демократических обществ. 

Хотя поддельные видео еще не приводили к полномасштабному скандалу, итальянская публика недавно ощутила вкус возможностей. В сентябре сатирическое новостное шоу показало фальшивое видео с участием бывшего премьер-министра Италии, которое явно оскорбляло других политиков. Большинство зрителей поняли, что это пародия, но некоторые приняли видео за оригинал.

Кантон Феррер говорит, что президентские выборы в США в 2020 году являются дополнительным стимулом для решения этой проблемы. Он полагает, что манипуляции со СМИ станут гораздо более распространенным явлением в предстоящем году, и что мошенники станут намного более изощренными и правдоподобными. 

Растущая угроза подделок

Насколько легко делать глубокие подделки? Недавний аудит онлайн-ресурсов для изменения видео показал, что доступное программное обеспечение с открытым исходным кодом все еще требует большого количества технических знаний. Тем не менее, в ходе аудита также были обнаружены приложения и сервисы, которые облегчают практически любой процесс. В Китае приложение глубокого редактирования под названием Zao взяло страну штурмом в сентябре, когда оно предложило людям простой способ наложить свои собственные лица на лица таких актеров, как Леонардо Ди Каприо и Мэрилин Монро.

В текущем соревновании детекторы будут сканировать признаки манипуляции на лице. Тем не менее, команда Facebook следит за новыми и появляющимися методами атаки, такими как перестановки всего тела, которые меняют внешний вид и действия человека с головы до пят.  Даже после того, как в марте проблема с обнаружением разрешится, он говорит, что команда Facebook продолжит работу над проблемой подделок.

Add a Comment

Ваш e-mail не будет опубликован. Обязательные поля помечены *