Facebook научился обманывать системы распознавания лиц в реальном времени

Исследователи Facebook говорят, что инструмент может бороться с подделками вроде DeepNude. Facebook AI Research утверждает, что она создала систему машинного обучения для де-идентификации людей в видео.
Существует целая категория технологий, которые используют слабые места в том, как программное обеспечение компьютерного зрения было обучено идентифицировать определенные характеристики. Возьмите, к примеру, эту пару солнцезащитных очков с нанесенным на нее враждебным рисунком, который может заставить систему распознавания лиц думать, что вы актриса Милла Йовович.

Но этот тип нарушения распознавания лица обычно означает изменение фотографии или неподвижного изображения, снятого камерой безопасности или каким-либо другим источником, после факта. Технология Facebook AI Research предположительно выполняют аналогичную работу в реальном времени на видеоматериалах, как предварительно снятых, так и в лайф-видео.


Facebook AI Research

Напомним также, что недавно Cloudflare запустила бесплатный сервис для сохранения конфиденциальности для смартфонов.

Как законодатели, так и технологические компании пытаются придумать инструменты, для борьбы с распространением подделок, такие как программное обеспечение для глубокого обнаружения и нормативно-правовую базу для контроля за распространением поддельных видео, изображений и аудио.

В дополнение к упомянутым выше альтруистическим работам, стремление Facebook быть лидером в этой области может проистекать из-за разногласий по поводу использования платформ для распространения дезинформации и собственных применений технологии распознавания лиц.


Комментарии