Avec l'utilisation de plus en plus fréquente de
l'intelligence artificielle (IA) sur les photos et
les vidéos , le contenu «deepfake» est devenu très courant
sur Internet. Bien que bon nombre de ces contenus soient conçus
pour le plaisir et le divertissement , ceux-ci peuvent encore
devenir des sources de désinformation pour la population moins
informée. Ainsi, pour lutter contre la propagation de la
désinformation et des fausses nouvelles via des images et des vidéos
«deepfake», Microsoft a créé un outil capable de détecter les images et les
vidéos créées par l'IA.
L'outil «Video Authenticator», développé par la division R&D du géant
du logiciel basé à Redmond, peut analyser des images et des vidéos et détecter si celles-ci sont
artificielles ou réelles. L'outil étudie les vidéos et les images et leur donne «un
pourcentage ou un score de confiance».
«Aujourd'hui, nous annonçons Microsoft Video Authenticator. Il peut
analyser une photo ou une vidéo fixe pour fournir un pourcentage de ou un
score de confiance, que le média soit manipulé artificiellement. »,
A écrit les dirigeants de Microsoft dans un article de blog officiel .
Selon Microsoft, en cas d'analyse de vidéos, l'outil fournira le
«pourcentage de réalité» pour chaque image de la vidéo en temps réel.
Bien que la détection de supports manipulés par l'IA puisse être difficile,
la société affirme que l'outil «fonctionne en détectant la limite de fusion des éléments de fondu
profond et subtil ou en niveaux de gris qui pourraient ne pas être
détectables par l'œil humain.»
Pour en venir à quelques détails techniques, l'outil «Video Authenticator»
a été développé en utilisant un jeu de données public de FaceForesnics ++ . Il a ensuite été testé sur l'ensemble de données DeepFakeDetection Challenge . Et selon Microsoft, ces deux sont les «principaux modèles pour la formation et le test des technologies de
détection de deepfake» .
Le géant basé à Redmond collabore avec une AI Foundation de San Francisco
pour distribuer l'outil. De L'entreprise, avec l'introduction de cet
outil, Microsoft vise à empêcher la propagation de la désinformation,
en particulier avant les élections américaines.
Ainsi, l'outil sera distribué aux organisateurs de la campagne
électorale et aux médias couvrant l'actualité politique.
COMMENTS