Deepfakes devrait faire peur à Bejeezus qui vit

Avec le nouveau logiciel, vous pouvez modifier, éditer et supprimer des mots qui sortent de la bouche d'une personne en tapant simplement le texte.

Avec le nouveau logiciel, vous pouvez modifier, éditer et supprimer des mots qui sortent de la bouche d'une personne en tapant simplement le texte. YouTube / Ohad Fried

Je sais ce que vous pensez: j'espère qu'un jour il y aura un moyen vraiment effrayant et facile de créer de fausses vidéos et de la désinformation. En même temps, les gens semblent dire des mots qu’ils n’ont jamais prononcés à l’origine.

Rassurez-vous, ce cauchemar dystopique de Philip K. Dick … est maintenant une réalité,

Abonnez-vous à la lettre d'information Observer Business

Des chercheurs de l’Université Stanford, de l’Institut Max Planck d’informatique, de l’Université de Princeton et d’Adobe Research ont mis au point un logiciel permettant de manipuler et de modifier les déclarations contenues dans les vidéos afin de créer une contrefaçon réaliste.

Aïe.

Je suis heureux que cela ne tombe jamais entre de mauvaises mains et ne provoque pas un incident international majeur.

Tout comme la vie n'était pas assez satisfaisante pour pêcher les gens sur Tinder ou Twitter, il existe maintenant un logiciel qui utilise l'apprentissage automatique et des modèles 3D du visage d'une cible pour générer de nouvelles séquences qui vous permettent d'utiliser les mots d'un ami. peut changer, éditer et enlever la bouche de la personne en vidéojuste en tapant le texte, Et ces changements semblent avoir un flux audiovisuel sans faille, sans coupure.

Je pourrais décrire exactement le fonctionnement de la technologie du logiciel, mais il existe en fait une vidéo qui fait tout cela pour moi.

Comme je l'ai mentionné plus tôt, il existe déjà un pool illimité d'idées qui pourraient utiliser cette technologie à des fins pervers. Gardons cela loin des super méchants. Droit?

Rappelez-vous comment les fous sont devenus l'autre semaine quelqu'un a retravaillé une vidéo de Nancy Pelosi la faire paraître saoule? Imaginez que quelqu'un utilise ce logiciel pour prétendre que Nancy Pelosi a juré comme un marin ivre – ou a craché une rhétorique raciste – et que la vidéo a ensuite été diffusée dans le monde entier.

Ou, après le rassemblement Charlottesville Unite the Right, imaginez quelqu'un photographiant et manipulant Trump pour créer l'apparence de "très bonnes personnes …" des deux côtés. Oh, attendez une minute acte Dis ça … peu importe.

Le logiciel Deepfake semble être l'équivalent de Noël pour une ferme de trolls russe – maintenant que la saison des élections commence en 2020. Nous avons déjà des pornos de vengeance dans le monde; Imaginez quels mots un amant blessé pourrait mettre dans la bouche de son ex avant d'envoyer une fausse vidéo aux membres de sa famille. Ugh.

Déjà depuis Adobe Research Je suis certain que cet outil deepfake ne prendra que quelques années pour figurer dans la dernière mise à jour du logiciel de montage vidéo Adobe Premiere Pro. Comment cela pourrait-il mal tourner?

Le site de recherche de logiciels est emballé avec énormes disclaimers et paragraphes sur des considérations éthiques:

Nous pensons également qu’il est important de demander l’autorisation des artistes-interprètes avant que la vidéo résultante ne soit accessible à un public plus large.

Et …

Nous reconnaissons que les mauvais acteurs pourraient utiliser de telles technologies pour simuler des déclarations personnelles et diffamer des personnalités. Nous sommes préoccupés par de telles déceptions et abus.

De plus en plus de deepfakes semblent apparaître partout. Deux artistes, Bill Poster et Daniel Howe, ont collaboré avec l'agence de publicité Canny créer une vidéo de Mark Zuckerberg assis à un bureau et prononçant un discours sinistre sur le pouvoir de Facebook.

Deepfake Zuck a été créé à l'aide de la technologie Video Dialog Replacement (VDR) de CannyAI et est associé à une vidéo de septembre 2017 de Zuckerberg contenant une adresse sur l'interférence des élections russes sur Facebook. La vidéo a été publiée pour tester les directives de modération du contenu de Facebook.

Joe Rogan a également reçu le traitement Deepfake Dessa, de la compagnie KI, a récemment publié un son qui ressemble à celui du podcasteur, il parle du hockey sur chimpanzé.

Bon que cela ne soit utilisé que dans le but de bien, non? Aucun "mauvais acteur" n'a jamais de logiciel pour pas bonnes causes.

meilleur scénario: Excellent outil pour résoudre les problèmes de post-production lors de la production de documentation et de la création de Snapchat amusants.

Le pire scénario: Troisième guerre mondiale

Pourquoi AI Deepfakes devrait effrayer de votre vivant Bejeezus

Deepfakes devrait faire peur à Bejeezus qui vit
4.9 (98%) 32 votes
 

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *