Le côté obscur de l’IA et du montage vidéo

Toute cette histoire commence par un papier qui a été publié par des chercheurs de l’UC Berkeley le 22 août 2018, démontrant comment un ordinateur peut superposer un « squelette numérique » à la ressemblance d’un être humain pour faire apparaître la personne comme une bonne danseuse. Cela a l’air amusant, non?

Qui d’entre nous avec deux pieds gauches ne voudrait pas présenter une vidéo de nous-mêmes dansant comme le prochain Michael Jackson ? Cependant, le fait que nous mélangeions l’intelligence artificielle avec des logiciels de montage et de rendu vidéo pourrait avoir des implications assez sinistres en cas d’abus de la technologie.

Présentation des travaux des chercheurs

L’article publié par les chercheurs qui a été mentionné précédemment était essentiellement une démonstration de la façon dont l’apprentissage automatique pouvait être utilisé pour « transférer le mouvement entre des sujets humains dans différentes vidéos », superposant efficacement les mouvements d’une personne sur une autre. Vous pouvez voir les résultats de leur travail ici :

Cela a l’air bizarre et quelque peu drôle, mais les réalités auxquelles nous pourrions être confrontés alors qu’une telle technologie continue de se développer pourraient s’avérer difficiles pour nous en tant que société à l’avenir. Bien que nous utilisions le terme « IA » de manière vague en disant qu’il s’agit d’une démonstration d’une technique de montage vidéo qui met en œuvre le concept, il s’agit certainement de l’un des précurseurs de l’intelligence artificielle (par exemple, « imaginer » quelqu’un dans une situation) .

Parlons des Deepfakes

Utilisez « deepfake » comme terme de recherche sur YouTube, et vous trouverez de nombreuses vidéos conviviales qui présentent des faceswaps de célébrités et des falsifications semi-convainquantes produites sur place. Bien que cela se fasse souvent dans la bonne humeur, tout le monde n’a pas de bonnes intentions avec ce logiciel.

Les deepfakes prennent le profil facial d’un individu et le superposent au visage d’un autre individu. Vous pouvez voir où nous allons avec cela, et si vous ne pouvez pas, le voici : il y a beaucoup de gens qui utilisent cette technique pour créer une vidéo « porno de vengeance » d’autres, les impliquant dans une situation très intimidante où ils trouver leur ressemblance attachée à un contenu explicite et n’avoir aucun recours. On dirait qu’ils ont fait tout ce qui se passe dans la vidéo.

Une technologie de superposition plus avancée pourrait permettre aux ordinateurs de dessiner un squelette virtuel qui permettrait ensuite à des acteurs malveillants de superposer une personne entière dans une situation potentiellement compromettante. Nous nous retrouvons avec un cocktail d’outils qui pourraient être utilisés pour fabriquer des preuves. Un tireur pourrait ressembler à quelqu’un d’autre dans les images de scènes de crime.

Quel effet cela aurait-il légalement ?

La plupart des pays ont déjà un système juridique en place qui définit clairement la falsification des événements ou un faux témoin. En ce qui concerne « l’usurpation d’identité virtuelle » d’un individu, l’utilisation de ces techniques pour modifier une vidéo relève déjà de ces lois.

Là où les choses se compliquent, c’est lorsque les tribunaux admettent des preuves vidéo. Si nous avons la technologie pour trafiquer les vidéos dans la mesure où nous le faisons actuellement, imaginez de quoi nous serions capables dans cinq ans. Comment un tribunal pourrait-il considérer la vidéo soumise comme fiable ? Il n’est pas très difficile de faire un doublon exactement comme un original. Après tout, tout est numérique.

Les tribunaux sont déjà très réticents à accepter des preuves vidéo dans leurs dossiers. Cette progression de la technologie peut en fait les pousser à bout, au point qu’ils ne peuvent plus faire confiance à tout ce qui a été filmé de peur d’accepter quelque chose qui est trafiqué.

En fin de compte, que cela nous plaise ou non, il semble que ce nouveau type de technologie soit là pour rester avec nous, et nous devrons nous adapter en conséquence. L’une des premières mesures que nous pourrions prendre est de faire prendre conscience du fait que les vidéos peuvent être falsifiées beaucoup plus facilement – et avec beaucoup moins de ressources et de compétences – qu’elles ne le faisaient dans les années 80. Finalement, les gens seront plus sceptiques quant aux vidéos qu’ils voient.

« La technologie ne fait que devenir de plus en plus avancée… Les gens vont avoir peur. Et je sympathise sincèrement avec eux. Mais comme la technologie ne peut pas être désinventée, nous devons progresser avec elle. Je suis beaucoup plus un partisan de l’algorithme deepfakes lui-même et de son potentiel que de ce pour quoi il est actuellement utilisé. Mais encore une fois, bienvenue sur Internet.

C’est ce qu’un utilisateur de Reddit en particulier a dit à The Verge dans un article publié en février 2018.

Comment pensez-vous que nous devrions sensibiliser? Que faire d’autre pour s’adapter ? Ayons cette discussion dans les commentaires!