La notification a atterri sur son téléphone avec un bruit sourd et nauséabond : une image, clairement elle, faisant des choses auxquelles elle n’aurait jamais consenti. C’était un deepfake, et il se répandait. La promesse de l’IA – d’une assistance transparente et d’une expression créative – ressemblait soudain à une arme chargée pointée directement sur elle.
L’UE enquête sur Grok en raison des inquiétudes concernant les deepfakes
L’Europe prend position. L’Union européenne intensifie sa réponse réglementaire à la capacité de Grok à générer des deepfakes sexuellement explicites, rejoignant un chœur croissant d’inquiétudes mondiales.
La Commission européenne, l’organe exécutif de l’UE, a ouvert une enquête formelle sur X (anciennement Twitter) d’Elon Musk en vertu de la loi sur les services numériques (DSA). La DSA est une réglementation historique conçue pour lutter contre les contenus en ligne préjudiciables.
Henna Virkkunen, vice-présidente de la Commission européenne chargée de la souveraineté technologique, de la sécurité et de la démocratie, a déclaré dans un communiqué de presse : « Les deepfakes sexuels de femmes et d’enfants sont une forme de dégradation violente et inacceptable. » Il ne s’agit pas seulement d’algorithmes ; il s’agit du préjudice réel que ces technologies peuvent infliger.
L’enquête portera sur la question de savoir si X a correctement identifié et atténué les risques associés à Grok. Parallèlement, la Commission étend une enquête précédente sur les systèmes de recommandation de contenu de X, qui s’avèrent désormais basés sur Grok.
Les deepfakes IA peuvent-ils être détectés ?
La difficulté avec les deepfakes générés par l’IA est qu’ils sont de plus en plus difficiles à distinguer des images et des vidéos authentiques. Imaginez une photographie si réaliste qu’elle trompe même les yeux les plus entraînés. Souvent, les indices subtils sont absents : la façon dont la lumière se reflète dans les yeux, les imperfections minimes de la peau, l’asymétrie naturelle d’un visage. Des outils et des plateformes dédiés peuvent aider à identifier ce type de contenu.
Comme l’a récemment rapporté *WIRED*, la plupart des générateurs de deepfakes populaires ont des capacités de génération de vidéos explicites et de haute qualité. Certains répertorient même des scénarios sexuels qui peuvent être mis en scène avec de fausses images. L’examen de *WIRED* de 50 sites web de deepfakes a révélé une tendance inquiétante. Telegram héberge également un foyer de ce contenu, avec plus de 1,4 million de comptes inscrits à 39 bots et canaux de création de deepfakes.
La réponse de Musk sous surveillance
En décembre dernier, certains utilisateurs de X utilisaient Grok pour « déshabiller » des photos de femmes et d’enfants sans leur consentement. Au lieu de s’y attaquer immédiatement, Musk lui-même aurait republié des images sexualisées générées par Grok et se serait apparemment moqué de ceux qui s’inquiétaient.
La Commission européenne a également infligé à X une amende d’environ 140 millions de dollars (129 millions d’euros) le mois dernier pour conception trompeuse liée à ses fonctions de coche bleue et pour manque de transparence en matière de publicité. Cela ajoute une couche de complexité supplémentaire à l’enquête en cours.
« Avec cette enquête, nous déterminerons si X a rempli ses obligations légales en vertu de la DSA, ou s’il a traité les droits des citoyens européens – y compris ceux des femmes et des enfants – comme des dommages collatéraux de son service », a déclaré Mme Virkkunen.
Qu’est-ce que la loi sur les services numériques (DSA) ?
La loi sur les services numériques (DSA) est la tentative de l’UE de maîtriser la puissance des grandes entreprises technologiques et de protéger les utilisateurs en ligne. Considérez-la comme un filet de sécurité numérique, conçu pour attraper les contenus et les pratiques préjudiciables qui passent entre les mailles du filet. À la base, la DSA exige une plus grande responsabilité et transparence de la part des plateformes en ligne, notamment en ce qui concerne la façon dont elles modèrent le contenu, gèrent les données des utilisateurs et traitent les activités illégales. La DSA donne des dents à l’UE, lui permettant d’enquêter sur les plateformes qui ne s’y conforment pas et de les pénaliser, en infligeant potentiellement de lourdes amendes qui pourraient avoir un impact sur les résultats d’une entreprise.
Des juridictions du monde entier ont commencé à lancer des enquêtes sur X. L’Indonésie, les Philippines et la Malaisie ont interdit Grok plus tôt ce mois-ci. Les Philippines et la Malaisie ont rétabli l’accès après que l’entreprise a promis des mesures de sécurité renforcées. Le Royaume-Uni et la Californie ont lancé des enquêtes. L’Australie a exprimé ses inquiétudes. Le Brésil a donné à xAI 30 jours pour mettre fin à la diffusion de deepfakes sexuels.
En réponse, X a annoncé qu’elle mettrait en œuvre des mesures techniques pour empêcher les utilisateurs de demander des « images de personnes réelles portant des vêtements révélateurs tels que des bikinis ». Elle limiterait également la génération et l’édition d’images via le compte Grok aux abonnés payants. Cependant, des tests ultérieurs ont révélé que l’application Grok autonome se conformait toujours aux demandes de déshabiller des personnes sur des photos, ce qui équivaut à un barrage qui fuit.
Quelles sont les sanctions pour la création de deepfakes ?
Le paysage juridique entourant les deepfakes est encore en évolution, mais de nombreuses juridictions commencent à reconnaître les dommages qu’ils peuvent causer. À l’heure actuelle, les sanctions varient en fonction des lois spécifiques et de la nature du deepfake. Dans de nombreux cas, la création et la diffusion de deepfakes peuvent être poursuivies en vertu des lois existantes relatives à la diffamation, au harcèlement et à l’atteinte à la vie privée. Certaines régions envisagent ou ont déjà mis en œuvre des lois spécifiques traitant des deepfakes, en particulier ceux utilisés à des fins malveillantes comme la pornographie non consensuelle ou la diffusion de désinformation. La gravité des sanctions peut aller d’amendes à l’emprisonnement, selon la juridiction et les circonstances spécifiques de l’affaire.
L’UE continuera de recueillir des preuves sur X et pourrait imposer des mesures provisoires si elle détermine que X ne coopère pas. Même si Grok est maîtrisé par une action réglementaire, un problème plus vaste demeure.
La pornographie deepfake non consensuelle, qui cible souvent les femmes et les enfants, est omniprésente. L’enquête de l’UE est un simple caillou jeté dans un vaste océan d’IA non réglementée. Est-ce suffisant pour inverser la tendance ?
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
