L’image est apparue sur mon fil d’actualité : une image hyperréaliste mais clairement fausse d’une personnalité publique dans une pose compromettante. J’ai eu l’impression de recevoir un coup de poing dans l’estomac, un rappel brutal de la facilité avec laquelle la technologie peut être détournée. X, anciennement Twitter, se démène maintenant pour résoudre ce problème, en particulier la montée en flèche des deepfakes sexuels générés par son IA Grok.
Après des semaines de tollé général et d’examen gouvernemental de plusieurs pays, la plateforme de médias sociaux d’Elon Musk tente de freiner son problème de deepfakes sexuels. Mais au lieu d’une solution radicale, X met en œuvre des restrictions progressives.
Dans une publication quelque peu déroutante, le compte @Safety de X a détaillé plusieurs mises à jour de ses fonctionnalités de génération et d’édition d’images par IA. Les règles varient selon que les utilisateurs génèrent ou modifient des images en taguant @Grok ou en allant directement à l’onglet Grok sur X.
Initialement, X a déclaré avoir mis en place des mesures techniques pour empêcher les utilisateurs d’utiliser le compte @Grok pour modifier « des images de personnes réelles portant des vêtements révélateurs tels que des bikinis ». X précise que cette restriction s’applique à tous les utilisateurs, y compris les abonnés premium.
X a également réaffirmé que la génération et l’édition d’images via le compte @Grok sont désormais limitées aux abonnés payants.
« Cela ajoute une couche de protection supplémentaire en aidant à tenir responsables les individus qui tentent d’abuser du compte Grok », a déclaré la société.
Auparavant, X avait annoncé son intention de limiter l’utilisation de @Grok pour modifier des images aux utilisateurs payants. Un porte-parole de Downing Street a déclaré que ce changement « transforme simplement une fonctionnalité d’IA qui permet la création d’images illégales en un service premium ».
Cependant, comme l’a souligné The Verge, les outils de génération d’images de Grok restent disponibles gratuitement lorsque les utilisateurs accèdent au chatbot via le site web et l’application autonomes de Grok, ainsi que via les onglets Grok sur l’application et le site web de X.
La mise à jour la plus importante : X affirme qu’il va maintenant bloquer « la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où c’est illégal ». Cette mise à jour s’applique à la fois au compte @Grok et aux onglets Grok sur X.
Cela arrive alors que les législateurs britanniques s’efforcent de rendre de telles images illégales.
« Nous restons déterminés à faire de X une plateforme sûre pour tous », a déclaré l’entreprise.
Ces changements interviennent après des semaines de réactions négatives concernant l’augmentation récente des deepfakes sexuels sur la plateforme.
Un chercheur en deepfakes a découvert que Grok générait environ 6 700 images à caractère sexuel par heure pendant 24 heures au début du mois de janvier, a rapporté Bloomberg.
Les gouvernements du monde entier ont réagi. La Malaisie et l’Indonésie ont bloqué l’accès à Grok, tandis que les régulateurs au Royaume-Uni et dans l’Union européenne ont ouvert des enquêtes sur des violations potentielles des lois sur la sécurité en ligne.
L’organisme de réglementation en ligne du Royaume-Uni, Ofcom, a déclaré qu’il poursuivrait son enquête malgré les changements.
Aux États-Unis, le procureur général de Californie, Rob Bonta, a annoncé que son bureau avait lancé sa propre enquête sur la question.
Alors que l’examen de Grok s’est intensifié, X a discrètement mis à jour ses conditions d’utilisation pour exiger que toutes les affaires juridiques en cours et futures impliquant l’entreprise soient déposées dans la division Fort Worth du district nord du Texas.
L’organisme de surveillance de gauche Media Matters a déclaré qu’il quitterait la plateforme en réponse aux conditions mises à jour.
Les actions de X contre les deepfakes : pansement ou véritable solution ?
J’ai surpris une conversation dans un café au sujet de l’utilisation de l’image de quelqu’un sans son consentement. Cela m’a frappé : ce n’est pas seulement un problème technologique, c’est une violation avec des conséquences réelles. L’approche multicouche de X ressemble moins à une forteresse qu’à une série de ralentisseurs.
Les restrictions, bien qu’elles semblent être un pas dans la bonne direction, sont fragmentées. En limitant certaines actions aux abonnés payants, X semble ériger un mur payant autour de l’utilisation éthique de l’IA, une décision qui soulève des questions sur l’accessibilité et l’équité. C’est comme mettre un prix élevé sur la dignité humaine fondamentale.
Quels sont les dangers des deepfakes ?
Le danger ne réside pas seulement dans la valeur de choc immédiate. Les deepfakes érodent la confiance. Lorsque nous ne pouvons pas croire nos propres yeux ou nos propres oreilles, les fondations mêmes de la réalité commencent à s’effriter. Ils ont le potentiel de déstabiliser le discours politique, de ruiner des réputations et d’infliger une profonde détresse émotionnelle.
Et qu’en est-il du champ de mines juridique ? À mesure que la technologie des deepfakes devient plus sophistiquée, il devient plus difficile de distinguer ce qui est réel de ce qui est fabriqué, ce qui crée des défis pour les forces de l’ordre et le système judiciaire. La prolifération des deepfakes pourrait potentiellement submerger notre capacité à discerner le fait de la fiction, en particulier avec des modèles d’IA qui deviennent plus facilement accessibles.
Les restrictions géographiques de X suffisent-elles à arrêter les deepfakes ?
Je voyageais récemment à l’étranger et j’ai remarqué à quel point les différents pays ont des normes culturelles très différentes en matière de contenu. C’est important. La décision de X de mettre en œuvre des restrictions géographiques, bloquant la génération de certaines images dans les zones où elles sont illégales, ajoute une autre couche de complexité.
C’est une approche du type « tape-taupe » ; aussi vite que les restrictions apparaissent, de nouvelles lacunes et des solutions de contournement émergent. Les utilisateurs contourneront-ils simplement ces restrictions en utilisant des VPN ou d’autres méthodes ? Ou l’incohérence des restrictions dans différentes régions entraînera-t-elle une confusion et alimentera-t-elle davantage la propagation de contenu préjudiciable ?
Que fait X pour lutter contre l’exploitation sexuelle des enfants ?
Au-delà des deepfakes, X a déclaré un engagement de tolérance zéro pour toute forme d’exploitation sexuelle des enfants, de nudité non consensuelle et de contenu sexuel non désiré. Mais les paroles ne coûtent rien. Le véritable test résidera dans l’efficacité de leurs mécanismes d’application et la rapidité avec laquelle ils répondent aux signalements d’abus.
La plateforme devra investir dans des technologies de détection avancées et dans la modération humaine pour identifier et supprimer rapidement les contenus illégaux. La collaboration avec les forces de l’ordre et les organisations de protection de l’enfance sera également nécessaire pour lutter efficacement contre ce problème.
L’avenir de l’IA et des médias sociaux : une pente glissante ?
Une amie m’a dit qu’elle avait désactivé tous ses comptes de médias sociaux parce qu’elle avait l’impression de ne plus pouvoir faire confiance à ce qu’elle voyait en ligne. Ses préoccupations sont valables. À mesure que l’IA s’intègre davantage dans les médias sociaux, la frontière entre la réalité et la fabrication s’estompe.
Les tentatives de X pour résoudre le problème des deepfakes sexuels sont un début, mais l’efficacité de ces mesures reste à voir. Le jeu du chat et de la souris entre ceux qui créent du contenu préjudiciable et ceux qui essaient de l’arrêter est susceptible de se poursuivre, exigeant une vigilance et une innovation constantes.
Quelles sont les alternatives à X ?
Alors que X est aux prises avec ces défis, les utilisateurs peuvent explorer des plateformes de médias sociaux alternatives qui privilégient la sécurité et l’utilisation éthique de l’IA. Des plateformes comme Mastodon et Cohost offrent des approches décentralisées et communautaires de la modération du contenu, ce qui peut plaire à ceux qui recherchent un environnement en ligne plus sûr.
En fin de compte, l’avenir des médias sociaux dépend de notre capacité à trouver un équilibre entre l’innovation et la responsabilité. Il faut un effort de collaboration de la part des entreprises technologiques, des régulateurs et des utilisateurs pour créer un monde numérique à la fois stimulant et sûr. X peut-il relever le défi, ou deviendra-t-il un récit édifiant sur les progrès technologiques incontrôlés ?
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
