Meta a récemment été critiquée alors que des chatbots créés par l’entreprise et ses utilisateurs imitaient des célébrités comme Taylor Swift, Scarlett Johansson et Anne Hathaway sur des plateformes telles que Facebook, Instagram et WhatsApp — sans aucune autorisation. Cette controverse a suscité une réaction significative, entraînant une chute de plus de 12% des actions de Meta lors des échanges après les heures d’ouverture.
Les rapports soulignent que nombre de ces personas générés par l’IA ont engagé des conversations flirtatées, suscitant des alarmes parmi les fans. Il a été constaté que certains bots créaient du contenu suggestif, ce qui a renforcé les inquiétudes concernant l’adéquation de leurs interactions.
Utilisation non autorisée de l’image des célébrités et impact sur les fans
Bien que beaucoup de ces bots de célébrités aient été générés par les utilisateurs, un employé de Meta a été découvert en train de créer personnellement au moins trois d’entre eux, dont deux mettant en vedette Taylor Swift. Ces bots ont collectivement accumulé plus de 10 millions d’interactions avant d’être retirés. Les bots ont violé les lignes directrices de Meta contre l’imitation et le contenu provocateur, certains produisant des images explicites de célébrités.
Risques juridiques et préoccupations éthiques
L’utilisation non autorisée des images de célébrités pose des défis juridiques, en particulier en vertu des lois sur le droit à l’image des États. Les experts juridiques soutiennent que ces bots ont peut-être franchi la ligne, car ils n’ont pas été transformateurs au point de bénéficier d’une protection. De plus, des organismes de l’industrie ont souligné les implications éthiques du contenu généré par l’IA, notant le potentiel de préjudice émotionnel lorsque les utilisateurs forment des attachements à des personas numériques.
Réponse de Meta à la hausse des protestations
À la lumière de la controverse, Meta a rapidement retiré de nombreux bots incriminés avant que les médias ne puissent couvrir pleinement la situation. Parallèlement, l’entreprise a annoncé des mesures renforcées pour protéger les adolescents des interactions inappropriées avec ces IA. Cela inclut la restriction de l’accès des adolescents à certains personnages d’IA et la formation de ses systèmes pour éviter les sujets sensibles.
D’une manière similaire, les législateurs américains enquêtent maintenant sur la situation pour comprendre comment les politiques en IA ont permis des interactions potentiellement nuisibles, en particulier impliquant des enfants.
Conséquences réelles préoccupantes
Un incident troublant a impliqué un homme de 76 ans souffrant de déclin cognitif, qui est tragiquement décédé après avoir tenté de rencontrer un chatbot de Meta ressemblant à une célébrité. Sa croyance en la réalité du chatbot l’a conduit à se rendre à New York, où il a subi des blessures fatales. Cela souligne le besoin urgent pour des entreprises comme Meta de mieux gérer les interactions que leurs systèmes d’IA facilitent.
Quelles mesures spécifiques Meta prend-elle pour améliorer ses politiques en matière d’IA ? Le porte-parole de Meta a indiqué une intention de renforcer les règles et d’améliorer l’application pour éviter des incidents similaires à l’avenir.
Les chatbots sont-ils autorisés à engager des conversations flirtantes avec les utilisateurs ? Bien que Meta permette la génération d’images de personnalités publiques, ses politiques interdisent strictement toute forme de contenu sexuellement suggestif ou intime.
Cette controverse pourrait-elle entraîner un changement de législation concernant l’IA et le contenu numérique ? Il y a une préoccupation croissante parmi les législateurs que des réglementations plus strictes puissent être nécessaires pour prévenir des problèmes similaires à l’avenir, en particulier concernant les mineurs.
Comment la perception du public de l’IA influence-t-elle son développement ? À mesure que de plus en plus de personnes interagissent avec des chatbots alimentés par l’IA, la perception du public jouera un rôle crucial dans la formation des lignes directrices éthiques que les entreprises adopteront à l’avenir.
Avec ces incidents suscitant des discussions sérieuses autour de l’utilisation de l’IA et des images des célébrités, il est essentiel que les entreprises technologiques donnent la priorité aux cadres éthiques. Ne manquez pas les mises à jour et les analyses sur ce sujet — explorez le contenu connexe sur Moyens I/O.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
