Lors de la Game Developers Conference de cette semaine, Ubisoft a offert un aperçu possible d’un avenir rempli d’IA pour les joueurs. a fait une démonstration d’un prototype Lors du salon, le microservice Ace de Nvidia a permis de produire des « PNJ intelligents » entièrement doublés avec lesquels les joueurs pouvaient interagir en parlant dans un microphone. Malgré le scepticisme suscité en ligne (moi y compris), la démo elle-même nous a impressionnés une fois que nous l’avons essayée. J’ai eu une conversation étonnamment pertinente avec un PNJ soucieux de l’environnement sur l’éthique de l’écoterrorisme, une conversation complètement hors scénario rendue possible grâce à l’IA.
C’est l’un des cas d’utilisation les plus forts que nous ayons vus de cette technologie jusqu’à présent, mais il présente une lacune surprenante que même Ubisoft a du mal à résoudre : le biais linguistique.
Le biais secret de l’IA
Dans la courte démo, j’ai joué le rôle d’un personnage spatial qui s’implique dans la lutte d’un groupe de résistance contre une mégacorporation. La démo en trois parties m’a fait discuter avec deux personnages différents, pour lesquels Ubisoft a créé de longues histoires et a alimenté l’outil Ace de Nvidia. J’ai découvert le monde de la science-fiction en discutant avec un PNJ, en lui posant des questions sur ses camarades, avant de planifier un braquage parfait avec une réflexion créative.
Après avoir terminé ma démo, j’ai demandé à deux employés d’Ubisoft impliqués dans le projet s’il y avait des défauts dans l’outil qui les frustraient. Bien qu’ils aient été très satisfaits de la technologie dans son ensemble, il était clair, à en juger par certains de leurs profonds soupirs, qu’ils avaient une longue liste de problèmes qu’ils devaient encore résoudre avant que le studio n’adopte pleinement la technologie. Leur principal reproche concerne le biais inhérent à la langue anglaise, un problème humain dont l’IA hérite actuellement par défaut.
Les démosistes ont cité deux exemples précis que je n’avais même pas remarqués au cours de ma partie. À un moment donné, j’ai demandé à un PNJ de me parler du membre de son équipe qu’il aimait le moins. Après m’avoir dit qu’il aimait tous les membres de son équipage, il a jeté un personnage nommé Iron sous le bus parce qu’il était un type irritable. Il y avait juste un problème : Iron n’est pas censé être un homme.
Selon les démosistes, l’outil d’IA semble associer le mot « fer » à la masculinité. Il suppose donc que le personnage Iron est un homme. Un problème similaire apparaît lorsque le PNJ parle d’un personnage nommé Bloom, dont il parle comme d’une femme douce et attentionnée. C’est le problème Iron qui se produit à l’envers : « Bloom » semble être interprété par la machine comme un terme féminin, greffant un stéréotype maternel sur un personnage masculin. Ces exemples sont minimes, mais ils ouvrent la porte à des problèmes plus vastes s’ils ne sont pas résolus. Par exemple, comment le dialogue génératif de l’IA traitera-t-il de la race ?
Ce problème n’est pas propre à l’outil de Nvidia ou à l’IA en général ; il reflète une nuance fascinante du langage. Les grands modèles de langage (LLM) comme celui utilisé ici reflètent simplement la façon dont les humains parlent en fonction de la masse de données sur lesquelles ils sont formés. Cela signifie qu’il est voué à adopter de mauvaises habitudes de temps à autre, comme la diffusion de stéréotypes sexistes. Bien que les PNJ d’Ubisoft aient de longues histoires écrites à la main par des auteurs, ils continuent d’apprendre à partir d’ensembles de données d’apprentissage linguistique plus généraux. Les entreprises d’IA comme Convai, qui ont contribué à alimenter la démo Kairos de Nvidia au CES cette année, admettent qu’elles ne connaissent pas vraiment le contenu exact sur lequel ces ensembles de données sont formés.
Ce problème est encore plus compliqué lorsqu’on considère ce que cela signifie pour différentes langues. Les développeurs avec qui j’ai discuté ont souligné que l’IA générative est actuellement centrée sur l’anglais. D’autres langues peuvent cependant être radicalement différentes, ce qui crée un défi supplémentaire pour ceux qui cherchent à adopter des outils comme Ace. Ce qui est standard pour les anglophones peut ne pas avoir de sens dans d’autres. Comment localiser une machine qui ne connaît qu’une seule langue ?
Ubisoft et Nvidia ne cherchent pas à cacher ces défauts. Les employés avec qui j’ai discuté pendant la démonstration ont souligné l’importance de collaborer avec les équipes DEI internes qui peuvent aider à identifier les points sensibles et à corriger les fautes d’orthographe des personnages IA. Même si j’étais impressionné d’avoir un débat philosophique passionnant avec un PNJ IA, il est clair que ces machines ont encore besoin de beaucoup d’aide humaine pour corriger les instincts que nous leur avons inculqués par accident.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
