Plus d’une douzaine d’employés actuels et anciens d’OpenAI, de Deep Mind de Google et d’Anthropic ont a publié une lettre ouverte Mardi, il a attiré l’attention sur les « risques graves » posés par la poursuite du développement rapide de la technologie sans la mise en place d’un cadre de surveillance efficace.
Le groupe de chercheurs soutient que la technologie pourrait être utilisée à mauvais escient pour exacerber les inégalités existantes, manipuler l’information et diffuser de la désinformation, voire « provoquer la perte de contrôle des systèmes d’IA autonomes, ce qui pourrait entraîner l’extinction de l’humanité ».
Les signataires estiment que ces risques peuvent être « adéquatement atténués » grâce aux efforts combinés de la communauté scientifique, des législateurs et du public, mais craignent que « les entreprises d’IA aient de fortes incitations financières à éviter une surveillance efficace » et ne puissent pas être considérées comme capables de gérer de manière impartiale le développement de la technologie.
Depuis la sortie de ChatGPT en novembre 2022, la technologie d’IA générative a pris d’assaut le monde informatique avec des hyperscalers comme Google Cloud, Amazon AWS, Oracle et Microsoft Azure en tête ce qui devrait devenir une industrie d’un billion de dollars d’ici 2032. UN étude récente de McKinsey Selon une étude réalisée en mars 2024, près de 75 % des entreprises interrogées avaient adopté l’IA dans au moins un domaine. Parallèlement, dans son enquête annuelle Work Index, Microsoft a constaté que 75 % des employés de bureau utilisent déjà l’IA au travail.
Cependant, comme l’a déclaré Daniel Kokotajlo, un ancien employé d’OpenAI Le Washington Post« Ils et d’autres ont adhéré à l’approche « aller vite et casser des choses », ce qui est le contraire de ce qui est nécessaire pour une technologie aussi puissante et aussi mal comprise. » Des startups d’IA, dont OpenAI et Diffusion stable ont à plusieurs reprises enfreint les lois américaines sur le droit d’auteur, par exemple, alors qu’elles étaient accessibles au public Les chatbots sont régulièrement incités à répéter des discours de haine et les théories du complot ainsi que diffuser de la désinformation.
Les employés d’AI qui s’opposent à ces pratiques soutiennent que ces entreprises possèdent « des informations non publiques substantielles » sur les capacités et les limites de leurs produits, notamment sur le risque potentiel de dommages que présentent les modèles et sur l’efficacité réelle de leurs garde-fous de protection. Ils soulignent que seule une partie de ces informations est accessible aux agences gouvernementales en raison de « faibles obligations de partage et qu’aucune d’entre elles n’est accessible au grand public ».
« Tant qu’il n’y aura pas de surveillance gouvernementale efficace de ces sociétés, les employés actuels et anciens sont parmi les rares personnes qui peuvent les tenir responsables devant le public », a déclaré le groupe, affirmant que le recours généralisé aux accords de confidentialité par l’industrie et la faible mise en œuvre des protections existantes pour les lanceurs d’alerte entravent ces problèmes.
Le groupe a appelé les entreprises d’IA à cesser de conclure et d’appliquer des accords de non-dénigrement, à établir un processus anonyme permettant aux employés de faire part de leurs préoccupations au conseil d’administration de l’entreprise et aux régulateurs gouvernementaux, et à ne pas exercer de représailles contre les lanceurs d’alerte publics si ces processus internes s’avèrent insuffisants.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
