L’écran vacillait, des lignes de code défilant comme une pluie numérique. Une réglementation des transports, qui prend généralement des mois à élaborer, s’est matérialisée en quelques secondes. Est-ce l’avenir de la gouvernance ou un raccourci dangereux ?
Cet article a été initialement publié par ProPublica.
Selon des documents du département américain des Transports et des entretiens avec six membres du personnel de l’agence, l’administration Trump envisageait d’utiliser l’intelligence artificielle pour rédiger des réglementations fédérales en matière de transport.
Lors d’une démonstration pour le personnel du DOT le mois dernier, l’avocat de l’agence, Daniel Cohen, a écrit à ses collègues au sujet du « potentiel de l’IA à révolutionner la façon dont nous rédigeons les réglementations ». La présentation mettrait en vedette « de nouveaux outils d’IA passionnants à la disposition des rédacteurs de règles du DOT pour nous aider à faire notre travail mieux et plus rapidement ».
Le plan de réglementation de l’IA du DOT en détail
Imaginez un monde où des algorithmes écrivent les règles de la route. La discussion sur le plan s’est poursuivie parmi les dirigeants de l’agence. Selon des notes de réunion examinées par ProPublica, l’avocat général de l’agence, Gregory Zerzan, a déclaré que le président Donald Trump était « très enthousiaste à propos de cette initiative ». Zerzan a suggéré que le DOT était à l’avant-garde d’une poussée fédérale plus large, qualifiant le département de « fer de lance » et de « première agence entièrement habilitée à utiliser l’IA pour rédiger des règles ».
Zerzan semblait plus concentré sur le volume de réglementations que l’IA pouvait produire que sur leur qualité. « Nous n’avons pas besoin de la règle parfaite sur XYZ. Nous n’avons même pas besoin d’une très bonne règle sur XYZ », a-t-il déclaré, selon les notes de réunion. « Nous voulons quelque chose d’assez bon… Nous inondons la zone. »
Ces développements ont suscité des inquiétudes au DOT. Les réglementations de l’agence affectent la sécurité des transports, y compris les règles qui maintiennent les avions dans le ciel et empêchent les pipelines de gaz d’exploser. Certains membres du personnel se sont demandé pourquoi le gouvernement fédéral externaliserait la rédaction de telles normes à une technologie connue pour ses erreurs.
Quels sont les risques liés à l’utilisation de l’IA pour rédiger des réglementations gouvernementales ?
Un risque majeur est le manque de surveillance humaine et d’esprit critique, ce qui pourrait entraîner des réglementations imparfaites ou biaisées. La réponse des partisans : la rapidité. La rédaction et la révision des réglementations peuvent prendre des mois, voire des années. Deux membres du personnel du DOT qui ont assisté à la démonstration de décembre se sont souvenus que le présentateur avait déclaré qu’avec la version DOT de Google Gemini, les employés pouvaient générer une proposition de règle en quelques minutes. Un membre du personnel s’est souvenu que le présentateur avait déclaré que la plupart de ce qui entre dans les préambules des documents réglementaires du DOT n’est que de la « salade de mots », ajoutant que Google Gemini peut faire de la salade de mots.
Zerzan a réitéré l’ambition d’accélérer l’élaboration des règles avec l’IA. L’objectif est de compresser le calendrier de production des réglementations en matière de transport, de l’idée à un projet complet prêt à être examiné par le Bureau de l’information et des affaires réglementaires en seulement 30 jours. « Il ne devrait pas vous falloir plus de 20 minutes pour obtenir un projet de règle de Gemini », a-t-il déclaré.
Le plan du DOT représente un nouveau front dans la campagne de l’administration Trump visant à intégrer l’IA au gouvernement fédéral. Les agences fédérales intègrent cette technologie dans leur travail depuis des années pour traduire des documents, analyser des données et catégoriser les commentaires du public, entre autres utilisations. Trump a publié plusieurs décrets à l’appui de l’IA l’année dernière. En avril, le directeur du Bureau de la gestion et du budget, Russell Vought, a diffusé une note de service appelant à l’accélération de son utilisation par le gouvernement fédéral, suivie d’un « Plan d’action pour l’IA« . Le DOT a utilisé l’IA pour rédiger une règle de la Federal Aviation Administration encore non publiée, selon un membre du personnel du DOT.
Le grand débat sur l’IA : efficacité contre expertise
Chaque ligne de code comporte un potentiel, mais aussi un risque. Les sceptiques affirment que les modèles linguistiques de grande taille ne devraient pas être chargés des responsabilités de la gouvernance, étant donné que ces modèles sont sujets aux erreurs et incapables de raisonnement humain. Mais les partisans considèrent l’IA comme un moyen d’automatiser les tâches et d’accroître l’efficacité d’une bureaucratie lente.
Lors d’un sommet sur l’IA, des responsables fédéraux de la technologie ont discuté de l’adoption d’une « culture de l’IA » au sein du gouvernement et du « perfectionnement » de la main-d’œuvre fédérale afin qu’elle utilise cette technologie. Justin Ubert, chef de division pour la cybersécurité et les opérations à la Federal Transit Administration du DOT, a pris la parole lors d’un panel sur les plans du ministère des Transports pour « l’adoption rapide » de l’intelligence artificielle. Il a noté que beaucoup de gens considèrent les humains comme un « point d’étranglement » qui ralentit l’IA et a prédit que les humains retomberont simplement dans un rôle de supervision, surveillant les « interactions IA-IA ». Ubert a refusé de parler à ProPublica officiellement.
La présentation au DOT a été suivie par plus de 100 employés du DOT, y compris des chefs de division, des avocats et des fonctionnaires des bureaux d’élaboration des règles. Le présentateur a déclaré que Gemini peut gérer 80 % à 90 % du travail de rédaction des réglementations, tandis que le personnel du DOT pourrait faire le reste, s’est souvenu un participant.
Pour illustrer cela, le présentateur a demandé à l’auditoire de suggérer un sujet sur lequel le DOT pourrait avoir à rédiger un avis de projet de réglementation. Il a branché les mots-clés du sujet dans Gemini, qui a produit un document ressemblant à un avis de projet de réglementation. Il semblait qu’il manquait le texte réel qui entre dans le Code of Federal Regulations, s’est souvenu un membre du personnel.
Selon trois personnes présentes, le présentateur s’est peu inquiété du fait que les documents réglementaires produits par l’IA puissent contenir des « hallucinations ». Il a déclaré que c’est là qu’interviendrait le personnel du DOT. Un employé a déclaré : « Il semblait que sa vision de l’avenir de l’élaboration des règles au DOT est que notre travail consisterait à relire ce produit de la machine. » Les participants ont cru que le principal présentateur était Brian Brotsos, le chef de l’IA par intérim de l’agence. Brotsos a refusé de commenter, renvoyant les questions au bureau de presse du DOT.
Comment l’IA se compare-t-elle aux rédacteurs de règles humains ?
L’IA offre rapidité et efficacité, mais les rédacteurs de règles humains apportent expertise, esprit critique et responsabilité au processus. Un porte-parole du DOT, Cohen et Zerzan n’ont pas répondu à une demande de commentaires. Un porte-parole de Google n’a pas fourni de commentaire.
La présentation de décembre a laissé certains membres du personnel du DOT sceptiques. Ils ont déclaré que l’élaboration des règles est un travail complexe, nécessitant une expertise dans le sujet, les lois, les réglementations et la jurisprudence. Une personne qui a demandé l’anonymat a déclaré : « Cela semble incroyablement irresponsable. »
Mike Horton, l’ancien chef de l’intelligence artificielle par intérim du DOT, a critiqué le plan d’utiliser Gemini pour rédiger des réglementations, le comparant à « avoir un stagiaire de lycée qui fait votre élaboration de règles ». Horton a déclaré que les dirigeants de l’agence « veulent aller vite et casser des choses, mais aller vite et casser des choses signifie que des gens vont être blessés. »
Le point de vue académique : l’IA comme assistant de recherche ?
La loi est une tapisserie tissée de précédents et de nuances. Les universitaires et les chercheurs qui suivent l’utilisation de l’IA au sein du gouvernement ont exprimé des opinions mitigées sur le plan du DOT. Ils ont déclaré que si les rédacteurs de règles de l’agence utilisent la technologie comme assistant de recherche avec supervision et transparence, cela pourrait être utile et faire gagner du temps. Ils ont ajouté que s’ils cèdent trop de responsabilités à l’IA, cela pourrait entraîner des lacunes dans les réglementations essentielles et violer l’exigence selon laquelle les règles fédérales doivent être fondées sur une prise de décision raisonnée.
Bridget Dooling, professeure à l’Ohio State University qui étudie le droit administratif, a déclaré : « Ce n’est pas parce que ces outils peuvent produire beaucoup de mots que ces mots se traduisent par une décision gouvernementale de haute qualité. Il est tentant d’essayer de comprendre comment utiliser ces outils, et je pense que cela devrait être fait avec scepticisme. »
Ben Winters, le directeur de l’IA et de la confidentialité à la Consumer Federation of America, a déclaré que le plan était particulièrement problématique compte tenu de l’exode des experts en la matière du gouvernement à la suite des réductions de l’administration à la main-d’œuvre fédérale l’année dernière. Le DOT a enregistré une perte nette de près de 4 000 de ses 57 000 employés depuis le retour de Trump à la Maison-Blanche, dont plus de 100 avocats, selon les données fédérales.
Quel rôle le département de l’efficacité gouvernementale d’Elon Musk a-t-il joué ?
Le département de l’efficacité gouvernementale d’Elon Musk était un fervent défenseur de l’adoption de l’IA au sein du gouvernement. Le Washington Post a rapporté sur une présentation DOGE divulguée qui appelait à l’utilisation de l’IA pour éliminer la moitié de toutes les réglementations fédérales, et à le faire en partie en demandant à l’IA de rédiger des documents réglementaires. « L’écriture est automatisée », lit-on dans la présentation. Le programme d’IA de DOGE « rédige automatiquement tous les documents de soumission que les avocats doivent modifier ». DOGE et Musk n’ont pas répondu aux demandes de commentaires.
La Maison-Blanche n’a pas répondu à une question sur la possibilité que l’administration envisage d’utiliser l’IA dans l’élaboration de règles dans d’autres agences également. Quatre hauts responsables de la technologie de l’administration ont déclaré qu’ils n’étaient au courant d’aucun plan de ce genre. Deux de ces responsables ont exprimé leur scepticisme quant à l’affirmation du DOT selon laquelle il est un « fer de lance ». L’un d’eux a déclaré : « Il y a beaucoup de postures du genre : ‘Nous voulons donner l’impression d’être un chef de file dans l’adoption de l’IA au niveau fédéral’. Je pense que c’est surtout du marketing. »
Alors que la présence de l’IA au sein du gouvernement s’accroît, comment équilibrer innovation et responsabilité ?
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
