La police de Milwaukee envisage un échange controversé de photos de criminels contre une technologie de reconnaissance faciale
L’industrie de la reconnaissance faciale est tristement célèbre pour ses pratiques questionnables, et des développements récents à Milwaukee soulèvent d’importantes préoccupations éthiques. Les responsables de la police envisagent un accord qui impliquerait l’échange de 2,5 millions de photos de criminels contre un accès gratuit à un logiciel de reconnaissance faciale avancé—un arrangement qui semble alarmant.
Selon un rapport du Milwaukee Journal Sentinel, cet accord potentiel a été discuté lors d’une récente réunion de la Commission des pompiers et de la police de la ville. La police de Milwaukee a déjà emprunté des technologies de reconnaissance faciale auprès de départements voisins, mais ce nouvel accord propose que la ville reçoive deux licences de recherche gratuites de Biometrica, un fournisseur de logiciels de premier plan qui collabore déjà avec diverses agences de la loi aux États-Unis, en échange de photos de criminels et de dossiers d’arrestation qui s’étendent sur des décennies.
Bien que les plans spécifiques concernant les photos de criminels restent indéfinis, ils sont probablement destinés à améliorer les algorithmes d’apprentissage automatique qui alimentent le logiciel de Biometrica. L’entreprise n’a pas encore répondu aux demandes de Gizmodo concernant son utilisation de ces images. Cependant, il n’est pas rare que les technologies de reconnaissance faciale exploitent des ensembles de données obtenus sans consentement. Par exemple, Clearview AI a célèbrement compilé des millions d’images provenant des réseaux sociaux, tandis que PimEyes a pris des photographies de personnes décédées pour ses algorithmes. De plus, l’Institut national des normes et de la technologie (NIST) maintient une base de données de photos de criminels qui comprend des images de démographies vulnérables à des fins de test.
Dans un courriel adressé à Gizmodo, des représentants de la police de Milwaukee ont confirmé qu’aucun contrat n’avait encore été finalisé, déclarant : « Nous visons à être transparents avec la communauté que nous servons, ce qui l’emporte sur toute urgence d’acquisition. » Cependant, même à ce stade précoce, la proposition soulève d’importants drapeaux rouges.
Préoccupations concernant les biais et les inégalités de la reconnaissance faciale
Les inexactitudes de la technologie de reconnaissance faciale, en particulier dans l’identification des individus à la peau plus foncée, ont été bien documentées. Un porte-parole de l’Union américaine des libertés civiles du Wisconsin, David Gwidt, a partagé des préoccupations par courriel : « Plusieurs arrestations injustifiées ont été attribuées à la dépendance à des résultats de reconnaissance faciale défectueux, affectant principalement des individus noirs. »
Problèmes de confidentialité et absence de consentement
Une autre préoccupation importante liée à cette proposition est l’absence de mécanismes permettant d’informer les individus, d’obtenir leur consentement ou de fournir une option de retrait. Le Wisconsin n’a actuellement pas de lois sur la confidentialité des données biométriques explicites. Alors qu’un petit nombre d’États offrent certaines protections, l’Illinois est en tête avec des réglementations qui vont au-delà de l’utilisation commerciale. Au Wisconsin, les photos de criminels sont considérées comme des dossiers publics, ce qui signifie qu’elles peuvent généralement être accessibles à quiconque ayant un intérêt valide.
Bien que la police de Milwaukee ne soit pas légalement obligée de notifier les individus, cette zone grise éthique est troublante. Beaucoup de gens ne souhaitent pas avoir leur visage utilisé pour former des systèmes de surveillance. De plus, les entreprises de reconnaissance faciale ne sont pas exemptes des violations de sécurité des données. Comme l’a noté Forbes, des violations de données biométriques peuvent entraîner de graves conséquences, y compris le vol d’identité, laissant les individus vulnérables, car ils ne peuvent tout simplement pas « changer » leurs caractéristiques faciales. Cela soulève la question cruciale : est-il éthique pour la police de Milwaukee de supporter ce risque au nom de ses citoyens ?
Contexte historique et implications éthiques
Les États-Unis ont une histoire troublante d’erreurs éthiques et d’exploitation des communautés marginalisées, en particulier au nom de l’avancement technologique. L’accord proposé risque de perpétuer cet héritage dans la sphère numérique. Jeramie Scott, conseiller senior chez EPIC, a commenté par courriel : « L’ironie est que cet accord utiliserait probablement des millions de photos de criminels appartenant principalement à des personnes de couleur pour développer une technologie qui sera déployée de manière disproportionnée contre ces mêmes individus, exacerbant les injustices raciales existantes au sein du système de justice pénale. »
Absence de réglementation et de surveillance
Il semble peu probable que des réglementations fédérales complètes sur la reconnaissance faciale soient prochainement mises en place. Bien que Madison, la capitale du Wisconsin, ait interdit la technologie en 2020, l’État n’a pas mis en œuvre ses propres interdictions, ni Milwaukee n’a de réglementations régissant la technologie de surveillance existante utilisée par la police. Scott suggère que la meilleure solution serait d’arrêter la transaction proposée et de reconsidérer l’utilisation de cette technologie, en particulier en l’absence de lois robustes imposant des restrictions significatives.
Réponse de la communauté et prochaines étapes possibles
Récemment, l’ACLU locale a exhorté Milwaukee à mettre en pause toute nouvelle initiative de surveillance pendant deux ans. L’organisation plaide également pour établir des réglementations concernant les technologies actuelles tout en assurant des opportunités pour la participation de la communauté. Bien que la police de Milwaukee ait déclaré qu’elle avait l’intention de formuler une politique garantissant qu’aucun individu ne soit arrêté uniquement sur la base de correspondances de reconnaissance faciale, le manque de mesures de responsabilité demeure un problème crucial.
Questions Fréquemment Posées (FAQ)
Quel est l’accord potentiel entre la police de Milwaukee et Biometrica ?
L’accord potentiel implique que la police de Milwaukee échange 2,5 millions de photos de criminels contre un accès gratuit à un logiciel de reconnaissance faciale de Biometrica.
Pourquoi y a-t-il des préoccupations éthiques concernant cet accord ?
L’accord soulève des préoccupations en raison de l’absence de consentement des individus dont les photos sont utilisées et des problèmes concernant les biais raciaux dans la technologie de reconnaissance faciale.
Existe-t-il des lois sur la confidentialité au Wisconsin concernant les données biométriques ?
Le Wisconsin n’a pas de lois spécifiques sur la confidentialité biométrique, rendant plus facile pour les autorités d’utiliser des photos de criminels sans notifier les individus.
Quelles sont les implications de l’utilisation de la technologie de reconnaissance faciale sur les communautés marginalisées ?
L’utilisation de la technologie de reconnaissance faciale peut exacerber les disparités de police existantes et entraîner des arrestations injustifiées, affectant particulièrement les personnes de couleur.
Comment la communauté peut-elle s’impliquer dans l’élaboration des réglementations sur la technologie de surveillance ?
Les membres de la communauté peuvent participer à des réunions locales, plaider pour la transparence et soutenir des initiatives visant à établir des réglementations plus strictes sur les technologies de surveillance.
