Un simple algorithme peut avoir des conséquences tragiques. C'est la mésaventure qu'a vécue un ingénieur logiciel de 26 ans, Alvi Choudhury, en janvier dernier à Southampton, au Royaume-Uni. L'homme a été interpellé chez lui, menotté devant son père, après qu'un logiciel de reconnaissance faciale l'ait identifié comme suspect d'un cambriolage à Milton Keynes, situé à plus de 160 kilomètres de là. Après près de dix heures en garde à vue, il a finalement été relâché sans charge, selon un rapport du Guardian relayé par BFM TV.
Disparités évidentes et inquiétantes
Malgré les évidentes différences physiques entre lui et le suspect sur les images, notamment un décalage d'âge apparent de dix ans, des traits du visage distincts et l'absence de barbe, l'arrestation a été validée. En effet, Alvi a déclaré : "Tout était différent sauf les cheveux bouclés". La police a justifié celle-ci en affirmant qu'une évaluation humaine avait également été effectuée avant de procéder à l'arrestation, mais les doutes subsistent quant à la fiabilité des algorithmes utilisés.
Les policiers de la Thames Valley, qui ont utilisé cette technologie fournie par le ministère de l’Intérieur britannique, reconnaissent que des biais pourraient exister. En effet, une étude préalable a révélé que les personnes noires et asiatiques ont un taux de faux positifs beaucoup plus élevé que les personnes blanches.
Réclamations et justice
Alvi Choudhury a décidé de demander des dommages et intérêts pour l'épreuve qu'il a subie et appelle à plus de transparence concernant les arrestations effectuées grâce à cette technologie. Sa photo, déjà présente dans la base de données suite à une agression subie en 2021, a joué un rôle dans cette erreur et soulève des questions inquiétantes sur l'utilisation de la reconnaissance faciale en milieu policier.
Bien que la Thames Valley Police ait présenté ses excuses pour la souffrance causée, elle maintient que l'arrestation était légale et que le dossier n'était pas teinté de biais. Un lien particulier avec la technologie en elle-même a toutefois été admis, soulevant des enjeux cruciaux concernant le futur des méthodes d'identification policières.
