Voici pourquoi Amazon Rekognition fait flipper aux États-Unis (et bientôt dans le reste du monde)

Rekognition est un outil super puissant développé par Amazon qui sait différencier tous les éléments présents sur une image: visage, vélo, flingue, chien... Commercialisé à fond par le leader de l'e-commerce, cet outil fait de l'oeil à de nombreux gouvernements et les organisations de défense des droits civils ont peur des dérives que cela pourrait entraîner.

Où que l'on aille aujourd'hui, il y a toujours un risque que notre passage soit enregistré quelque part. Que ce soit via un smartphone, une caméra de surveillance ou la bodycam d'un flic, la vie citadine est filmée à chaque instant.

La conséquence de cette omniprésence est peut-être la surcharge d'informations et de données. Mais un outil permet de faire le tri dans ces milliers de photos qui se produisent à chaque instant: Amazon Rekognition.

En novembre 2017, lors de sa conférence AWS re:Invent 2017, le géant de la distribution a présenté avec fierté les améliorations apportées à ce logiciel. Maintenant, Rekognition peut reconnaître et détecter des visages en temps réels sur des dizaines de millions de visages et peut reconnaître jusqu'à 100 visages dans des photos de foule. "Lorsque vous analysez une vidéo, vous pouvez également identifier des activités spécifiques se déroulant dans le cadre, telles que "livrer un colis" ou "jouer au football"."

Grâce à sa base de donnée chaque fois plus grande, qui contient des dizaines de milliers de profils, ce système de reconnaissance faciale boosté par une intelligence artificielle sait ainsi directement mettre un nom sur une personne qui passe devant une caméra de surveillance. Avec Rekognition, même dans un stade accueillant le Super Bowl, un individu ne saura plus se cacher.

L'ACLU et d'autres ONG s'inquiètent

Cet outil, Amazon le vend à tout le monde et les gouvernements ne sont pas exclus de ses clients. Pour une trentaine d'organisations de défense des droits civils, le fait que des autorités puissent avoir à leur disposition ce système de contrôle permanent est réellement inquiétant.

"Mis entre les mains des gouvernements, Amazon Rekognition se prête à tous les abus", écrivent ACLU, Electronic Frontier Foundation, Data for Black Lives, Freedom of the Press Foundation, Human Rights Watch et une vingtaine d'autres associations dans une lettre commune adressée à Jeff Bezos, le PDG d'Amazon.

"Ce service représente une grave menace pour les communautés, dont les personnes de couleur et les immigrés, et menace la confiance et le respect qu'Amazon a construits."

"Rekognition soulève de profondes questions sur les libertés et droits civils. Aujourd’hui, l’ACLU ainsi qu’une coalition d’organisations de défense des droits civils ont demandé à Amazon d’arrêter d’autoriser les gouvernements à utiliser Rekognition."

"La population devrait être libre de marcher dans la rue sans être surveillée par le gouvernement", poursuivent les organisations dans cette lettre. "La reconnaissance faciale menace la liberté des communautés américaines (...). Le gouvernement fédéral pourrait utiliser la technologie de reconnaissance faciale pour traquer continuellement les immigrés".

Amazon y voit différents usages

"Amazon exige que les clients se conforment à la loi et soient responsables lorsqu'ils utilisent les services AWS, [Amazon Web Service]", a répondu Nina Lindsey, la porte-parole d'Amazon, au Washington Post. Selon elle, ce règlement suffira à éviter les excès. "Lorsque nous constatons que les services AWS sont abusés par un client, nous suspendons le droit de ce client d'utiliser nos services."

Effectivement, si cette technologie peut être utilisée par des gouvernements dans des scénarios dignes de Minority Report, elle peut aussi être appliquée dans des domaines du quotidien plutôt utiles. Elle peut, par exemple, permettre de retrouver un enfant perdu dans la foule d'un parc d'attraction. Elle peut également aider les journalistes à identifier les célébrités invitées lors d'un événement public, comme ce fût le cas lors du mariage princier au château de Windsor.

Rekognition peut également aider à "identifier les contenus potentiellement dangereux ou inappropriés à la fois sur les images et les vidéos". Pour des parents, cela pourrait les aider à analyser un paquet de vidéos mis à la disposition de leurs enfants. Et surtout, dans la lutte contre la prolifération en ligne d'images pédopornographiques, Rekognition est un atout de taille.

Pour ces différentes raisons, Amazon estime qu'une interdiction de commercialiser ce programme serait abusif. Ce à quoi les organisations de défense rappellent qu'elle ne demandent pas une interdiction du programme mais qu'Amazon ne le vende pas aux gouvernements.

Pour l'instant, le service a surtout été vendu à des départements de polices américains. Mais à un prix qui se situe entre les 6 à 12 dollars par mois, il y a de fortes chances que non seulement cette interdiction ne voit jamais le jour mais que de nombreux gouvernements veuillent également s'offrir ces services.

Déjà lu?