En 2021, Apple a annoncé de nouvelles idées pour renforcer la protection des mineurs : l’une qui a fait consensus, la détection et le floutage automatique des images pornographiques ou de nudité sur les appareils des mineurs. L’autre, qui s’est pris une volée de bois vert : la détection de contenus pédopornographiques sur les appareils et comptes iCloud des utilisateurs, même si les données étaient chiffrées par la suite, afin de permettre un signalement aux autorités. Pour ce faire, pas la peine de casser le chiffrement : il suffisait de scanner chaque image sur l’appareil de l’utilisateur avant son envoi vers les serveurs. L’outil, lorsqu’un certain seuil de correspondances était atteint, envoyait alors un rapport au service concerné d’Apple contenant les métadonnées identifiant la photo suspecte.
Suite à cette annonce, de nombreux défenseurs de la vie privée sont montés au créneau, pointant plusieurs dangers. En effet, si l’idée part d’une bonne intention, certains craignaient qu’elle ne puisse être détournée de sa fonction d’origine, soit par un groupe de pirates informatiques, soit par un État mal intentionné, profitant de ce scan automatique pour rechercher d’autres éléments. La fonction aurait alors permis la recherche de personnes affiliées à un groupe politique adverse, servant d’informateur aux journalistes, etc. Une association de défense des mineurs aurait fait valoir un risque inhérent à la mise en place de cet outil : les prédateurs les plus dangereux se seraient tout simplement rabattus sur d’autres moyens de diffusion, encore plus complexes à débusquer.
CSAM : des activistes ont survolé l'Apple Park lors du keynote
Apple a donc abandonné cet outil, et c’est là qu’on en arrive à 2024 : une plainte est déposée contre Apple, formée par 2680 personnes demandant des dommages et intérêts à la firme pour un montant de 32,8 milliards de dollars. La raison ? Apple est accusée de ne pas en faire assez pour protéger les mineurs, et la plainte demande à la justice de forcer Cupertino à mettre en place… un système de détection d’images pédopornographiques.
Pour éviter le couperet, les avocats d’Apple ont invoqué la Section 230 du Communications Decency Act. Celle-ci indique que les plateformes ne sont généralement pas considérées comme l’éditeur des contenus publiés par les utilisateurs, et qu’elles peuvent modérer ces contenus de bonne foi sans pour autant être alors considérées comme éditrices. Or, cet appel à la Section 230 a fait mouche : la juge a décidé qu’elle s’appliquait à Apple, et a donc débouté les plaignants.
Pédopornographie : Apple accusée d’être devenue la plus grande plateforme pour les échanges de photos de mineurs
Cela ne veut pas dire pour autant que la justice ne constate pas le problème. Au contraire, dans sa décision, la juge fait très exactement la part des choses entre application du droit et modification des lois :
Il appartient au législateur de remédier à ce problème, qui contribue à l’exploitation des enfants. Cette Cour ne le peut pas.
Montrée du doigt pour avoir proposé un outil pouvant être détourné pour de la surveillance de masse, puis attaquée pour ne pas l’avoir mis en place, quelle que soit sa décision, Apple était donc vouée à être condamnée par un camp ou l’autre. La justice, de son côté, n’a fait qu’appliquer la loi. Si celle-ci ne convient pas, c’est maintenant au Congrès américain d’agir.
http://dlvr.it/TTXfXL
0 Commentaires