flanker (./15343) :
Je pense que ceux qui ont les compétences pour modifier les images afin de passer au travers n'utilisent probablement déjà pas iCloud pour les conserver (donc le problème des faux négatifs n'existe pas en réalité : ça ne sert à rien de transformer les images, il suffit de ne pas les mettre sur iCloud).

Tu as vu le proof-of-concept ? Il suffit de rajouter une bordure avec des pixels aléatoires. C'est à la portée de n'importe quel codeur en Javascript même inexpérimenté, et une fois mis en ligne ça peut être utilisé facilement par n'importe qui...

flanker (./15343) :
Si tu veux construire suffisamment de faux positifs pour déclencher des vérifications manuelles, il faut les originaux (donc manipuler des images pédoporno : personnellement je n'en ai pas et encore moins envie d'en voir), tout ça pour déclencher des vérifications manuelles qui ne donneront rien.

Non, justement : les exemples montrent qu'il n'y a pas besoin d'avoir l'image originale pour créer des collisions, on peut le faire uniquement sur la base du hash. Pire, on peut contrôler le contenu de l'image pour la faire ressembler à une image légale suffisamment ambiguë : comment la personne qui vérifie peut-elle savoir si c'est une photo librement consentie de quelqu'un de 18 ans, ou une photo volée de quelqu'un de 17 ans ?

Quant à l'intérêt de faire ça :
- à petite échelle, nuire gravement à une personne. Comme les crétins qui prétendent qu'il y a une prise d'otage chez quelqu'un pour leur faire envoyer les SWAT.
- à grande échelle, jouer au con (on a vu ce dont des forums comme 4chan sont capables), ou noyer le poisson (il y a plus de chances qu'un vrai positif passe à la trappe s'il est entouré de plein de faux positifs).

flanker (./15343) :
Je doute qu'Apple ait travaillé sur un truc aussi compliqué pour s'amuser. Ça sent le compromis trouvé avec un gouvernement pour continuer à faire du chiffrement de bout en bout tout en respectant la loi.

Personne n'a dit qu'ils avaient fait ça pour s'amuser. Il est évident que c'est suite à des demandes gouvernementales. Mais ça reste une solution bancale pour plein de raisons.