18:57 Mot de passe oublié ?

1

Pen^2 a souhaité poursuivre une discussion dérivée dans un nouveau sujet. La discussion initiale a eu lieu dans le sujet topics/76711-les-meilleures-news/2001#post-60019 tandis que la discussion dérivée continue dans le sujet topics/191232-voiture-transformee-en-girafe où les messages en rapport ont été copiés.

2

Ça me fait penser que j'ai assisté à une présentation (très intéressante) du CEA sur l'IA (/machine learning/deep learning/…), avec des exemples d'IA qui reconnaissent de base très bien les voitures sur une image, mais qui, en ajoutant des détails (invisibles à l'œil nu) à l'image, préfèrent reconnaître des girafes. Ou des panneaux de limite à 90km/h transformés en STOP avec deux bouts de scotchs… Y a des failles de sécurité qui n'attendent que d'être exploitées miam
avatar
<<< Kernel Extremis©®™ >>> et Inventeur de la différence administratif/judiciaire ! (©Yoshi Noir)

<Vertyos> un poil plus mais elle suce bien quand même la mienne ^^
<Sabrina`> tinkiete flan c juste qu'ils sont jaloux que je te trouve aussi appétissant

3

Oui, on avait parlé de ce phénomène smile
avatar
— Zeroblog —

« Tout homme porte sur l'épaule gauche un singe et, sur l'épaule droite, un perroquet. » — Jean Cocteau
« Moi je cherche plus de logique non plus. C'est surement pour cela que j'apprécie les Ataris, ils sont aussi logiques que moi ! » — GT Turbo

4

Oué, je ne retrouve pas la page en question mais je viens de trouver qui parle des panneaux :
https://www.nature.com/articles/d41586-019-03013-5

5

Il y a même un exemple avec un faux manchot dans l'article !
avatar
— Zeroblog —

« Tout homme porte sur l'épaule gauche un singe et, sur l'épaule droite, un perroquet. » — Jean Cocteau
« Moi je cherche plus de logique non plus. C'est surement pour cela que j'apprécie les Ataris, ils sont aussi logiques que moi ! » — GT Turbo

6

L'exemple que j'ai vu avec une voiture transformée en girafe était davantage bluffant, dans la mesure où un humain ne voit pas la différence entre l'image d'origine (bien détectée comme voiture) et l'image transformée ^^
avatar
<<< Kernel Extremis©®™ >>> et Inventeur de la différence administratif/judiciaire ! (©Yoshi Noir)

<Vertyos> un poil plus mais elle suce bien quand même la mienne ^^
<Sabrina`> tinkiete flan c juste qu'ils sont jaloux que je te trouve aussi appétissant

7

Il y a deux exemples comme ça plus bas dans l'article (un panda transformé en gibbon, et un paresseux transformé en voiture de course).
avatar
— Zeroblog —

« Tout homme porte sur l'épaule gauche un singe et, sur l'épaule droite, un perroquet. » — Jean Cocteau
« Moi je cherche plus de logique non plus. C'est surement pour cela que j'apprécie les Ataris, ils sont aussi logiques que moi ! » — GT Turbo

8

./60016 Oué grin
Moi je l'avais reconnu embarrassed

flanker (./60017) :
dans la mesure où un humain ne voit pas la différence entre l'image d'origine
Oué ce qu'on avait posté ici c'était ça, quelques pixels altérés discrètement, c'était totalement invisible.


Ce papier semble y faire référence, mais je ne le retrouve pas pour l'instant
One pixel attack for fooling deep neural networksarXiv.orgRecent research has revealed that the output of Deep Neural Networks (DNN) can be easily altered by adding relatively small perturbations to the input vector. In this paper, we analyze an attack in an extremely limited scenario where only one pixel can be modified. For that we propose a novel method for generating one-pixel adversarial perturbations based on differential evolution (DE). It requires less adversarial information (a black-box attack) and can fool more types of networks due to the inherent features of DE. The results show that 67.97% of the natural images in Kaggle CIFAR-10 test dataset and 16.04% of the ImageNet (ILSVRC 2012) test images can be perturbed to at least one target class by modifying just one pixel with 74.03% and 22.91% confidence on average. We also show the same vulnerability on the original CIFAR-10 dataset. Thus, the proposed attack explores a different take on adversarial machine learning in an extreme limited scenario, showing that current DNNs are also vulnerable to such low dimension attacks. Besides, we also illustrate an important application of DE (or broadly speaking, evolutionary computation) in the domain of adversarial machine learning: creating tools that can effectively generate low-cost adversarial attacks against neural networks for evaluating robustness.



(fork ?)

9

J'ai cherché aussi, mais je n'ai pas trouvé de girafe sad
(seulement les papiers qui correspondent au panda et au paresseux)
avatar
— Zeroblog —

« Tout homme porte sur l'épaule gauche un singe et, sur l'épaule droite, un perroquet. » — Jean Cocteau
« Moi je cherche plus de logique non plus. C'est surement pour cela que j'apprécie les Ataris, ils sont aussi logiques que moi ! » — GT Turbo

10

On devrait peut-être plutôt chercher une voiture ?

edit : je viens de trouver, on croirait vraiment qu'il s'agit d'une girafe, c'est fou ! (en l'occurrence c'est évidemment une moto, mais c'est le même principe embarrassed)
shandor-larenty-veut-remettre-au-gout-du-jour-l-equitation-de-girafe_6c136203e2e911691629915d29dde7a9159a9418.jpg

11

grin
avatar
— Zeroblog —

« Tout homme porte sur l'épaule gauche un singe et, sur l'épaule droite, un perroquet. » — Jean Cocteau
« Moi je cherche plus de logique non plus. C'est surement pour cela que j'apprécie les Ataris, ils sont aussi logiques que moi ! » — GT Turbo

12

C'est simple les réseau de neurones classiques sont globalement myopes: quand on leur donne une image quelque soit la taille, le premier truc qui est fait c'est de la réduire a une taille ridicule, genre ton image 16K est réduite à du 128x128 pixels.

Ensuite oui les réseau de neurone sont bizarrement très sensible au bruit a basse fréquence, et plus résilient aux hautes fréquences (et encore on peux les tromper aussi avec des changement plus brutaux)

C'est la ou c'est amusant c'est qu'une camera est une belle source de bruit, même si plus uniforme que les cas d'adversité cité, ou c'est globalement un ou un couple de pixels, et non un bruit global ajouté a l'image. Mais oui l'humain ne se ferra pas avoir par ce genre de manipulation, d'un parce qu'il ne le vois pas, deux parce qu'on est juste un peu (aka plusieurs dizaines voir centaines ordre de magnitude plus complexe qu'un réseau de neurone)


Et après certains parlent d'utiliser un NN comme outils de décision pour les voitures autonomes.........

Et ça me sidère de voir des gens intelligent penser que les NN sont la solution à tout ou presque.. (voir qu'ils se sentent visé quand tu émet des doutes ou critique ce genre de choses)

Les quelque cas d'adversité les plus interessants:

Google’s AI thinks this turtle looks like a gun, which is a problemThe VergeNew research shows how machine vision systems of all kinds can be tricked into misidentifying 3D objects


https://www.researchgate.net/figure/Adversarial-example-d-2-1188-of-a-giraffe-image-crafted-by-the-Show-and-Fool_fig9_321604190

https://www.nature.com/articles/d41586-019-03013-5


Sinon j'ai trouvé transformer des moutons en girafe (et dénuder des filles):
Finally, a Neural Network Can Turn a Bunch of Sheep Into Some Decent GiraffesGizmodoUsing machine learning to swap out one image for another isn’t new, but ask these systems to do something a bit more complicated than a basic faceswap, and you can end up with underwhelming or laughable results. Now, researchers say they have developed a technique that produces far more convincing images for complex tasks, such as swapping out skirts for pants, cups for bottles, or a herd of sheep for a mess of giraffes.



Apres j'ai seulement trouvé une girafe qui essayer de fusionner avec une voiture:
72Z7PCO2EVGMBNYGTNJUXXGPFI.jpg


Et ce n'est pas du reseau de neurone, mais meme les capteurs plus classiques peuvent etre trompé:
https://medium.com/syncedreview/researchers-fool-lidar-with-3d-printed-adversarial-objects-3f92962f0f96

Donc un tel truc avec un NN a la tete == catastrophe nukuélaire
avatar
Proud to be CAKE©®™


GCC4TI importe qui a problème en Autriche, pour l'UE plus et une encore de correspours nucléaire, ce n'est pas ytre d'instérier. L'état très même contraire, toujours reconstruire un pouvoir une choyer d'aucrée de compris le plus mite de genre, ce n'est pas moins)
Stalin est l'élection de la langie.
Aide Charte Contacts Crédits Réalisé avec yAronet 49 ms