Mais ça pose un autre problème parce qu'un de ces réseaux neuronaux en gros c'est comme les humains, tu peux pas déboguer pourquoi quelqu'un est fou ou traumatisé. Tu peux juste le faire évoluer avec un peu plus de données mais c'est pas garanti que ça aille dans la bonne direction.
Et si tu "réécris de zéro" non seulement c'est un effort énorme, mais en plus ça créera certainement d'autres angles morts. Et comme c'est un effort si énorme, il ne peut pas y avoir n'importe qui qui créent ces données, donc si un truc est gros et utilisé, il y aura aussi un effort conséquent pour essayer de le tromper.
Essaie d'appliquer ça aux voitures autonomes par exemple, imagine que tu puisses créer un motif qui fasse que ta Tesla elle s'arrête soudainement en urgence, et que des gens s'amusent à coller cette image derrière leur caisse normale, old-school et fiable pour s'amuser. Ou même que ce motif l'empêche de reconnaître un enfant traversant la route.