melbou (./740) :
Mais est-ce que les modèles d'IA capables de trouver des failles ne peuvent pas aussi les faire remonter voire les patcher?

C'est exactement ce qu'ils font, mais uniquement auprès de certaines sociétés (Mythos n'est pas ouvert à tout le monde).

Je ne suis pas trop à jour sur Mythos, je me demande dans quelle mesure l'asymétrie d'informations (re)devient un enjeu entre attaquant et défenseur.
Ca peut nuir à l'open-source si une info cachée devient plus avantageuse que les contributions de pull-requests.
En effet si l'IA devient 100x plus efficace que l'humain, quel avantage à publier le code? Il suffit de faire tourner une IA locale sur son code closed-source pour se protéger.

L'ouverture du code n'a jamais une vraie garantie de sécurité, et la sécurité ne devrait pas être la raison de l'ouvrir (du point de vue de l'éditeur, ça peut être autre chose pour l'utilisateur).
On ne compte plus le nombre de vulnérabilités dans des codes open source très utilisés et pourtant jamais relus.

En revanche, les codes open source sont un bon moyen de factoriser du code et d'éviter de réinventer la roue. On verra à quel point ça aura encore du sens.