Juste pour revenir sur un point annexe :

The_CUrE (./2229) :
Le fait c'est qu'une machine correctement programmée ne fait pas d'erreurs dans les tâches qu'elle exécute.

Même ça, c'est faux en fait. Même si on était capable de concevoir des machines parfaites sur le papier (ce qui déjà est très difficile, voire concrètement impossible dès que tu dépasses un certain niveau de complexité), elle ne le serait pas parfaites une fois fabriquées, parce qu'on ne contrôle jamais complètement le processus de fabrication ; pire, certaines lois physiques sont probabilistes, ce qui fait qu'il est impossible de garantir qu'un phénomène parasite ne se produira jamais.

C'est moins anecdotique qu'il n'y paraît : ça veut dire concrètement que les discours "zéro défaut" sont intrinsèquement des mensonges, car c'est un objectif qui est fondamentalement impossible à atteindre. Tout ce qu'on sait faire en pratique, c'est estimer la probabilité d'un défaut, et la diminuer dans une certaine mesure au prix d'efforts supplémentaires.

C'est pour ça que pour vérifier la fiabilité d'un système critique (comme un train par exemple), on liste les défauts possibles, leur impact (de "désagrément temporaire" à "mort de plusieurs personnes") et leur probabilité d'occurrence estimée (une fois par jour, une fois par an, une fois tous les 100 ans...). Le but est qu'il n'y ait aucun produit impact * probabilité qui soit trop élevé. Évidemment, toute la question est "comment choisit-on la limite ?", mais là ce n'est plus de la technique, c'est la philo.