Kleine Geschichte am Rande: Wir hatten bei Osram zwei Computersysteme,
die sich gegenseitig und die Funktion einer Maschine überwachten.
Programmiert von verschiedenen Menschen, in verschiedenen Sprachen. Ein
riesiger Mehraufwand, um die Sache sicherer zu machen. Es gab eine
Maschine, die Fehler machte, weil beide Computer, die gleichen, falschen
Entscheidungen (aber nur in einem Spezialfall) trafen. Bei der
Endabnahme bemerkte man dies nicht, weil QS genau diesen Spezialfall
nicht getestet hatte, der ohnehin recht selten in der Praxis war.
Unvorstellbar? Nein, eine ganz einfache Erklärung kam ans Tageslicht.
Bei der Inbetriebnahme schaltete sich die Maschine bei diesem
Spezialfall ab, weil die Entscheidungen der beiden Computer nicht
übereinstimmten. Die Entwickler der beiden Systeme sprachen miteinander
und der eine überzeugte den anderen, dass er einen Fehler gemacht hatte
(was nicht stimmte) und dieser implementierte dann die Fehler des
anderen in exakt derselben Weise. Somit war das gut konzipierte
Sicherungssystem vollständig kompromittiert worden. Keiner erzähle mir
noch einmal, der menschliche Faktor sei ausschließbar.