Warum wollen wir Individuen für das Versagen unserer Systeme beschuldigen?

Schon wieder lesen wir vom Versagen eines grossen Systems. Während über sechs Stunden wurde Facebook anfangs Oktober von einem Totalausfall heimgesucht. Auch WhatsApp und Instagram waren vom Internet abgeschnitten.

Gemäss Aussagen von Internetexperten ist der Absturz auf menschliches Versagen zurückzuführen. Es soll sich um ein fehlerhaftes Update eines Border Gateway Protokolls (BGP) gehandelt haben. Dieses funktioniert offenbar wie ein Navigationssystem, indem es das Internet nach Adressen absucht und diese Informationen an die gewünschten Stellen weiterleitet. Fragen Sie mich bitte nicht mehr. Ich gebe hier nur Netzwerk-Knowhow von Experten, aufgearbeitet für Dummise, wieder. Wenn das BGP nicht richtig funktioniert, kann ein einzelnes Unternehmen, ein ganzes Land oder ein ganzer Kontinent vom Internet abgeschnitten werden. Es haben, so die Experten, nur wenige Angestellte Zugriff auf den Update-Mechanismus eines BGP. Nur ganz wenige sind berechtigt, Änderungen am Navigationssystem vorzunehmen.

Wie würden Sie als Verantwortungsträger reagieren?

Nehmen wir an, es wäre ein einziger Netzwerktechniker oder eine einzige Programmiererin gewesen, die das Backbone-System des mittlerweile 1000 Milliarden schweren Unternehmens Facebook von Netz getrennt hätten. Und stellen Sie sich vor, Sie wären diesen Mitarbeitern disziplinarisch vorgesetzt. Was ginge Ihnen durch den Kopf? Wäre es Ihnen in Anbetracht des enormen Schadens übel zu nehmen, wenn Sie den Verdacht hegten, dass Ihre Teammitglieder nicht mit der geforderten Sorgfalt am Werk waren. Dass Sie sie daher beschuldigen, keinen guten Job gemacht zu haben? Es ginge Ihnen möglicherweise gleich wie den zahlreichen Fachexperten, die zur Auffassung gelangt sind, dass es sich einmal mehr um menschliches Versagen gehandelt hat.

Warum nur, so frage ich Sie (und alle Experten), reduziert sich Ihre Wahrnehmung auf den Menschen und blendet das hochkomplexe, aber misslich gezeichnete System völlig aus? Ein System, das nur wenige noch verstehen. Ein System, welches uns Fachexperten in seitenlangen Erklärungen nicht zu vermitteln vermögen. Auch dann nicht, wenn Sie sich bemühen, in einfacher Sprache zu sprechen und Metaphern und Analogien verwenden, die uns deutlich signalisieren, dass bei uns Hopfen und Malz verloren ist und wir uns besser um andere Dinge kümmern sollten.

Doch genau das sollten wir nicht tun! Wir sollten aufstehen und uns gegen derart verletzliche und fragile Systeme zur Wehr setzten. Nur weil ein System kein Mensch ist, heisst das noch lange nicht, dass wir es bei unserer Beurteilung nicht mitberücksichtigen und nur noch den Menschen mit seiner Fehlbarkeit sehen. Auch ein System hat Anerkennung und damit eine Anklage verdient. Es darf nicht ungeschoren davonkommen.

Es ist bei Lichte besehen nicht so, dass in diesem Fall ein Mensch versagt hat. Es ist die seichte Leistung eines misslich konzipierten Systems, in welchem grobe Designmängel und technische Unterlassungen inakzeptable Fehlleistungen zulassen. Es ist ein System, in welchem dem Menschen eine völlig inadäquate Rolle zugewiesen wird. Oder haben wir vergessen, dass Menschen fehlbar sind?

Warum nur wollen wir Individuen für das Versagen unserer Systeme beschuldigen?

Bei der Beantwortung dieser Frage möchte ich auf zwei Hypothesen eingehen und weiss, dass sie sie allein nicht abschliessend beantworten können. Zu komplex sind die Mechanismen, als dass es für ihre Erklärung eine einzige, 'richtige' Geschichte gäbe.

Macht

Naheliegend ist es, dieses unangemessene Beschuldigen von Individuen damit zu erklären, dass es sich um das rohe Ausüben von Macht handelt. Bei jedem Versagen eines hochkomplexen Systems gibt es Menschen, Organisationen oder Institutionen, die ihre Güter, ihre Dienstleistungen oder ihre Reputation zu verteidigen suchen. Sie tun dies, indem sie im Ereignisfall einzelne Mitarbeiter oder Führungskräfte opfern. Das legt den Verdacht nahe, dass es der Schutz solcher Interessen ist, der die Handlungen von Individuen mit Schuld belegen oder in gewissen Fällen gar kriminalisieren. Es geht dabei darum, so von schlecht aufgesetzten Systemen abzulenken, für die Führungskräfte die Verantwortung zu tragen hätten. Dass dies im konkreten Fall eine grobe Unterstellung sein kann, liegt auf der Hand. Dass es praktiziert wird, wissen wir alle.

Organisationen, in denen solche Praktiken zu finden sind, leiden intern unter einer Misstrauenskultur. Werden solche Vorgänge öffentlich, stellt sich unweigerlich ein Vertrauensverlust bei der Kundschaft und allen anderen Anspruchsgruppen ein. Wenn solche Unternehmen ihre organisational und systemisch angelegten Risiken unter Kontrolle bringen wollen, haben sie einen weiten Weg zu gehen. Der beginnt mit der Verabschiedung vom Röhrenblick auf die Fehlbarkeit des Menschen. Er bedingt die Wahrnehmungsöffnung hin zur systemischen Perspektive. Das ist ein unangenehmer Prozess, für den es sich lohnt, einen Change Agent, einen Coach zur Seite zu nehmen. Immer wenn es um die Überwindung von intuitiv ausgelösten Reaktionen geht (Anschuldigung von Individuen), wird es zäh und es braucht Ausdauer und Geduld. Es ist der Weg der zur Zuverlässigkeit, Sicherheit und Resilienz der Organisation und ihrer Güter und Dienstleistungen führt.

Angst

Wenn wir heute den Bericht einer Flugunfalluntersuchung lesen, der von einer professionellen Behörde geschrieben wurde, so erkennen wir, dass es für Katastrophen nicht einen Grund gibt. Das gilt auch für Desaster, die sich in anderen hochkomplexen soziotechnischen Systemen ereignen. Vielmehr haben Dutzende von Faktoren einen Einfluss und sind mitverantwortlich für den Misserfolg. Nur durch ihr gleichzeitiges Eintreten oder Wirken kann es zum Unfall kommen. Dieses gleichzeitige Zusammenwirken ist, wir müssen es uns eingestehen, so schmerzhaft es auch sein mag, reiner Zufall. Die Komplexität bspw. des heutigen Luftfahrtsystems ist derart gross, dass die Schwankungen seiner einzelnen Funktionen zu Katastrophen führen können, obwohl alle alles richtig gemacht haben. Das ist eine erschreckende Erkenntnis die Angst macht.

Diese Angst ist im Umstand begründet, dass wir die totale Kontrolle über die von uns entworfenen und betriebenen komplexen Systeme nicht mehr haben. Wir fürchten uns vor der Möglichkeit, dass sie aufgrund der verflochtenen, alltäglichen Interaktionen, die sich darin abspielen, versagen können. Es wäre für uns viel einfacher und wir würden es sehr begrüssen, wenn solche Systemversagen einen einzelnen, nachvollziehbaren und kontrollierbaren Grund hätten. Bei der Ursachenfindung sind wir daher nicht pingelig, es muss nicht unbedingt alles auf den Tisch. Denn das macht Angst. Uns würde vor Augen geführt, dass wir es mit Kontrollverlust zu tun haben. Wie beruhigend ist es da, sich einzureden, dass es sich wieder einmal um menschliches Versagen gehandelt hat. Die Schuldzuweisung an einzelne Menschen, ihre Bestrafung und damit ihre Kriminalisierung ist daher auch ein Schutzmechanismus, der uns davor bewahrt, der Realität mit ihrer schrecklichen Fratze ins Gesicht sehen zu müssen.

Warum nehmen wir an, dass unsere Systeme okay sind?

Wie wir gesehen haben, kommt unser IT-Fachexperte in seiner Analyse des Facebook-Totalausfalls zum (selbst)-beruhigenden Schluss, dass es menschliches Versagen gewesen sein muss. Wie unerträglich wäre es für ihn, er müsste sich eingestehen, dass er ein Spezialist in einem Wirtschaftszweig ist, der derart marode und unzuverlässige Systeme produziert. Angesagt wäre Bescheidenheit und Ehrfurcht vor dem, was er mitgeholfen hat aufzubauen.

Achten Sie sich das nächste Mal, wenn Sie von einem Unfall oder einem gravierenden Ereignis in Ihrem Umfeld erfahren. Was präsentiert Ihnen die Presse, das betroffene Unternehmen oder Ihre Intuition als Ursache? Sollte es wieder einmal ein Sündenbock sein, achten Sie sich auf die beruhigende Ausstrahlung dieser Annahme. Achten Sie sich gleichzeitig, dass das System, in welchem es zum Vorfall kam, keine Beachtung findet und es im Schatten der Anklage des Schuldigen sein fehlerhaftes Dasein unbehelligt weiterführen kann.