Dass wir im Falle von Entscheidungen durch Algorithmen sehr schnell an ethische Grenzen stoßen, zeigt die Diskussion um das autonome Fahren. Eine zentrale Frage der Akzeptanz ist dort, wie das Fahrzeug – also der darin installierte Algorithmus – entscheiden soll, auf wen im Falle eines nicht mehr vermeidbaren Zusammenstoßes das Fahrzeug steuern sollte, ein Kind oder eine Seniorin.
Diese Diskussion, die sich leicht auf den unternehmerischen Kontext übertragen lässt, zeigt meines Erachtens zwei Dinge deutlich: Erstens, wir haben ein großes Vertrauen in die Leistungsfähigkeit dieser Algorithmen und zweitens, wir haben noch viel zu wenig flächendeckendes Verständnis über die Art und Funktionsweise von Algorithmen. Ersteres ist eine Frage der Technologie, verbunden mit der Überlegung, ob es technisch je möglich sein wird so schnelle Systeme zu entwickeln, die innerhalb von Millisekunden solche komplexen Entscheidungen sicher treffen und dann noch alle notwendigen Maßnahmen in die Wege leiten. Zweiteres hingegen ist ein tiefer liegendes gesellschaftliches Problem, nämlich dass wir uns zunehmend in die Hände von Algorithmen begeben, beruflich wie privat, ohne genau zu wissen, was dieser eigentlich ist. Es lohnt sich also gerade für Unternehmen, vor einer Entscheidung für den Einsatz von Algorithmen genauer mit der Frage zu beschäftigen, welche Entscheidungen künftig eigentlich von Algorithmen technisch getroffen werden könnten und unternehmerisch getroffen werden sollten.
Was ist ein Algorithmus?
Allgemein gesagt, gibt ein Algorithmus eine Vorgehensweise vor, um ein Problem zu lösen. Anhand dieses Lösungsplans werden in Einzelschritten Daten aus einer oder mehreren Quellen in Ausgabedaten umgewandelt. Während Algorithmen vor allem in der Informatik und Mathematik eine große Rolle spielen, können sie auch von Menschen in natürlicher Sprache formuliert und abgearbeitet werden. Im Prinzip sind es drei Schritte, die der Algorithmus durchführt: die Erfassung von Daten (=Informationen), die Verarbeitung und schließlich die Ausgabe der verarbeiteten Information an einen Akteur.
Mit zunehmender Datenmenge ist die Abarbeitung durch leistungsfähige Rechner sehr effizient, unter der Voraussetzung, dass ein Algorithmus unter anderem folgende Eigenschaften besitzt:
Eindeutigkeit und Determiniertheit: Ein Algorithmus darf keine widersprüchliche Beschreibung haben und muss bei gleichen Voraussetzungen stets das gleiche Ergebnis liefern (höchstens eine Möglichkeit der Fortsetzung).
Ausführbarkeit und Endlichkeit: Jeder Einzelschritt muss ausführbar sein und der Algorithmus muss nach endlich vielen Schritten ein Ergebnis liefern.
In Ergänzung zu diesen Eigenschaften führt der Einsatz von „künstlicher Intelligenz“ dazu, dass ein Algorithmus in der Lage sein kann, etwa beim maschinellen Lernen, die Erfahrungen mit seinen Ergebnissen künftig zu berücksichtigen. In diesem Fall wird der Algorithmus nicht mehr vollständig programmiert, sondern in seinem eigenen Lernsystem „trainiert“ und ist damit in der Lage, sich selbständig zu entwickeln. Aufgrund dieser Veränderungsfähigkeit stellt sich die Frage, welche Rolle ein lernender Algorithmus künftig im Unternehmen spielen kann und sollte.
Wer übernimmt die Verantwortung von algorithmisch getroffenen Entscheidungen?
Algorithmen sind heute bereits in Unternehmen allgegenwärtig und können vor allem in der Abarbeitung von administrativen Prozessen enorme Unterstützung leisten. Fraglich ist aber, ob Algorithmen künftig auch weitreichende Entscheidungen für Unternehmen treffen können und sollen. Technologisch wird es bereits in wenigen Jahren möglich sein, komplexe Managemententscheidungen von Algorithmen treffen zu lassen. Es steht aber das Problem der Verantwortung und Haftung im Raum.
Nehmen wir ein fiktives Beispiel: Volkswagen ist aktuell dabei, einige (ehemalige) Manager aufgrund ihrer Entscheidung zu den Abschaltvorrichtungen und Abgasmanipulationen zu verklagen. Sie sollen die Verantwortung dafür tragen, dass Dinge getan wurden, in dessen Folge der Konzern viele Milliarden Euro Strafen und Entschädigungen zahlen musste. Stellen wir uns einmal vor, wer im Falle einer algorithmisch getroffenen Entscheidung auf der Anklagebank sitzen würde? Der Entwickler der Software? Der Einkäufer, der den Kauf der Software entschieden hat? Der Justitiar, der nicht legale Entscheidungen nicht gestoppt hat?
Auf der anderen Seite könnte man natürlich argumentieren, dass in unserem fiktiven Beispiel, der Algorithmus niemals eine solche „nicht legale Aktion“ unterstützt hätte und somit der Schaden gar nicht entstanden wäre. Ist der Algorithmus also der bessere Entscheider, weil er andere Faktoren, wie zum Beispiel Karrieredruck oder sozialen Druck ausblendet? Allerdings hätte eine solche Entscheidung völlig andere Konsequenzen nach sich gezogen, zum Beispiel Umsatzrückgang in diesem Teilmarkt, gegebenenfalls sogar Stellenabbau. Und wer hätte hierfür die Verantwortung übernommen?
Halten wir also fest, dass die Verantwortung für Entscheidungen niemals der Algorithmus übernehmen kann, sondern nur die Menschen, die diesen einsetzen. Dies gilt vor allem für die unternehmerischen Entscheidungen, die immer in einer Situation der Unsicherheit getroffen werden. Sie sind also gerade nicht deterministisch, also genau vorhersehbar. Das hängt damit zusammen, dass das Verhalten der Menschen nicht hundertprozentig vorhersehbar ist. Da korporative Akteure (also juristische Personen) im Gegensatz zu natürlichen Personen ihre Entscheidungen aber immer Dritten gegenüber vertreten müssen, unterliegen sie hier einer besonderen Sorgfaltspflicht.
Die Deutsche Bank zum Beispiel kann ihre unternehmerische Entscheidung zum radikalen Umbau lediglich auf Basis ihr zur Verfügung stehender Informationen treffen und vertreten, weiß aber nicht, wie der Markt, die Kunden, die Öffentlichkeit und die Mitarbeiter in Summe darauf reagieren. Solche grundlegenden Entscheidungen sind weder deterministisch noch beliebig wiederholbar, sodass man hier Lern- oder Trainingsprozesse in Gang setzen könnte.
Standardisierbare Entscheidungen – ja!
Zusammenfassend können KI-gestützte Algorithmen viele „Entscheidungen“ treffen, die auf standardisierten Verfahren basieren oder innerhalb von sehr klaren Regelungen stattfinden. Wichtig ist dabei, dass die eingehenden Informationen in einer vergleichbaren Qualität vorliegen, sodass die Entscheidungsgrundlage nachvollziehbar ist. Wichtig ist zudem, dass in selbstlernenden Systemen immer nachvollzogen werden kann, warum sich Entscheidungsmuster eventuell verändern. Wenn diese Voraussetzungen vorliegen, können Algorithmen effizient die Arbeit der Mitarbeiterinnen und Mitarbeiter im Unternehmen unterstützen.
Für Unternehmen bedeutet dies, dass Algorithmen an den Stellen in die Prozesse eingebracht werden sollten, wo es um standardisierte Entscheidungspfade geht. Umgekehrt sollten Unternehmen ihren Mitarbeiterinnen und Mitarbeiter an allen anderen Stellen mehr Zeit geben, sich in die Komplexität der Sachverhalte einzuarbeiten und mit entsprechenden Empfehlungen von Algorithmen qualitativ gute Entscheidungen zu treffen.
Nächste Schritte
Wie am Anfang dargestellt, herrscht vor allem in Bezug auf Algorithmen und Künstliche Intelligenz weiterhin großes Unwissen und dementsprechend eine große Verunsicherung. Bevor der Einsatz von Algorithmen zur Entscheidungsunterstützung forciert wird, sollten Unternehmerinnen und Unternehmer daher in ihrer Belegschaft Aufklärung betreiben, was sich hinter einer neuen Software oder einem Algorithmus verbirgt und vor allem, welchen Nutzen dieser für die Mitarbeiterinnen und Mitarbeiter bringen kann. Unternehmen sollten
mit ihren Mitarbeiterinnen und Mitarbeitern analysieren, an welchen Stellen im Prozess die Unterstützung durch Algorithmen die Arbeitsqualität verbessern oder die Arbeitsbelastung verringern kann. Dabei sollten die Mitarbeiter bei der Konzeption neuer Prozesse eng mit eingebunden werden, sodass ihnen der Nutzen für ihre eigene Arbeit von Beginn an klar wird. Unternehmen sollten Weiterbildungsmöglichkeiten für alle Mitarbeiterinnen und Mitarbeiter schaffen, deren Arbeit im Zuge der Einführung einer Software (teilweise) wegfällt. Zudem sollten klare Regelungen aufgestellt werden, die deutlich machen, wer im Unternehmen die Entscheidungen trifft („der Mensch und nicht der Algorithmus“). Auch wenn der Algorithmus nicht das das „Allheilmittel“ ist und auch nicht die vollständige Unternehmenssteuerung übernehmen wird, ist ein Einsatz in immer mehr Prozessen im Unternehmen unabdingbar, um wettbewerbsfähig zu bleiben. Unternehmen sollten diese Chance nutzen.
Zurück zur Startseite
