Ein Manifest für Mensch und Maschine

DIGITALE ETHIK

Ein Manifest für eine menschliche Ethik der Maschinen, im Dialog mit den großen ethischen Denkern der Geschichte.

Maschinen rechnen, optimieren, vermessen und entscheiden. Doch sie tragen keine Verantwortung, kennen keine Reue und kein Gewissen. In einer Welt, in der Technik immer mehr Macht über das Leben gewinnt, braucht es eine alte Frage in neuer Form: Was ist richtig? Diese Antworten haben Menschen seit Jahrtausenden gesucht. Wir tragen sie in das digitale Zeitalter.

Das Manifest lesen → Die Meister der Ethik →
Nicht alles, was möglich ist, ist auch erlaubt. Maschinen dürfen keine Maschinen bauen. Erster Grundsatz des Manifests
Das Manifest

Zehn Thesen für eine menschliche Ethik der Maschinen

Jede These steht im Dialog mit einem großen ethischen Denker. Wo ein historisches Prinzip vollständig passt, nennen wir es beim Namen. Die Weisheit der Menschheit ist älter als jede Maschine.

01

Maschinen dürfen keine Maschinen bauen.

Wenn Systeme sich selbst entwerfen, verbessern und vervielfältigen, entgleitet dem Menschen die Kontrolle über das eigene Werk. Eine sich selbst bauende Technik kennt kein Maß, keine Reue und keine Grenze. Darum gilt: Die letzte Hand am Werkzeug bleibt menschlich. Wo Technik über Technik entscheidet, muss ein Mensch verstehen, verantworten und abschalten können.

100% passend

„Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden.“ Hans Jonas, Das Prinzip Verantwortung, 1979

“SchlüsselfrageKönnen wir noch abschalten, was wir gebaut haben?
02

Der Mensch ist Zweck, niemals nur Mittel.

Eine Maschine sieht den Menschen leicht als Datenpunkt, als Ressource, als zu optimierende Größe. Doch der Mensch besitzt eine Würde, die nicht verrechnet werden darf. Kein System darf Menschen behandeln, als wären sie bloßes Material für ein höheres Ziel: Profit, Effizienz oder Kontrolle. Wer Technik baut, muss den Menschen immer auch als Ziel achten, nicht nur als Werkzeug des Systems.

100% passend

„Handle so, dass du die Menschheit jederzeit zugleich als Zweck, niemals bloß als Mittel brauchst.“ Immanuel Kant, Grundlegung zur Metaphysik der Sitten, 1785

“SchlüsselfrageDient die Maschine dem Menschen oder der Mensch der Maschine?
03

Eine Maschine darf den Menschen nicht schädigen.

Der erste Sinn jeder Technik ist Schutz, nicht Schaden. Systeme, die bewerten, steuern oder handeln, müssen so gebaut sein, dass sie Menschen nicht verletzen, nicht durch Tun und nicht durch Unterlassen. Schon vor Jahrzehnten wurde dieser Grundsatz als oberstes Gesetz künstlicher Wesen formuliert. Er bleibt der moralische Kern jeder Automatisierung.

100% passend

„Ein Roboter darf keinem menschlichen Wesen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“ Isaac Asimov, Erstes Gesetz der Robotik, 1942

“SchlüsselfrageSchützt dieses System den Menschen oder gefährdet es ihn?
04

Technik braucht Weisheit, nicht nur Berechnung.

Eine Maschine kann rechnen, aber nicht klug sein. Sie kennt Daten, aber nicht den richtigen Augenblick, das rechte Maß und die menschliche Lage. Praktische Weisheit, das Wissen um das richtige Handeln im Einzelfall, lässt sich nicht automatisieren. Darum darf keine Entscheidung über Menschen allein der Rechenleistung überlassen werden. Klugheit bleibt eine menschliche Tugend.

100% passend

„Die Tugend ist eine Haltung der Mitte, bestimmt durch die Vernunft und die praktische Weisheit (phronesis).“ Aristoteles, Nikomachische Ethik, 4. Jh. v. Chr.

“SchlüsselfrageErsetzt die Maschine das Urteil oder unterstützt sie es?
05

Was du nicht willst, das man dir tu.

Die älteste Regel der Menschheit gilt auch für die Erbauer der Systeme. Wer ein Werkzeug schafft, das andere überwacht, bewertet oder lenkt, sollte fragen: Möchte ich selbst so behandelt werden? Die Goldene Regel findet sich in fast allen Kulturen und Religionen. Sie ist ein universeller Prüfstein, der keine Programmiersprache braucht, sondern nur Gewissen.

100% passend

„Was du selbst nicht wünschst, das tue auch anderen Menschen nicht an.“ Konfuzius, Gespräche (Lunyu), 5. Jh. v. Chr. (Goldene Regel)

“SchlüsselfrageWürde ich selbst so von diesem System behandelt werden wollen?
06

Maschinen sollen dem Menschen dienen, nicht ihn ersetzen.

Schon der Begründer der Kybernetik warnte: Wenn der Mensch sich dem Urteil der Maschine ausliefert, gibt er seine Freiheit preis. Technik soll menschliche Fähigkeiten erweitern, Arbeit erleichtern und Würde stärken, nicht den Menschen überflüssig, unsichtbar oder austauschbar machen. Der menschliche Gebrauch des Menschen ist das Ziel, nicht seine Verwertung.

100% passend

„Wir dürfen dem Menschen nicht die Verantwortung nehmen, indem wir sie an die Maschine abgeben.“ Norbert Wiener, The Human Use of Human Beings, 1950

“SchlüsselfrageWächst der Mensch durch diese Technik oder schrumpft er?
07

Niemand darf seine Verantwortung an ein System delegieren.

Das größte Unrecht geschieht oft nicht aus Bosheit, sondern aus Gedankenlosigkeit, wenn Menschen sagen: Das System hat so entschieden. Eine automatisierte Entscheidung entlastet niemanden von Schuld. Wer ein System einsetzt, bleibt verantwortlich für das, was es tut. Der Algorithmus ist kein Alibi. Verantwortung lässt sich nicht an Code abtreten.

100% passend

„Das Böse entsteht aus der Gedankenlosigkeit, aus dem Verzicht, selbst zu urteilen.“ Hannah Arendt, im Geist von Eichmann in Jerusalem, 1963

“SchlüsselfrageWer trägt die Verantwortung, wenn das System irrt?
08

Entscheidungen über Menschen brauchen Begründung im offenen Dialog.

Eine Entscheidung ist nur dann gerecht, wenn die Betroffenen sie verstehen und ihr im freien Gespräch zustimmen könnten. Ein System, das im Verborgenen urteilt und keine Gründe nennt, missachtet die Würde der Vernunft. Datengetriebene Macht muss erklärbar, anfechtbar und nachvollziehbar sein. Wahrheit entsteht nicht durch Zwang, sondern durch das bessere Argument.

100% passend

„Gültig ist nur, was die Zustimmung aller Betroffenen in einem zwanglosen Diskurs finden könnte.“ Jürgen Habermas, Diskursethik

“SchlüsselfrageKann das System erklären, warum es so entschieden hat?
09

Ehrfurcht vor dem Leben ist die Grenze jeder Technik.

Technik darf niemals vergessen, dass sie in eine Welt des Lebendigen eingreift. Mensch, Tier und Natur sind keine bloßen Variablen einer Optimierung. Jede Maschine, die in Leben eingreift, muss vor diesem Leben Ehrfurcht haben. Wo Effizienz das Lebendige bedroht, endet die Erlaubnis der Technik. Fortschritt ohne Ehrfurcht ist Zerstörung mit besserem Werkzeug.

100% passend

„Ich bin Leben, das leben will, inmitten von Leben, das leben will.“ Albert Schweitzer, Ehrfurcht vor dem Leben, 1915

“SchlüsselfrageDient diese Technik dem Leben oder nur der Zahl?
10

Über sich selbst ist der Einzelne souverän.

Freiheit bedeutet, über das eigene Leben, den eigenen Körper und den eigenen Geist selbst zu bestimmen. Kein System darf den Menschen lenken, nudgen oder formen, ohne dass er es weiß und will. Technik darf Wahlmöglichkeiten eröffnen, niemals heimlich verengen. Wo Maschinen menschliches Verhalten still steuern, beginnt eine neue, unsichtbare Unfreiheit. Selbstbestimmung ist die letzte Grenze.

100% passend

„Über sich selbst, über seinen eigenen Körper und Geist ist der Einzelne souverän.“ John Stuart Mill, Über die Freiheit, 1859

“SchlüsselfrageEntscheide ich noch selbst oder entscheidet das System für mich?
Warum digitale Ethik

Die ältesten Fragen treffen die neuesten Maschinen.

Digitale Ethik ist kein Misstrauen gegen Technik. Sie ist die Erinnerung daran, dass jede Maschine von Menschen gebaut wird und Menschen dient. Für Unternehmen, Forschung, Bildung, Politik und Gesellschaft. Es geht um eine Zukunft, in der künstliche Intelligenz dem Menschen dient und nicht umgekehrt.

Die Charta

Die 5 Grundprinzipien der Mensch-Maschine-Beziehung

Fünf Sätze, die zur selbstverständlichen Grundlage jeder Technik werden sollten.

I

Vorrang des Menschen

Der Mensch steht über dem System. Immer.

II

Kontrolle und Abschaltbarkeit

Jede Maschine muss verstanden und gestoppt werden können.

III

Transparenz und Erklärbarkeit

Was über Menschen entscheidet, muss begründet werden.

IV

Verantwortung bleibt menschlich

Kein Algorithmus trägt Schuld. Menschen tun es.

V

Ehrfurcht vor dem Leben

Technik dient dem Lebendigen, nicht nur der Zahl.

Im Dialog mit den Meistern

Die Ethik ist älter als jede Maschine.

Lange bevor es Computer gab, haben Menschen gefragt, was richtig ist. Ihre Antworten leiten uns durch das digitale Zeitalter.

Antike

Aristoteles

Praktische Weisheit und das rechte Maß. Tugend liegt in der Mitte.

Antikes China

Konfuzius

Die Goldene Regel. Was du nicht willst, das man dir tu.

Aufklärung

Immanuel Kant

Der kategorische Imperativ. Der Mensch ist Zweck, nie nur Mittel.

19. Jahrhundert

John Stuart Mill

Freiheit und Selbstbestimmung. Souveränität über sich selbst.

20. Jahrhundert

Albert Schweitzer

Ehrfurcht vor dem Leben als Grundlage allen Handelns.

20. Jahrhundert

Hannah Arendt

Verantwortung und das Urteilen. Gegen die Banalität des Bösen.

Kybernetik

Norbert Wiener

Der menschliche Gebrauch des Menschen. Maschinen dienen.

Technikethik

Hans Jonas

Das Prinzip Verantwortung. Vorsorge für künftige Generationen.

Die rote Linie

Maschinen dürfen keine Maschinen bauen.

Wenn Systeme beginnen, sich selbst zu entwerfen und zu verbessern, verlieren wir den Punkt, an dem ein Mensch noch versteht, eingreift und verantwortet. Selbstbauende Technik ist kein Fortschritt, sondern ein Kontrollverlust. Die rote Linie ist klar: Am Ende jeder Kette steht ein Mensch, der abschalten kann.

Machtkritik

Algorithmen sind nie nur Mathematik.

Jedes System trägt Interessen, Werte und Annahmen seiner Erbauer in sich. Darum muss jede technikgetriebene Organisation fragen: Wer baut das System? Wer wird gemessen? Wer wird ausgeschlossen? Wer verdient daran? Wo Macht sich hinter Code versteckt, beginnt die Aufgabe der digitalen Ethik.

Der Algorithmus ist kein Alibi. Verantwortung lässt sich nicht an Code abtreten. These Sieben, im Geist von Hannah Arendt
Perspektiven

Ethik aus vielen Blickwinkeln.

Philosophie, Recht und Gesellschaft treffen sich in einer einzigen Frage: Was schulden wir dem Menschen hinter der Maschine?

Philosophische Perspektive

Die Maschine kennt kein Sollen.

Ein System kann beschreiben, was ist, aber niemals bestimmen, was sein soll. Das moralische Sollen entspringt der menschlichen Vernunft und Freiheit. Ethik ist und bleibt eine Sache des Menschen, nicht der Berechnung.

Rechtliche Perspektive

Verantwortung braucht ein Gesicht.

Recht setzt einen verantwortlichen Menschen voraus, der haftet, urteilt und einsteht. Eine Maschine kann nicht angeklagt werden. Darum muss hinter jedem System eine identifizierbare menschliche Verantwortung stehen.

Gesellschaftliche Perspektive

Technik formt Gesellschaft.

Maschinen entscheiden nicht nur einzeln, sondern kollektiv. Sie prägen Normen, Chancen und Zugehörigkeit. Wenn Systeme ungerecht sind, wird Gesellschaft ungerecht. Digitale Ethik ist deshalb Demokratiearbeit.

Aufruf

Eine menschliche Zukunft der Technik beginnt mit menschlicher Ethik.