I. Zweck
Dieser Text existiert, um Verantwortung dort zu definieren, wo Autorität fehlt.
Code entfernt Intermediäre.
Konsequenzen bleiben.
Wo Institutionen einst Schuld absorbierten, formen Erbauer nun direkt die Ergebnisse. Ethik kann nicht kostenlos an Protokolle ausgelagert werden.
Dieses Dokument setzt Grenzen.
II. Code ist nicht neutral
Code ist deterministisch, nicht neutral.
Jedes System setzt Annahmen durch:
- wer handeln kann
- wer das Risiko trägt
- wer für das Scheitern bezahlt
Sich zu entscheiden, nicht zu entscheiden, ist selbst eine Entscheidung.
Behauptungen der Neutralität verbergen meist Werte, statt sie zu beseitigen.
III. Wenn Code zu Gewalt wird
Code wird zu Gewalt, wenn er:
- sinnvollen Ausstieg entfernt
- unumkehrbare Macht konzentriert
- Schaden ohne Rückgriff externalisiert
- Asymmetrie unter dem Deckmantel der Automatisierung durchsetzt
Gewalt erfordert keine Absicht.
Wirkung genügt.
Das Fehlen physischer Gewalt entbindet nicht von Verantwortung.
IV. Verantwortung ohne Autorität
Autorität vermittelte einst Rechenschaftspflicht.
In autonomen Systemen existiert kein solcher Puffer.
Erbauer sind verantwortlich für:
- was ihr Code möglich macht
- was er unvermeidlich macht
- was er verhindert
Haftungsausschlüsse heben Kausalität nicht auf.
V. Was Erbauer den Nutzern schulden
Erbauer schulden Nutzern:
- Lesbarkeit des Risikos
- ehrliche Bedrohungsmodelle
- Ausstiegswege
- minimale Annahmen
Sie schulden ihnen nicht:
- Garantien
- Schutz vor jedem Verlust
- Bequemlichkeit auf Kosten der Souveränität
Paternalismus ist ein schlechter Ersatz für Fürsorge.
VI. Autonomie und Zustimmung
Zustimmung erfordert Verständnis.
Systeme, die technisch offen, aber praktisch undurchsichtig sind, stärken Nutzer nicht wirklich. Komplexität kann ebenso wirksam zwingen wie Gewalt.
Autonomie ohne Verständnis ist Theater.
Ethische Systeme reduzieren kognitive Asymmetrie.
VII. Gegen den reinen Nihilismus
Nihilismus verwechselt Unvermeidlichkeit mit Absolution.
Dass etwas existieren wird, bedeutet nicht, dass jemand verpflichtet ist, es zu bauen, oder es ohne Zurückhaltung zu bauen.
Fähigkeit impliziert keine Verpflichtung.
Die Fähigkeit zu bauen verleiht keine moralische Immunität.
VIII. Gegen „Bau einfach, Bro"
„Bau einfach" ist Abdankung.
Es behandelt Konsequenzen als Externalitäten und Nutzer als Abstraktionen. Es reduziert Ethik auf Ausführungsgeschwindigkeit.
Geschwindigkeit ohne Richtung verdient selten den Namen Fortschritt.
Erbauer, die Verantwortung ablehnen, werden sie dennoch zugewiesen bekommen.
IX. Gegen moralische Auslagerung an Protokolle
Protokolle entbinden nicht von Ethik.
Dezentralisierung verteilt Macht.
Verantwortung bleibt.
Wenn Schaden entsteht, ist der Verweis auf den Code Ausflucht, keine Erklärung.
Ethik geht der Architektur voraus.
X. Der Standard eines Erbauers
Ein ethischer Erbauer:
- versteht das Bedrohungsmodell
- bewahrt den Ausstieg
- minimiert Zwang
- dokumentiert Kompromisse
- akzeptiert nachgelagerte Konsequenzen
Perfektion ist nicht erforderlich.
Bewusstsein schon.
XI. Schlusserklärung
Code formt die Wirklichkeit.
Wer ihn schreibt, nimmt an Regierung teil, ob er es zugibt oder nicht.
Die eigentliche Frage ist, ob Erbauer handeln werden, als wäre diese Verantwortung ihre eigene.