I. Objet
Ce texte existe pour définir la responsabilité là où l'autorité est absente.
Le code supprime les intermédiaires.
Les conséquences demeurent.
Là où les institutions absorbaient autrefois le blâme, les bâtisseurs façonnent désormais les résultats directement. L'éthique ne peut être externalisée vers des protocoles sans coût.
Ce document établit des limites.
II. Le code n'est pas neutre
Le code est déterministe, pas neutre.
Chaque système impose des hypothèses :
- qui peut agir
- qui porte le risque
- qui paie l'échec
Choisir de ne pas décider est déjà une décision.
Les revendications de neutralité dissimulent le plus souvent des valeurs plutôt qu'elles ne les suppriment.
III. Quand le code devient violence
Le code devient violence quand il :
- supprime toute sortie réelle
- concentre un pouvoir irréversible
- externalise le préjudice sans recours
- impose une asymétrie sous couvert d'automatisation
La violence ne requiert pas d'intention.
L'impact suffit.
L'absence de force physique n'absout pas la responsabilité.
IV. Responsabilité sans autorité
L'autorité médiatisait autrefois la reddition de comptes.
Dans les systèmes autonomes, aucun tel tampon n'existe.
Les bâtisseurs sont responsables de :
- ce que leur code rend possible
- ce qu'il rend inévitable
- ce qu'il empêche
Les avertissements de non-responsabilité n'annulent pas la causalité.
V. Ce que les bâtisseurs doivent aux utilisateurs
Les bâtisseurs doivent aux utilisateurs :
- la lisibilité du risque
- des modèles de menace honnêtes
- des voies de sortie
- des hypothèses minimales
Ils ne leur doivent pas :
- des garanties
- une protection contre toute perte
- du confort au prix de la souveraineté
Le paternalisme est un piètre substitut à l'attention.
VI. Autonomie et consentement
Le consentement requiert la compréhension.
Les systèmes techniquement ouverts mais pratiquement opaques n'autonomisent pas réellement les utilisateurs. La complexité peut contraindre aussi efficacement que la force.
L'autonomie sans compréhension est du théâtre.
Les systèmes éthiques réduisent l'asymétrie cognitive.
VII. Contre le nihilisme pur
Le nihilisme confond inévitabilité et absolution.
Que quelque chose finisse par exister ne signifie pas que quiconque soit obligé de le construire, ni de le construire sans retenue.
La capacité n'implique pas l'obligation.
Pouvoir construire ne confère aucune immunité morale.
VIII. Contre le « construis, c'est tout »
« Construis, c'est tout » est une abdication.
Cela traite les conséquences comme des externalités et les utilisateurs comme des abstractions. Cela réduit l'éthique à la vitesse d'exécution.
Une vélocité sans direction mérite rarement le nom de progrès.
Les bâtisseurs qui refusent la responsabilité la verront leur être assignée quand même.
IX. Contre l'externalisation morale vers les protocoles
Les protocoles n'absolvent pas l'éthique.
La décentralisation distribue le pouvoir.
La responsabilité demeure.
Quand un préjudice survient, pointer vers le code est une esquive, pas une explication.
L'éthique précède l'architecture.
X. Le standard d'un bâtisseur
Un bâtisseur éthique :
- comprend le modèle de menace
- préserve la sortie
- minimise la coercition
- documente les compromis
- accepte les conséquences en aval
La perfection n'est pas requise.
La conscience l'est.
XI. Déclaration finale
Le code façonne la réalité.
Ceux qui l'écrivent participent à la gouvernance, qu'ils l'admettent ou non.
La vraie question est de savoir si les bâtisseurs agiront comme si cette responsabilité leur appartenait.