I. Propósito
Este texto existe para definir la responsabilidad allí donde la autoridad está ausente.
El código elimina intermediarios.
Las consecuencias permanecen.
Donde las instituciones antes absorbían la culpa, los constructores ahora dan forma directamente a los resultados. La ética no puede externalizarse a los protocolos sin costo.
Este documento establece límites.
II. El código no es neutral
El código es determinista, no neutral.
Todo sistema impone supuestos:
- quién puede actuar
- quién asume el riesgo
- quién paga por el fracaso
Elegir no decidir ya es una decisión.
Las afirmaciones de neutralidad suelen ocultar valores en lugar de eliminarlos.
III. Cuando el código se vuelve violencia
El código se vuelve violencia cuando:
- elimina una salida real
- concentra un poder irreversible
- externaliza el daño sin posibilidad de recurso
- impone asimetría bajo el disfraz de la automatización
La violencia no requiere intención.
El impacto basta.
La ausencia de fuerza física no exime la responsabilidad.
IV. Responsabilidad sin autoridad
La autoridad antes mediaba la rendición de cuentas.
En los sistemas autónomos, no existe tal amortiguador.
Los constructores son responsables de:
- lo que su código hace posible
- lo que hace inevitable
- lo que impide
Los descargos de responsabilidad no anulan la causalidad.
V. Lo que los constructores le deben a los usuarios
Los constructores le deben a los usuarios:
- legibilidad del riesgo
- modelos de amenaza honestos
- rutas de salida
- supuestos mínimos
No les deben:
- garantías
- protección contra toda pérdida
- comodidad al costo de la soberanía
El paternalismo es un pobre sustituto del cuidado.
VI. Autonomía y consentimiento
El consentimiento requiere comprensión.
Los sistemas técnicamente abiertos pero prácticamente opacos no empoderan de forma significativa a los usuarios. La complejidad puede coaccionar tan eficazmente como la fuerza.
La autonomía sin comprensión es teatro.
Los sistemas éticos reducen la asimetría cognitiva.
VII. Contra el nihilismo puro
El nihilismo confunde la inevitabilidad con la absolución.
Que algo vaya a existir no significa que alguien esté obligado a construirlo, ni a construirlo sin restricción.
La capacidad no implica obligación.
Poder construir no confiere inmunidad moral.
VIII. Contra el "solo hay que construir"
"Solo hay que construir" es una abdicación.
Trata las consecuencias como externalidades y a los usuarios como abstracciones. Reduce la ética a la velocidad de ejecución.
La velocidad sin dirección rara vez merece el nombre de progreso.
Los constructores que rechacen la responsabilidad la verán asignada de todos modos.
IX. Contra la externalización moral hacia los protocolos
Los protocolos no eximen de la ética.
La descentralización distribuye el poder.
La responsabilidad permanece.
Cuando ocurre un daño, señalar al código es una evasión, no una explicación.
La ética precede a la arquitectura.
X. El estándar de un constructor
Un constructor ético:
- comprende el modelo de amenaza
- preserva la salida
- minimiza la coerción
- documenta las compensaciones
- acepta las consecuencias posteriores
No se requiere perfección.
Sí se requiere consciencia.
XI. Declaración final
El código da forma a la realidad.
Quienes lo escriben participan en la gobernanza, lo admitan o no.
La verdadera pregunta es si los constructores actuarán como si esa responsabilidad fuera suya.