El Derecho a las Decisiones Humanas

Los avances recientes en las tecnologías computacionales, han generado ansiedad sobre un cambio de poder de las humanos a las máquinas para tomar decisiones. Desde sentencias de prisión hasta aprobaciones de préstamos y solicitudes universitarias, los actores corporativos y estatales se apoyan cada vez más en herramientas de aprendizaje automático (un subconjunto de inteligencia artificial) para asignar bienes y asignar restricciones.

Se percibe que las herramientas de aprendizaje automático eclipsan, e incluso extinguen, la agencia humana de formas que sacrifican importantes intereses individuales. Una pregunta que emerge a tales preocupaciones es el derecho a una decisión humana. La legislación europea ya ha recogido idea en el Reglamento General de Protección de Datos. La ley Estadounidense, especialmente en el ámbito de justicia penal, ya se está moviendo en misma dirección.

Pero ninguna jurisdicción ha definido con precisión en qué consiste ese derecho, ni ha proporcionado una justificación clara para su creación.

Este artículo investiga las posibilidades jurídicas de un derecho a una decisión humana. Primero defino las condiciones de plausibilidad tecnológica de ese derecho aplicado contra la acción estatal. Para comprender sus predicados tecnológicos, especifico los márgenes a lo largo de los cuales las decisiones de las máquinas son distintas de las humanas. Tal contextualización tecnológica permite una exploración matizada de por qué, o de hecho si, las brechas que separan las decisiones humanas y de las máquinas pueden tener importancia normativa.

Con base en esta contabilidad tecnológica, analiza luego las apuestas normativas de un derecho a una decisión humana.

Considera tres posibles justificaciones normativas:

Un análisis cuidadoso de estos tres fundamentos sugiere que no existe una justificación general para adoptar un derecho a una decisión humana por parte del Estado. Las preocupaciones normativas sobre decisiones insuficientemente razonadas o precisas, que tienen un dominio particularmente poderoso en la imaginación legal, se abordan mejor de otras maneras. Del mismo modo, las preocupaciones sobre las formas en que las herramientas algorítmicas crean asimetrías de poder social no se evitan. De hecho, en lugar de apoyar firmemente el derecho a una decisión humana, la evidencia disponible apunta tentativamente hacia un “derecho a una decisión de una máquina bien calibrada”.

Paper original (en inglés)

Paper traducido automáticamente al españiol