jueves, 1 de septiembre de 2022

Dilemas éticos de la IA que predice los delitos antes que ocurran

Fotograma de Minority Report
El relato distópico de la famosa película Minority Report está a un paso de convertirse en realidad, tal y como pone de manifiesto una Inteligencia Artificial que ha logrado predecir entre el 80 y el 90 por ciento de los delitos antes de que sucedan en varias ciudades de EEUU. La innovación robótica, de rabiosa actualidad presentada públicamente este verano por parte de un equipo investigador de la Universidad de Chicago (Nature), se diferencia de la ciencia ficción en que si bien el programa puede predecir el lugar y el día del delito, en cambio no puede concretar la persona que lo llevará a cabo. Aunque, tratando de Inteligencia Artificial demos tiempo al tiempo, principalmente para solventar los sesgos discriminatorios -máxime racistas y clasistas- en los que ya han caído algunos softwares anteriores como el de la Universidad de Harrisburg, que intentó predecir la criminalidad mediante estadísticas de justicia penal y en función del rostro de las personas.

Dejando de lado que la IA de predicción de delitos de Chicago me recuerda, en su metodología basada en un registro de eventos históricos proyectados sobre una serie temporal futurible, al método predictivo que el economista Martin Armstrong realizaba mediante la combinación de datos de los ciclos históricos de la humanidad y la lógica matemática del número Pi para vaticinar acontecimientos económicos relevantes, lo cierto es que el nuevo oráculo inteligente de adivinación de crímenes abre sin miramientos la caja de pandora de la Roboética.

Entrando en materia aunque sea someramente, el desarrollo de la IA en predicción de delitos pone en evidencia tres principios reflexivos:

1.-Principio de Predecibilidad humana

Lo que está claro es el que programa artificial en cuestión se fundamenta sobre una proyección estadística de rasgos conductuales por parte de una comunidad, fuertemente condicionados por determinismos ambientales y psicológicos, demostrando como primer axioma la existencia de una pauta de predecibilidad en los hábitos humanos. Es decir, la predictibilidad humana existe en tanto en cuanto existe la capacidad de que un comportamiento sea predicho, aun cuando el contexto ambiental se comporte (aparentemente) como un sistema social caótico.

Expuesto lo cual, poniendo en relieve que todo aquello que se puede predecir se puede gestionar en el ámbito de la política pública, ello nos obliga a cuestionarnos sobre la validación del libre albedrío individual como esencia de la libertad personal a la luz del siguiente trilema:

-¿Quiere el hombre tener libre albedrío, pero no puede frente al Principio de Predecibilidad humana?, entonces es impotente.

-¿Puede el hombre tener libre albedrío, pero no quiere frente al Principio de Predecibilidad humana?, entonces está sometido (a los determinismos ambientales y psicológicos)

-¿Quiere y puede?, entonces ¿no existe el Principio de Predecibilidad humana?

Tres opciones contradictorias entre sí, donde únicamente el primer planteamiento se resuelve como válido en calidad de proposición para la robustez lógica de la IA en predicción de delitos, lo cual anula de facto la capacidad de libertad de decisión de las personas. Ya que los dos planteamientos restantes, gestión del conocimiento y motivación suficiente personal más o menos mediante que abren la posibilidad al libre albedrío, invalidan la Predecibilidad humana como un principio universal válido de política social.   

2.-Principio de Predicción social

El Principio de Predecibilidad humana nos aboca, por ser el hombre un ser social, al Principio de Predicción Social, que cabe entenderlo como la proyección de la predecibilidad individual en un sistema referencial social determinado mediante una extrapolación del presente hacia un futuro potencial (por posible en términos estadísticos), demostrando así como segundo axioma la existencia de una pauta de envergadura temporal en los hábitos de una comunidad social. Entendiendo aquí el concepto de envergadura temporal en sentido de alcance de predecibilidad de hábitos humanos, como miembros de una misma comunidad social, de manera extensa, por no decir sostenible, en el tiempo (ya que en caso contrario nos encontraríamos ante múltiples resultados posibles propio de la suma de historias de Feynman, que incapacitarían cualquier Predicción Social).

Expuesto lo cual, el Principio de Predicción Social obliga a cuestionarnos la validación de los principios de igualdad y de oportunidades, como derechos fundamentales de los sistemas de organización democráticos. Ya que, y sin  falta de echar mano de un trilema, ¿cómo puede existir un Principio de Predicción Social si los delincuentes no se comportan siempre igual y tienen oportunidad de cambiar a mejor? Y, aún más, ¿cómo legitimar la Predicción Social si los delincuentes no tienen un perfil socio-cultural, psicoemocional, e incluso fisiológico común?. Lo que implica que el Principio de Predicción Social se fundamenta sobre la hipótesis de una profecía autocumplida.

3.-Principio de Previsión política

Y, ¿cómo modificar un futuro anticipado, tal en el caso de las profecías autocumplidas? Para ello se requiere del Principio de Previsión política que, sistema judicial mediante en un sistema de organización social, regulará normativamente tanto las conductas individuales y colectivas consideradas como delictivas (dígase contra Derecho) como las consecuencias derivadas de las mismas, demostrando así como tercer axioma la existencia de una previsibilidad jurídica en los hábitos humanos.

No obstante, sin bien la previsibilidad jurídica en los ordenamientos jurídicos democráticos actuales tienen como sacrosanto infranqueable la comisión del delito como elemento activador para la aplicación de la ley, ¿cómo se puede modificar el futuro anticipado de una profecía autocumplida, aún más si ha sido señalada por una IA de predicción de delitos, sino es actuando antes de que se produzca la misma comisión del delito?. En tal caso, falta decir que dinamitaríamos tanto la presunción de inocencia, como así eliminaríamos de un plumazo el derecho inherente de una persona a ser juzgada de manera justa e imparcial como derecho fundamental garantista de todo Estado Democrático de Derecho, ya que la IA de predicción de delitos ya habría juzgado de manera anticipada a la luz (o mejor dicho las sombras) de los Principios de Predecibilidad humana y Predicción social, y bajo la legitimización del Principio de Previsión Política. ¡Qué miedo!.  

Apuntar, para tranquilidad pueril de quien lo necesite, que la actual IA de predicción de delitos se prevé implantar a medio plazo, por su alto ratio de éxito, como un instrumento gubernamental para la optimización de las políticas de seguridad ciudadana y la asignación de recursos policiales en aquellas áreas de ciudades donde más se requieran y lo soliciten. Aunque a pocos se le escapa que su desarrollo despertará, sin lugar a dudas, la fuerte tentación de ampliar su ámbito de competencias en un futuro no muy lejano en nombre del bien público. ¿Lícito?, por supuesto, pero no por ello deja de ser éticamente problemático, ya que de la teoría a la acción hay un gran paso por sus profundas implicaciones, como hemos podido observar en la presente reflexión. He aquí un caso ejemplificador en el que si bien la Roboética Normativa es importante, la Roboética Aplicada resulta imprescindible, pues en ello nos va la defensa de los derechos civiles frente a ideologías intrusivas por sectarias e intereses económicos partidistas. Llegados a este punto, y como dijo el César: alea iacta est!.