29 abril, 2019
Varias de las más importantes empresas tecnológicas de los Estados Unidos junto a dos entidades de derechos humanos han participado en un informe en el que se pronuncian en contra del uso de IA para la toma de decisiones en el sistema penal. Entre las empresas participantes se encuentran Apple, Facebook, Microsoft e IBM. La iniciativa ha sido impulsada por Amnistía Internacional y Human Rights Watch. El grupo creado ha recibido el nombre de Partnership on IA.
Según la declaración emitida por el grupo las autoridades deberían evitar utilizar la inteligencia artificial para decidir liberaciones en base a las posibilidades de reincidencia. Uno de los motivos para no utilizar algoritmos es que el sistema sería difícil de seguir y los parámetros utilizados para las evaluaciones en muchos casos cuestionables.
Esta advertencia se une a las realizadas anteriormente por otras instituciones, como el MIT, que había señalado que los procesos de aprendizaje de los algoritmos podrían llevar a reproducir prejuicios y basarse en las condiciones sociales adversas que muchos criminales han atravesado.
Uno de los casos más conocidos es el de COMPAS, un sistema de perfiles para el sistema correccional creado por la compañía Equivant en 2016. En Mayo de ese mismo año la organización periodística ProPública señaló que en dicho sistema las personas de color negro tenían el doble de posibilidades de ser etiquetadas como posibles reincidentes. A lo señalado se agregó luego el descubrimiento de que su capacidad para predecir la conducta de los detenidos no era mayor que la de un ser humano.
A pesar de todas las alarmas varios estados de Estados Unidos han adoptado sistemas automatizados para tomar este tipos de decisiones. Uno de los factores que han impulsado este movimiento ha sido la sobrecarga en los sistemas administrativos.
