El sistema es utilizada por la Justicia de EE.UU y se cree que puede fallar tanto como podría hacerlo una persona.
Tal como sucedió en la película de ciencia ficción Minority Report, donde muestra que la delincuencia es casi eliminada gracias a las visiones de tres mutantes con la habilidad de predecir el futuro, Estados Unidos trabaja con un software llamado COMPAS, una herramienta informática que ayuda a los jueces a dictar, por ejemplo, si alguien debe entrar en prisión o salir en libertad condicional, o el tiempo que debe permanecer en la cárcel, según su puntuación de riesgo de volver a las andadas.
Si bien esto podría ayudar a reducir los delitos, investigadores y defensores de los derechos civiles han dudado sobre su fiabilidad y temido que sus resultados sean injustos.
Según publicó el medio español ABC, un equipo de investigadores liderado por Julia Dressel, estudiante de informática en el Dartmouth College ha estudiado la validez de los resultados de COMPAS, y lo que ha encontrado es que el algoritmo no es más fiable que cualquier humano sin preparación. Sino que podría fallar tanto como podría hacerlo un humano, y además, se sospecha que el sistema favorecía a los ajusticiados blancos frente a los negros.
La investigadora seleccionó al azar a 1.000 de los acusados y registró siete datos sobre cada uno, incluyendo su edad, sexo y número de detenciones previas. Luego reclutó a 400 personas a través Amazon Mechanical Turk, un servicio de crowdsourcing en línea para encontrar voluntarios de investigación.
Cada voluntario, sin preparación previa y de diferentes edades y niveles educativos, recibió perfiles de 50 acusados y debía pronosticar si volverían a ser arrestados dentro de dos años, el mismo estándar que utiliza COMPAS. Los humanos acertaron casi con la misma frecuencia que el algoritmo, entre el 63% y el 67% de las veces, en comparación con el 65% de COMPAS, expuso el medio español.
