La inteligencia artificial ha llegado a la Policía y los tribunales con la promesa de cambiar por completo la investigación criminal, pero no es oro todo lo que reluce. La IA se posiciona como el nuevo detective del siglo XXI, pero también de cometer errores potencialmente irreparables.
La IA, nuevo detective del siglo XXI
Generada con IA
González Valenzuela
Por: Carolina González Valenzuela
En el verano de 2020, un tiroteo en Ohio, dejó un bebé fallecido y dos adultos heridos. La policía, con la idea de resolver el caso, recurrió a una herramienta con IA llamada Cybercheck. Esta tecnología, desarrollada por la empresa canadiense Global Intelligence, prometía localizar sospechosos utilizando solo datos públicos disponibles en internet. Sonaba demasiado bueno para ser verdad, y como vas a ver, quizás lo era.
Sin embargo, un análisis realizado por Wired ha puesto bastantes «peros» sobre la eficacia y la precisión de Cybercheck. En varios casos, la herramienta fue incorrecta o imposible de verificar.
Desde luego, la llegada de la inteligencia artificial ha cambiado por completo varios sectores y el mundo policial parece que no va a escaparse. Sin embargo, su llegada viene cargada de promesas y peligros a partes iguales. ¿Se está ante el nacimiento de una nueva era en la lucha contra el crimen o la sociedad se enfrenta a un Gran Hermano algorítmico?
«Aunque algunos modelos han mostrado eficacia en predecir tendencias generales, los sesgos, errores y malas interpretaciones inherentes en los datos pueden comprometer la equidad y la validez de dichas predicciones», nos comenta en una entrevista para Computer Hoy José Antonio Alguacil, CEO de Ilusionlabs y Youtuber. Pese a afirmar su poder, «no debería reemplazar la supervisión humana, especialmente en situaciones donde un error podría tener graves consecuencias legales», añade.
La inteligencia artificial como detective: prediciendo el crimen antes de que ocurra.
Hay que empezar por lo que más llama la atención: la capacidad de la IA para predecir patrones criminales. Como si de la película «Minority Report» se tratara, la IA está siendo utilizada para analizar enormes cantidades de datos históricos sobre delitos.
Ubicaciones, horarios, métodos… todo se mete en un ordenador con algoritmos para intentar adivinar dónde y cuándo podría ocurrir el próximo crimen. ¿Y funciona? Pues la verdad es que los resultados son bastante prometedores. Por ejemplo, en Corea del Sur, una IA entrenada con más de 32.000 grabaciones de cámaras de seguridad logró una precisión del 82,8% en la predicción de este tipo de problemas criminales.
Sin embargo, y aunque ese porcentaje es muy positivo, el 17,2% restante es margen de error y eso puede significar recursos mal empleados o, peor aún, ciudadanos injustamente señalados como potenciales criminales. Y aquí es donde empiezan los problemas.
«En términos de precisión, su potencial es alto, pero también depende de la calidad de los datos de entrada y los algoritmos utilizados. Por ejemplo, herramientas de reconocimiento facial han resuelto casos complejos, pero también han fallado en identificar correctamente a individuos en grupos demográficos subrepresentados», añade el experto.
Donde realmente resalta la IA: resolver casos que ya han sucedido
Aparte de la prevención, donde la IA está mostrando todo su potencial es en la resolución de casos ya ocurridos. Puede analizar millones de documentos, registros telefónicos, vídeos de seguridad y testimonios en cuestión de minutos. Pues eso es exactamente lo que está haciendo esta tecnología.
En Australia, una IA llamada Söze ha logrado reducir tiempos de investigación de años a solo horas. Pero claro, no todo son buenas noticias y Suecia tiene un caso bastante complejo.
La Agencia del Seguro Social del país implementó un sistema de IA para detectar fraudes. El resultado fue que seleccionaba de forma desproporcionada a ciertos grupos para investigaciones: mujeres, personas de origen extranjero o de bajos ingresos y aquellos sin títulos universitarios. ¿Coincidencia? No lo parece.
Pero cuidado porque también está el tema de la transparencia. Muchos de estos sistemas funcionan como «cajas negras»: se sabe lo que entra y lo que sale, pero no cómo se llega a esas conclusiones. Con todos estos pros y contras sobre la mesa, la gran pregunta es: ¿Está el sistema judicial preparado para integrar plenamente la IA? La respuesta, como suele ocurrir en estos casos, no es un simple sí o no.
Tal y como nos comenta el entrevistado, «el sistema judicial y las fuerzas del orden, como todos, aún están adaptándose a esta tecnología. Es fundamental establecer primero, protocolos claros, asegurar la transparencia de los algoritmos y educar a los operadores para entender los límites y las capacidades reales de la IA».
Desde luego, la IA en la investigación criminal y la justicia es un cuchillo de doble filo: una herramienta con un enorme poder que puede ser increíblemente útil o peligrosamente dañina, dependiendo de cómo se use.