La Policía Nacional ha optado por detener el empleo de Veripol, un sistema de inteligencia artificial (IA) creado para identificar denuncias falsas de robos con agresión. Esta IA fue lanzada en 2018, siendo la pionera de su clase a nivel global, con una exactitud superior al 90%. No obstante, su uso se suspendió en octubre de 2024, ya que no lograba cumplir con los estándares requeridos para su utilización en procesos legales, según informaron las fuentes del Ministerio del Interior.
La creación de Veripol resultó del esfuerzo conjunto entre investigadores de las universidades Complutense y Carlos III, en cooperación con el oficial de policía Miguel Camacho-Collados. Para entrenar el algoritmo, se emplearon 1.122 denuncias de robo en España, de las cuales 534 eran verdaderas y 588 falsas. Los textos de estas denuncias fueron analizados utilizando técnicas de procesamiento de lenguaje natural (NLP) para reconocer patrones comunes en las denuncias fraudulentas. De este modo, se identificó que ciertos términos y expresiones, como «abogado», «seguro» o «espalda», estaban más frecuentemente vinculados con las denuncias falsas.
Pese a su alta precisión en las pruebas iniciales, donde se logró identificar un gran porcentaje de denuncias fraudulentas, la herramienta ha recibido diversas críticas con el tiempo. En 2022, un informe realizado por especialistas en derecho y matemáticas de la Universidad de Valencia subrayó múltiples deficiencias en la herramienta, como una muestra de datos sumamente limitada, empleando solo 1.122 denuncias en comparación con los miles de casos registrados anualmente en España. Además, se indicó que el algoritmo no evaluaba las declaraciones íntegramente de los denunciantes, sino las transcripciones hechas por los mismos agentes de policía.
Un problema destacado por los críticos ha sido la falta de transparencia relacionada con el funcionamiento interno de Veripol. Aunque fue implementado en múltiples comisarías, no se han divulgado datos oficiales sobre la cantidad de casos gestionados ni sobre el proceso de entrenamiento del sistema de IA. Además, los informes indican que los agentes encargados de utilizar la herramienta no siempre contaban con la formación necesaria para operarla de manera adecuada.
Uno de los puntos más problemáticos señalados por los críticos es la falta de transparencia en cuanto al funcionamiento interno de Veripol. Aunque el sistema se implementó en varias comisarías, no se han publicado datos oficiales sobre el número de casos procesados ni sobre cómo se entrenó la IA. Además, los informes apuntan que los agentes que utilizaban la herramienta no siempre recibían la formación adecuada para hacerlo correctamente.
La discusión acerca del empleo de inteligencia artificial en el ámbito judicial se intensificó en 2024 con la implementación del Reglamento Europeo sobre Inteligencia Artificial, que categoriza las tecnologías de IA como de «alto riesgo» y fija requisitos más estrictos en relación con su fiabilidad y transparencia. Los inconvenientes de Veripol son un ejemplo claro de cómo estas herramientas, tanto en su desarrollo como en su aplicación, deben ser objeto de un escrutinio riguroso, no solo para garantizar su eficacia, sino también para prevenir vulneraciones de derechos o errores en el ámbito jurídico.
El debate sobre el uso de la inteligencia artificial en el ámbito judicial se intensificó en 2024 con la entrada en vigor del Reglamento Europeo sobre Inteligencia Artificial, que clasifica las tecnologías de IA como de «alto riesgo» y establece exigencias más estrictas en cuanto a su fiabilidad y transparencia. Los problemas de Veripol son un claro ejemplo de cómo, en su desarrollo y aplicación, estas herramientas deben ser sometidas a un escrutinio riguroso, no solo para asegurar su efectividad, sino también para evitar vulneraciones de derechos o errores judiciales.
Por lo tanto, la decisión de la Policía Nacional de dejar de utilizar Veripol refleja un reconocimiento de la necesidad de mejorar los métodos y protocolos de investigación en el ámbito de las denuncias falsas. A medida que la tecnología continúa avanzando, será esencial que las autoridades encuentren un equilibrio entre la innovación tecnológica y la protección de los derechos de los ciudadanos, garantizando que herramientas como Veripol sean utilizadas de manera ética y con una base de datos robusta y representativa.
