La buena gente de Civio nos envió aviso acerca del seguimiento que hicieron de Veripol, una herramienta de la Policía Nacional para detectar denuncias falsas, a la que ha terminado renunciado. El caso es que Civio nunca consiguió que hicieran caso a sus peticiones para conocer el funcionamiento técnico de esta herramienta y sobre su uso, pero ha sido la propia policía la que ha desistido por su baja fiabilidad.

Veripol: el algoritmo que quiso ser detective

Veripol se presentó en 2018 como herramienta de inteligencia artificial con la supuesta capacidad de detectar denuncias falsas de robos con violencia con más del 90% de precisión. Era una especie de «máquina de la verdad» automatizada para rechazar denuncias sospechosas (al menos para la másquina). Seis años después, el experimento ha terminado y la «IA» ha sido desconectada. Estos son los detalles:

• Veripol se entrenó con 1.122 denuncias de 2015, que son menos de las que se presentan en dos días en todo el país. Según cuentan, si una denuncia contenía palabras como «día», «abogado» o el número «200» era considerada como «probablemente falsa». (WTF?) En cambio, si mencionaba «autobús», «iPhone» o «matrícula», era más creíble. (WTF×2!) A falta de un detector de mentiras fiable, bienvenidos al mundo de las estadísticas forzadas y los adverbios sospechosos.
• En octubre de 2024, la Dirección General de la Policía confirmó que Veripol ya no se usaba. ¿El motivo oficial? «No servía para los procedimientos judiciales». El motivo real: no se sabía muy bien cómo funcionaba, no era transparente, no había formación, y su uso se basaba en una muestra irrisoria con un sesgo de inicio brutal: asumir que más de la mitad de las denuncias que se presentan son falsas.
• En julio de 2024 entró en vigor el nuevo Reglamento Europeo de Inteligencia Artificial, que calificaba herramientas como Veripol entre las de «alto riesgo». Traducción: o haces las cosas bien, con transparencia y garantías… o apaga y vámonos. Veripol no pasó el examen. Fin de la historia.
• Ni el Ministerio del Interior ni la Policía han querido dar detalles técnicos o datos reales sobre el uso de Veripol. ¿Cuántas comisarías lo usaron? ¿En cuántos casos? ¿Qué formación se dio? Preguntas que desde hace años no tienen respuesta. La transparencia, como la IA, tampoco parece que funcione muy bien en las instituciones. ¿No se supone que hay un departamento sobre transparencia y datos abiertos? Igual estaban de vacaciones.

Veripol nació con vocación de sistema policial futurístico, un poco a lo Minority Report, pero se quedó en un experimento mal documentado, poco fiable y jurídicamente inútil. Una herramienta que analizaba lo que escribía un agente, no lo que decía el denunciante, que suelen ser cosas muy distintas. Y que además pretendía distinguir la verdad de la mentira en base de estadísticas y, lo peor, «listas de palabras sospechosas».

Un caso más de IA inflada de expectativas y desinflada por la realidad. Porque una cosa es programar, y otra muy distinta, impartir justicia sin saber bien lo que se hace y usando mal la tecnología.

Relacionado:

• Entra en vigor la Ley Europea de Inteligencia Artificial
• Directrices éticas para una inteligencia artificial fiable
• Análisis del estado de las IAs actuales respecto a la Ley europea
• Las tres leyes de la inteligencia artificial (una propuesta)
• Modelos de lenguaje abiertos para una IA más transparente en Europa
• Justicio: una IA que ofrece respuestas legales fundamentadas
• Más propuestas de leyes de la robótica (y la IA)
• La Declaración de Bletchley sobre la inteligencia artificial
• Los principios de la Conferencia de Asilomar sobre inteligencia artificial

Un estudio global con más de 66.000 participantes, realizado por la Universidad de la Columbia Británica, la Universidad de Cambridge y validado por psicólogos, ha identificado los grupos de personas más vulnerables a la desinformación. Los grupos principales son:

• Mujeres
• Generación Z (nacidos entre 1997 y 2012)
• Personas con menor nivel educativo
• Personas con ideología política conservadora

Así que si las mujeres jóvenes, conservadoras y con nivel educativo inferior a la media tienen todas las papeletas para que se la cuelen.

Es interesante que en el estudio se observó el efecto Dunning-Kruger, más conocido como «todo el mundo se considera mejor que la media» cuando vieron que las personas con mayor nivel educativo tendieron a sobrestimar sus capacidades para detectar noticias falsas. También detectaron aquello de que los nativos digitales no existen, cosa que no nos sorprende por estos lares, porque los jóvenes no destacaron precisamente por su capacidad para identificar la desinformación ni las fake news, a pesar de estar –supuestamente– «en su salsa».

Más radical = más burro: según apuntan también, las personas conservadoras son más susceptibles a las noticias falsas, especialmente las situadas el extremo ideológico. ¿Por qué será? (emoji del «pensativo irónico» aquí).

La conclusión del estudio, que por cierto se llama MIST (Misinformation Susceptibility Test) y en el que se puede participar online, es que más nos vale ir creando políticas públicas específicas para combatir la desinformación porque en el contexto político actual más de uno está usandola de forma deliberada para manipular el mundo. Así que… ¡cuidadín ahí fuera!

(Vía Vicente Prieto.)

Relacionado:

• Cinco enseñanzas del libro Los nativos digitales no existen según las inteligencias artificiales ChatGPT, Bing y Perplexity
• Entrevista sobre los «nativos digitales» en El Correo
• Los nativos digitales no existen explicado en 15 minutos
• ¿Existen los famosos «nativos digitales»?
• A ver si va a ser que los nativos digitales no existen
• Una charla sobre nativos digitales y valores de toda la vida
• Los nativos digitales no existen ya está en las librerías
• ¿Nativos digitales o generación Tuenti?
• Los nativos digitales no existen en las Charlas EnModoAvión
• Educación y nuevas tecnologías y esos «nativos digitales» que no existen
• Mi animal mitológico favorito: los nativos digitales

Esta es una de esas herramientas para guardar para el momento justo en que se necesita: Word Safety. Lo que hace es comprobar una palabra, que puede ser una nueva marca, nombre de dominio o similar, en 19 gigantescas listas de «palabrotas» y términos malsonantes de otros idiomas.

Así, por ejemplo, si vas a registrar La Gran Concha y estás pensando en lagranconcha.com como dominio, te avisa de que «concha» es otra forma de llamar a los genitales femeninos en español, especialmente en Argentina (como «coño» en español). Para algo aparentemente más inocente como Chavalada te alerta de que en chino «Cha» es el equivalente a «follar» en español, y «Chav» en inglés es «persona de clase baja» así que sonaría raro, desde luego no con la idea de «juvenil/infantil» del español.

Si inventas palabras, te puede ir mejor… o como a Zara (en chino «zar» equivale a «tetas»), Prosegur (en chino «segui» es «pervertido») o Cupra (en portugués «Cu» es «culo»).

La web distingue además los avisos sobre términos que están al principio o final de la palabra elegida o los que están «dentro de la palabra» y pueden ser menos problemáticos porque queden más diluidos en la pronunciación. Como bonus también te dice a cuántos hablantes afecta el problema. Si te diriges potencialmente al público inglés, o chino, o a algún país específico (los nórdicos tienen «palabrotas» muy curiosas) mejor verificas en esta web antes a echarle un vistazo.

Tras la aprobación ayer por parte del Consejo de Ministros del real decreto que lo regula desde hoy en España ya puedes llevar tu DNI en el móvil. Siempre que tenga como sistema operativo Android o iOS. Y que tengas el Documento Nacional de Identidad electrónico (DNIe) con los certificados digitales en vigor. Y te sepas las claves.

El DNI en el móvil sirve para casi lo mismo que el DNI físico, con alguna salvedad notable como es que no lo puedes utilizar, al menos no todavía, como documento de viaje para pasar fronteras o para hacer gestiones telemáticas de autenticación y/o firma electrónica.

Funciona dentro de una app llamada MiDNI que te tienes que descargar de Google Play o de la App Store de Apple. Pero ojo, que ya hay al menos una app en ambas plataformas que incluye Mi DNI (con espacio) en el nombre. Así que si acaso, y para no liarte, usa los códigos QR disponibles en la web oficial de miDNI.

Aunque antes de poder activarlo tienes que haberte registrado para el proceso. Hay tres formas de hacer esto:

1. A través de Internet si tienes un lector de tarjetas conectado a tu ordenador¹.
2. En cualquiera de los quioscos digitales de gestión del DNI –oficialmente Puestos de Actualización de Documentación, PAD– que hay en las comisarías.
3. En persona en cualquiera de las oficinas de expedición de documentación, aunque para eso tendrás que solicitar cita previa.

Una vez hecho el registro recibirás un código en el móvil que hayas escogido durante el proceso que deberás introducir para terminarlo. Tendrás que introducir ese código para finalizar el proceso de registro. Hecho esto ya podrás activar la app. El DNI, por cierto, sólo se puede llevar en un móvil.

Aquí tienes un vídeo que exlplica el proceso:

Un detalle curioso es que al identificarte con ella se genera un QR que caduca al poco tiempo que será el que tengas que mostrar a otro dispositivo en el que esté instalada la app. Hay varias opciones en cuanto a la información que muestra: DNI edad, DNI simple y DNI completo.

Esa información es descargada sobre la marcha por la app, por lo que no funcionará si el móvil no está conectado a Internet. A cambio tiene la ventaja de que siempre estará actualizada. Y de que si informas de la pérdida o sustracción del DNI físico la app ya no funcionará.

_____
¹ Con la salvedad de que no hay manera de hacer funcionar el DNIe en un Mac. He vuelto a probar con Chrome, Edge, Firefox y Safari y un lector de tarjetas compatible con el DNIRe y los cuatro han dado un error al intentar identificarme. Cuando me pase por un PAD actualizaré la anotación.

También cabe preguntarse por qué no puede iniciarse el proceso de registro desde el móvil en el que quieres instalar la app en el caso de que tenga lector de NFC, lo que no es tan raro en la actualidad. Aunque es cierto que bajo iOS el acceso al chip NFC tiene ciertas limitaciones.