La buena gente de Civio nos envió aviso acerca del seguimiento que hicieron de Veripol, una herramienta de la Policía Nacional para detectar denuncias falsas, a la que ha terminado renunciado. El caso es que Civio nunca consiguió que hicieran caso a sus peticiones para conocer el funcionamiento técnico de esta herramienta y sobre su uso, pero ha sido la propia policía la que ha desistido por su baja fiabilidad.

Veripol: el algoritmo que quiso ser detective

Veripol se presentó en 2018 como herramienta de inteligencia artificial con la supuesta capacidad de detectar denuncias falsas de robos con violencia con más del 90% de precisión. Era una especie de «máquina de la verdad» automatizada para rechazar denuncias sospechosas (al menos para la másquina). Seis años después, el experimento ha terminado y la «IA» ha sido desconectada. Estos son los detalles:

• Veripol se entrenó con 1.122 denuncias de 2015, que son menos de las que se presentan en dos días en todo el país. Según cuentan, si una denuncia contenía palabras como «día», «abogado» o el número «200» era considerada como «probablemente falsa». (WTF?) En cambio, si mencionaba «autobús», «iPhone» o «matrícula», era más creíble. (WTF×2!) A falta de un detector de mentiras fiable, bienvenidos al mundo de las estadísticas forzadas y los adverbios sospechosos.
• En octubre de 2024, la Dirección General de la Policía confirmó que Veripol ya no se usaba. ¿El motivo oficial? «No servía para los procedimientos judiciales». El motivo real: no se sabía muy bien cómo funcionaba, no era transparente, no había formación, y su uso se basaba en una muestra irrisoria con un sesgo de inicio brutal: asumir que más de la mitad de las denuncias que se presentan son falsas.
• En julio de 2024 entró en vigor el nuevo Reglamento Europeo de Inteligencia Artificial, que calificaba herramientas como Veripol entre las de «alto riesgo». Traducción: o haces las cosas bien, con transparencia y garantías… o apaga y vámonos. Veripol no pasó el examen. Fin de la historia.
• Ni el Ministerio del Interior ni la Policía han querido dar detalles técnicos o datos reales sobre el uso de Veripol. ¿Cuántas comisarías lo usaron? ¿En cuántos casos? ¿Qué formación se dio? Preguntas que desde hace años no tienen respuesta. La transparencia, como la IA, tampoco parece que funcione muy bien en las instituciones. ¿No se supone que hay un departamento sobre transparencia y datos abiertos? Igual estaban de vacaciones.

Veripol nació con vocación de sistema policial futurístico, un poco a lo Minority Report, pero se quedó en un experimento mal documentado, poco fiable y jurídicamente inútil. Una herramienta que analizaba lo que escribía un agente, no lo que decía el denunciante, que suelen ser cosas muy distintas. Y que además pretendía distinguir la verdad de la mentira en base de estadísticas y, lo peor, «listas de palabras sospechosas».

Un caso más de IA inflada de expectativas y desinflada por la realidad. Porque una cosa es programar, y otra muy distinta, impartir justicia sin saber bien lo que se hace y usando mal la tecnología.

Relacionado:

• Entra en vigor la Ley Europea de Inteligencia Artificial
• Directrices éticas para una inteligencia artificial fiable
• Análisis del estado de las IAs actuales respecto a la Ley europea
• Las tres leyes de la inteligencia artificial (una propuesta)
• Modelos de lenguaje abiertos para una IA más transparente en Europa
• Justicio: una IA que ofrece respuestas legales fundamentadas
• Más propuestas de leyes de la robótica (y la IA)
• La Declaración de Bletchley sobre la inteligencia artificial
• Los principios de la Conferencia de Asilomar sobre inteligencia artificial

Como cada año, a finales de marzo se celebró el Día Internacional del Centro de Datos. Se trata de una jornada de puertas abiertas para que cualquier persona interesada conozca por dentro este tipo de instalaciones, vitales en un mundo de servicios y economía digital. Esos uno de esos lugares que impresionan nada más entrar.

Este año estuve entre las más de 200 personas pudieron visitar los centros de Digital Realty en Madrid, en la zona de San Blas-Canillejas, uno de los puntos más interconectados en España. Para el evento me encargaron un artículo que ya está publicado en su web: Cómo es un centro de datos moderno: energía, refrigeración y conectividad. Allí puedes ver todos los detalles de la visita y muchos datos interesantes sobre cómo funcionan estos fantásticos lugares por los que circula nuestro futuro digital.

Cuando hablo de los orígenes de esa afición mía –y de muchas más personas, ojo– por el planespotting siempre menciono al Cuerpo Real de Observadores que durante la Segunda Guerra Mundial actuó en el Reino Unido para detectar de oído y de ojo la aproximación de aviones enemigos. Pero lo que no sabía hasta hoy es que en los Países Bajos hubo un cuerpo similar que operó durante la Guerra Fría desde edificios y lugares altos y desde unas torres de hormigón construidas a propósito para ello, las luchtwachttoren. El enlace está en neerlandés pero Chrome o DeepL te lo traducen sin problema.

La idea era que voluntarios del Cuerpo de Vigilancia Aérea (KLD) detectaran aviones enemigos volando a baja altura, por debajo de la cobertura del radar, y que informaran de ello a las fuerzas armadas del país. De hecho el servicio formaba parte del Comando de Defensa Aérea de la Real Fuerza Aérea de los Países Bajos.

Para ello se colocaban en puesto situados en molinos u otros edificios altos –cabe recordar que los Países Bajos apenas tienen ningún lugar elevado– o bien en las ya citadas luchtwachttoren, construidas a tal efecto. En total llegó a haber 276 puestos de observación, la mitad de ellos en estas torres.

Se construían a partir de unos módulos de hormigón prefabricados que se unían con pernos para dar a cada torre la altura necesaria en incrementos de 1,14 metros, que era la altura de tres módulos. Como una especie de Lego pero a lo bestia. Así, las hubo desde cuatro hasta 32,5 metros de altura.

En la parte alta montaban una plataforma de 3×3 metros en la que se situaba un pequeño refugio para los dos observadores y en cuya parte central había montados unos prismáticos y una mira colocados sobre un plano de la zona convenientemente orientado según los puntos cardinales.

Luchtwachtters en acción

La idea era que los observadores localizaran de oído los aviones y que con los prismáticos pudieran luego identificar el tipo de avión. El plano les permitía saber por dónde andaban. Las torres operaban de tres en tres –a veces de cuatro en cuatro– para triangular la posición de los aviones.

Empezaron a ser construidas en otoño de 1951 y la última fue completada a finales de la década. Pero con el tiempo los avances en la tecnología de radar y la aparición de los aviones a reacción las habían vuelto obsoletas, así que en 1968 el KLD fue disuelto y las torres dejaron de ser utilizadas.

De hecho sólo se sabe de una ocasión en la que detectaran algo cuando en 1958, la torre de Linne, cerca de Montfort, avistó un avión que había participado en un festival aéreo en Francia y se había desviado deliberadamente de su curso en su camino de regreso a la Unión Soviética para fotografiar una parte de la zona fronteriza.

Hoy en día quedan 17 de ellas, junto con otras dos más construidas en ladrillo. Algunas de ellas tienen estatus de monumento protegido. Y hay incluso algunas, como por ejemplo la Luchtwachttoren 701 del vídeo de arriba, situada en Warfhuizen, que han sido restauradas a su estado original. La 7X3, en Hees, está siendo restaurada.

Planespotting y brutalismo en el mismo paquete, ¡qué más se puede pedir!

Las descubrí en una publicación de Matt Steinglas en Bluesky gracias a la etiqueta #brutalism.

Ya sabíamos que ChatGPT es un ávido consumidor de recursos, CPUs y capacidad de computación en general. Pero a medida que el número de usuarios aumenta, así como su popularidad, las cifras comienzan a ser preocupantes. El otro día alguien me lo comentó y hoy comprobé el dato: resulta que ChatGPT consume aproximadamente 25 veces más energía, 3.500 veces más agua* y produce 25 veces más emisiones de CO₂ que una consulta similar en Google… por no hablar de lo necesario para generar ilustraciones, dibujos y otras tontás. Aunque esa discusión siempre es algo relativo, es como para pensárselo dos veces… si acaso se está medianamente concienciado sobre que los recursos del planeta son limitados. [Fuente: irónicamente, datos recopilados por ChatGPT.]

_____
* El consumo de agua se debe a las necesidades de refrigerar los servidores.