Por @Alvy — 19 de Agosto de 2021

Neuralhash A   Neuralhash B

Las dos imágenes del ejemplo que ha encontrado Sarah Jaime Lews tienen el mismo Neural Hash: 1e986d5d29ed011a579bfdea. Lo cual no debería ser posible porque se supone que variaciones de la imagen original en cuanto a objetos y contenido deberían generar un valor distinto; el algoritmo es –teóricamente– resistente a que la imagen cambie un poco de tamaño, color o calidad de compresión.

Neural Hash es el sistema de clasificación que se utiliza en el polémico CSAM de Apple que examina las imágenes archivadas en los dispositivos:

Neural HASH es un avanzado sistema de clasificación de personas u objetos (…) capaz de detectar 3.072 sujetos u objetos por segundo en cada punto de conteo con una precisión del 97-99,9%, tanto en espacios cerrados como abiertos. – Infinity Neural
La tecnología de hashing, llamada NeuralHash, analiza una imagen y la convierte en un número único específico a esa imagen. Sólo otra imagen que parezca casi idéntica puede producir el mismo número; por ejemplo, las imágenes que difieren en tamaño o calidad de transcodificación tendrán el mismo valor Neural Hash. – Apple CSAM Tech Summary

Como en otros sistemas diseñados para engañar y confundir a los algoritmos de inteligencia artificial, este truco consiste en ir probando variaciones hasta dar con el hash correcto, lo que técnicamente se conoce una «colisión matemática de una imagen adversaria», lo hemos visto incluso con imágenes colgadas del cuello y jerseys para engañar a otros clasificadores.

Ya han publicado un código llamado Neural Hash Collider que sirve precisamente para realizar esta tarea de forma automática:

neuralhash 2611fc

Como experimento curioso StackSmashing– utilizó la herramienta para generar otras curiosidades, como esta imagen autorreferente que contiene una imagen gráfica de su propio valor hash.

Relacionado:

Compartir en Flipboard Compartir en Facebook Tuitear



Un libro de @Alvy y @Wicho

Se suponía que esto era el futuro | un libro de Microsiervos, por Alvy y Wicho

Se suponía que esto era el futuro
Ciencia, tecnología y mucho más
www.microsiervos.com/libro


PUBLICIDAD

Desarrolla más rápido con Xojo