Las dos imágenes del ejemplo que ha encontrado Sarah Jaime Lews tienen el mismo Neural Hash: 1e986d5d29ed011a579bfdea. Lo cual no debería ser posible porque se supone que variaciones de la imagen original en cuanto a objetos y contenido deberían generar un valor distinto; el algoritmo es –teóricamente– resistente a que la imagen cambie un poco de tamaño, color o calidad de compresión.
Neural Hash es el sistema de clasificación que se utiliza en el polémico CSAM de Apple que examina las imágenes archivadas en los dispositivos:
Neural HASH es un avanzado sistema de clasificación de personas u objetos (…) capaz de detectar 3.072 sujetos u objetos por segundo en cada punto de conteo con una precisión del 97-99,9%, tanto en espacios cerrados como abiertos. – Infinity Neural
La tecnología de hashing, llamada NeuralHash, analiza una imagen y la convierte en un número único específico a esa imagen. Sólo otra imagen que parezca casi idéntica puede producir el mismo número; por ejemplo, las imágenes que difieren en tamaño o calidad de transcodificación tendrán el mismo valor Neural Hash. – Apple CSAM Tech Summary
Como en otros sistemas diseñados para engañar y confundir a los algoritmos de inteligencia artificial, este truco consiste en ir probando variaciones hasta dar con el hash correcto, lo que técnicamente se conoce una «colisión matemática de una imagen adversaria», lo hemos visto incluso con imágenes colgadas del cuello y jerseys para engañar a otros clasificadores.
Ya han publicado un código llamado Neural Hash Collider que sirve precisamente para realizar esta tarea de forma automática:
Como experimento curioso StackSmashing– utilizó la herramienta para generar otras curiosidades, como esta imagen autorreferente que contiene una imagen gráfica de su propio valor hash.
Relacionado:
- Camisetas, vestidos y otras prendas de vestir para confundir a los sistemas de reconocimiento visual de matrículas
- Edición de fotos con técnicas de redes neuronales
- Cómo engañar al algoritmo de visión artificial: colgándose un dibujo
- El futuro era esto: diseñar jerseys para pasar desapercibidos ante los sistemas de reconocimiento de objetos
- Imagen-a-imagen: una peculiar forma de crear información visual mediante aprendizaje automático
