Web Analytics
Conecta con nosotros

Noticias

Un simple pixel puede engañar a una IA de reconocimiento de imágenes

Publicado el
Un simple pixel puede engañar a una IA de reconocimiento de imágenes 30

Un grupo de expertos de la Universidad de Kyushu (Japón) ha descubierto que los sistemas de inteligencia artificial utilizados en reconocimiento de imágenes son bastante «tontos», ya que en muchos casos basta con modificar un simple píxel para engañarlos por completo.

En su investigación descubrieron que modificar un píxel fue suficiente para engañar a casi tres cuartas partes de los sistemas de reconocimiento de imágenes que pusieron a prueba. Sin embargo es importante tener en cuenta que esta técnica depende de la resolución total de la foto.

Esto quiere decir que en aquellas fotos que tengan una resolución muy elevada la técnica de modificar un píxel perderá efectividad hasta el punto de que puede acabar siendo inútil.

Sin embargo esto tiene una solución sencilla que estoy seguro que muchos de nuestros lectores habrán podido intuir, y es que se puede contrarrestar introduciendo una mayor cantidad de píxeles modificados.

En el estudio realizado por la Universidad de Kyushu se utilizaron modificaciones de 1 píxel, 3 píxles y 5 píxeles aplicados sobre imágenes de 1.024 píxeles. Al modificar cinco píxeles la tasa de éxito aumentó al 87,3%, lo que significa que fueron capaces de engañar a los sistemas de reconocimiento de imágenes en casi todos los casos.

Al utilizar imágenes con una resolución de 530 x 530 píxeles (280.000 píxeles en total) sería necesario modificar 273 píxeles para mantener esa tasa de éxito, una cifra relativamente pequeña que se incrementaría gradualmente en la misma proporción que la resolución de la imagen.

Más información: DvHardware.

Un simple pixel puede engañar a una IA de reconocimiento de imágenes 32

Editor de la publicación on-line líder en audiencia dentro de la información tecnológica para profesionales. Al día de todas las tecnologías que pueden marcar tendencia en la industria.

3 comentarios
  • Kmy_kun

    La clave estaría en cambiar el «pixel» en tiempo real con tal de falsear o imposibilitar un reconocimiento facial «en vivo» , eso si seria terrible para los sistemas de vigilancia y detención de malechores

  • Rodhos

    Ya se sabía que una pequeña perturbación en la imagen podía alterar el resultado. Lo que hicieron ellos fue cuantificar de qué tamaño debe ser esa perturbación.

  • David Mendoza

    En Photoshop hay un modo de capa que se llama «diferencia» en donde al sobreponer una imagen igual sobre otra, se vería totalmente negro de ser iguales y las variaciones se de color claro lo que es diferente, yo creía que en algo así se basaban las IAs para determinar similitudes, bueno, era una suposición mía

Lo más leído