Un simple pixel puede engañar a una IA de reconocimiento de imágenes

Un grupo de expertos de la Universidad de Kyushu (Japón) ha descubierto que los sistemas de inteligencia artificial utilizados en reconocimiento de imágenes son bastante «tontos», ya que en muchos casos basta con modificar un simple píxel para engañarlos por completo.

En su investigación descubrieron que modificar un píxel fue suficiente para engañar a casi tres cuartas partes de los sistemas de reconocimiento de imágenes que pusieron a prueba. Sin embargo es importante tener en cuenta que esta técnica depende de la resolución total de la foto.

Esto quiere decir que en aquellas fotos que tengan una resolución muy elevada la técnica de modificar un píxel perderá efectividad hasta el punto de que puede acabar siendo inútil.

Sin embargo esto tiene una solución sencilla que estoy seguro que muchos de nuestros lectores habrán podido intuir, y es que se puede contrarrestar introduciendo una mayor cantidad de píxeles modificados.

En el estudio realizado por la Universidad de Kyushu se utilizaron modificaciones de 1 píxel, 3 píxles y 5 píxeles aplicados sobre imágenes de 1.024 píxeles. Al modificar cinco píxeles la tasa de éxito aumentó al 87,3%, lo que significa que fueron capaces de engañar a los sistemas de reconocimiento de imágenes en casi todos los casos.

Al utilizar imágenes con una resolución de 530 x 530 píxeles (280.000 píxeles en total) sería necesario modificar 273 píxeles para mantener esa tasa de éxito, una cifra relativamente pequeña que se incrementaría gradualmente en la misma proporción que la resolución de la imagen.

Más información: DvHardware.