La IA está haciendo que cada vez sea más difícil diferenciar la realidad, y esto es peligroso

La evolución de la IA nos ha traído avances muy importantes que están transformando por completo sectores muy distintos. Su impacto en líneas generales ha sido muy positivo, pero esta tecnología también tiene un lado oscuro, y es que se está utilizando para difuminar la línea que separa la realidad de la ficción.

Esto se ha producido como consecuencia de la democratización de la IA generativa, una tecnología que permite generar imágenes e incluso vídeos a partir de simples comandos de texto, y cuyo resultado final puede ser tan bueno que en ocasiones cuesta creer que no son reales.

Si combinamos esto con redes sociales, el problema está servido. No suelo utilizar mucho las redes sociales, pero he podido comprobar que existe un abuso enorme de la IA generativa de vídeos y de imágenes, sobre todo para crear contenidos para adultos, y también para crear noticias e informaciones falsas.

Como os dije anteriormente, al ver los comentarios de la gente se confirma que muchos no saben diferenciar si se trata de algo real o si ha sido generado por IA, porque una parte de los usuarios incluso tiene que pregunta para salir de dudas, y esto a veces es peor, porque no faltan comentarios que dicen que es real cuando en realidad no lo es.

Clic para ampliar.

IA generativa a futuro, un escenario para el que no estamos preparados

Si ahora que nos encontramos en una etapa relativamente temprana para la IA generativa ya tenemos estos problemas, ¿qué va a ocurrir dentro de unos años cuando esté mucho más avanzada y el realismo sea mucho mayor? Esta es la pregunta que debemos hacernos, y es a la que tenemos que buscar una respuesta.

El potencial que tiene la IA generativa para crear contenidos y noticias falsas con las que manipular a la gente y afectar negativamente a la reputación de una persona, grupo de personas o empresas es evidente, y como problema no hará más que crecer con el paso del tiempo si no se toman medidas para evitarlo.

No es fácil encontrar una solución que satisfaga a todo el mundo, pero creo que una de las más sencillas y efectivas sería obligar a los usuarios a indicar cuándo una imagen utilizada ha sido generada con IA, y contemplar la imposición de sanciones en caso de que no se cumpla con esa obligación, siempre que esto suponga un peligro o que afecte al derecho al honor de las personas.

Utilizar la IA para ilustrar contenidos y noticias es algo muy útil que, de hecho, utilizamos en MuyComputer, pero tenemos un compromiso de transparencia con todos nuestros lectores, y por eso indicamos en cada artículo qué imágenes han sido generadas con IA.

Imagen de portada generada con IA.