No podemos fiarnos de la IA, pero cada vez dependemos más de ella

Tenemos un problema, no podemos fiarnos de la IA, pero cada vez tenemos una mayor dependencia de esta herramienta. Los avances que hemos conseguido en modelos avanzados han hecho que muchas personas hayan simplificado sus quehaceres diarios hasta tal punto que han llegado a confiar ciegamente en la IA.

Esa confianza ciega en una tecnología que puede generar respuestas erróneas e incluso alucinar (inventarse cosas que no conoce) es un riesgo que, lamentablemente, no recibe la importancia que merece por parte de los usuarios, pero sí por parte de las empresas que, con la boca grande, nos venden las maravillas de la IA y que, con la boca pequeña, nos dicen que no deberíamos confiar en la IA.

Esto nos lleva a una contradicción grave que al final afecta a los usuarios. Todas las empresas que han desarrollado y que ofrecen soluciones de IA, especialmente en su vertiente generativa, incluyen advertencias en sus términos y condiciones de uso donde indican que sus modelos pueden equivocarse, y que no deben utilizarse para tomar decisiones importantes.

Cómo de fiable es la IA, y por qué no debemos fiarnos ciegamente de ella

Según datos de la startup Oumi, publicados por The New York Times, un 10% de las búsquedas realizadas con Google IA (Gemini versión 2) contienen información falsa o errónea, lo que equivale a unos 57 millones de resultados falsos por hora, alrededor de 1 millón por minuto.

Un portavoz de Google ha salido al paso diciendo que los datos de Oumi no son correctos porque no reflejan el comportamiento del mundo real, y asegura que según sus datos internos. Sin embargo, los datos internos de Gemini 3 apuntan precisamente en la dirección contraria, ya que este modelo alucina un 28% de las veces.

En muchos casos, cuando la IA presenta una respuesta falsa o incorrecta adjunta un enlace donde podemos encontrar la información correcta a lo que estábamos buscando. El problema es que la mayoría de los usuarios no se molesta en hacer clic en ese enlace, y cree ciegamente lo que le dice la IA.

La discrepancia entre lo que muestra la IA en una respuesta y sus fuentes, indicadas en los enlaces que muestra, han aumentado en los últimos meses, alcanzando un 37% en Gemini 2 y un 56% en Gemini 3. Por otro lado, también han aumentado los casos en los que las páginas enlazadas no contienen información relevante.

Otra razón por la que no debes fiarte ciegamente de la IA es que esta es muy vulnerable a la manipulación, porque carece de pensamiento crítico. Os pongo un ejemplo, un periodista de la BBC publicó un artículo con información falsa, y descubrió que poco después la IA de Google había repetido sus falsas afirmaciones como si fueran reales.

Que Microsoft describa a Copilot como un «entretenimiento» ya dice mucho de la confianza que tiene en su propia IA, y de lo exagerado que parece haber sido todo ese «hype» que se ha construido alrededor de esta tecnología, creando una burbuja evidente que, tarde o temprano, acabará pinchando.