OpenAI, demandada por una invención de ChatGPT

Desde que los modelos generativos de inteligencia artificial, como ChatGPT, DALL-E, Bing y compañía empezaron a cobrar popularidad, hemos podido comprobar lo problemáticas que pueden llegar a ser las alucinaciones de estos sistemas. Este problema está bien documentado, existe una colección de buenas prácticas que reducen sustancialmente el riesgo de que éstas se produzcan y, dado el impacto que tienen en la fiabilidad de estas IA, se sigue investigando profusamente a día de hoy para acabar con este problema.

Si no tienes claro el concepto de las alucinaciones en los modelos de inteligencia artificial generativa, además de la guía que he enlazado anteriormente puedes ver dos casos concretos. Por una parte, en esta primera prueba que hicimos de ChatGPT, el poema inventado de Miguel Hernández en un gran ejemplo de ello. Y de manera mucho más reciente, tienes el caso de el abogado que se ha metido en serios problemas por confiar en un texto generado por este chatbot.

Esto nos explica que OpenAi haya configurado el servicio para que, cuando accedemos a ChatGPT, nos muestre (en inglés) el siguiente texto:

«Si bien contamos con medidas de seguridad, el sistema puede generar ocasionalmente información incorrecta o engañosa y producir contenido ofensivo o tendencioso. No tiene la intención de dar consejos.»

Por norma general, los usuarios de este tipo de servicios son conscientes de dicha problemática, que es aún más acusada en aquellos en los que no se indican las fuentes empleadas por el modelo para confeccionar la respuesta. Esa es la razón por la que Bing destaca sobre muchos de sus rivales, y es que cuando haces una consulta, la respuesta no siempre es correcta, pero dado que te indica las fuentes empleadas, puedes (y debes) revisar las mismas para confirmar dicha información.

Esto, en un país tan dado a los juicios por prácticamente cualquier causa, puede suponer un filón para algunos. Así, según podemos leer en The Verge, un locutor de radio ha decidido demandar a OpenAI después de que ChatGPT generara un texto falso sobre él, en el que se le acusaba de defraudar y malversar fondos. El demandante, Mark Walters, fue acusado por un texto de la IA de haber respondido a la consulta de un tercero, afirmando que se creía que había malversado nada menos que cinco millones de dólares de una organización sin ánimo de lucro.

La respuesta la obtuvo un periodista llamado Fred Riehl, al pedir a ChatGPT que revisara un PDF (acción que no puede realizar) y generara un resumen sobre su contenido. ChatGPT respondió creando un resumen falso del caso que fue detallado y convincente pero erróneo en varios aspectos, entre ellos las acusaciones de fraude. Riehl, no obstante, nunca llegó a hacer pública esta respuesta, por lo que se desconoce como es posible que llegara a manos de Walters.

Esta es, sin duda, una situación un tanto compleja, ya que por una parte tenemos un servicio que indica explícitamente que puede generar información incorrecta o engañosa, lo que algunos entenderán como una exoneración de responsabilidad. Sin embargo, en el otro lado de la balanza tenemos a una persona que se podría ver afectada por el hecho de que el chatbot está inventando información engañosa sobre él, y que dicha información falsa puede ser tremendamente negativa para su imagen.

Expertos legales consultados por el medio afirman que esta causa no apunta a tener demasiado recorrido, y que probablemente OpenAI será exculpada de las acusaciones de Walters. No obstante, tiene sentido intentar ponernos en la piel de este locutor de radio, e imaginar cómo nos sentiríamos de averiguar que una IA como ChatGPT genera información falsa, y además negativa, sobre nosotros. Desde luego no debe ser una situación agradable, y quizá sí que tenga bastante sentido forzar a OpenAI a que redoble sus esfuerzos en lo referido a evitar este tipo de difamaciones a personas y entidades.