ChatGPT expuso los datos de sus usuarios

Quizá recuerdes que, tal y como te contamos, el lunes pasado ChatGPT experimentó una caída de varias horas. Finalmente la incidencia quedó resuelta a lo largo del día, si bien algunos usuarios no recuperaron su historial de conversaciones hasta unas horas después del momento en el que se consideró solventada la incidencia. Por la información que pudimos ver en la página de estado de la incidencia, todo apuntaba a un fallo que afectaba al funcionamiento del chatbot, nada más.

Dicha caída me llevó a hacer una reflexión sobre las consideraciones que debemos tener en cuenta a la hora de integrar un modelo de inteligencia artificial en cualquier faceta de nuestras vidas: trabajo/empresa, estudio, etcétera. He perdido la cuenta de la cantidad de veces que he mencionado lo útiles que son estos servicios y lo beneficiosos que pueden resultar para multitud de casos, pero siempre teniendo en cuenta que no podemos depender de ellos de manera exclusiva, igual que no podemos depender exclusivamente del smartphone para abrir la puerta de casa, porque si nos quedamos sin smartphone… nos quedamos sin poder entrar en casa.

Sin embargo, con los días hemos podido saber que lo del lunes fue bastante más de lo que parecía en un primer momento, ya que no se trató de una caída, sino de un apagado voluntario. Y esto no es un rumor ni una filtración, no, sale del blog oficial de OpenAI, en el que informan sobre lo ocurrido, en una entrada que empieza indicando lo siguiente:

«Desconectamos ChatGPT a principios de esta semana debido a un error en una biblioteca de código abierto que permitió a algunos usuarios ver títulos del historial de chat de otro usuario activo. También es posible que el primer mensaje de una conversación recién creada fuera visible en el historial de chat de otra persona si ambos usuarios estaban activos al mismo tiempo.»

Esto, por sí mismo, ya supone un problema de privacidad bastante preocupante, pero lo cierto es que queda reducido a una nadería cuando, al seguir leyendo, nos encontramos con lo siguiente:

«Tras una investigación más profunda, también descubrimos que el mismo error puede haber causado la visibilidad involuntaria de la información relacionada con el pago del 1.2% de los suscriptores de ChatGPT Plus que estuvieron activos durante un período específico de nueve horas. En las horas previas a que desconectáramos ChatGPT el lunes, era posible que algunos usuarios vieran el nombre y apellido de otro usuario activo, la dirección de correo electrónico, la dirección de pago, los últimos cuatro dígitos (solo) de un número de tarjeta de crédito y la fecha de vencimiento de la tarjeta de crédito. Los números completos de tarjetas de crédito no fueron expuestos en ningún momento.»

A partir de ese punto, OpenAI cuenta que las circunstancias que debían darse para que la información de un usuario fuera expuesta son extremadamente concretas, por lo que minimiza el volumen de usuarios que se pueden haber visto afectados por este problema. Además, afirma que todos ellos ya han sido informados sobre ello, al tiempo que comparte un mensaje en el que pretende tranquilizar a los mismos, al afirmar que su seguridad no se verá comprometida por lo ocurrido.

El problema es que, en realidad, la simple exposición de los datos personales ya compromete la seguridad, pues en caso de que dichos datos se difundan y acaben en malas manos pueden ser empleados en ataques basados en spearphishing, por lo que, en realidad, esos usuarios de ChatGPT, y especialmente los de la versión Plus, sí que tendrán que actuar con especial recelo ante comunicaciones inesperadas.

Sí que debo reconocer, y esto es un punto positivo, que OpenAI ha informado sobre las causas exactas de la incidencia, así como sobre las medidas tomadas para solventar el problema. La causa la encontramos en un problema de Redis-py, un cliente de Python para Redis, una base de datos en memoria que almacena datos clave-valor y que es empleada por el chatbot de OpenAI.