La cara oculta de ChatGPT

ChatGPT, ya lo he dicho en varias ocasiones, me parece una innovación tecnológica absolutamente disruptiva. Por lo bien que funciona, por cómo sus creadores han sabido hacer que articule respuestas al alcance de todas las audiencias, por su capacidad de mantener conversaciones, por su versatilidad… en fin, la lista de elogios que considero que merece esta inteligencia artificial de OpenAI es larga y de categoría. Y sí, ya sé que comete errores, pero debemos tener en cuenta que su potencial de mejora es aplastante.

Ahora bien, no todo es positivo alrededor del servicio tecnológico de moda. Tiene una cara bastante más oscura y no, desgraciadamente no me refiero a los errores que comentaba antes, y tampoco de las apps que intentan monetizar en su propio interés un servicio que es gratuito. No, hablo de una decisión empresarial que puede ser legal, claro, pero que éticamente es tan reprobable que puede llegar a desmerecer un servicio que, de otra manera, sería merecedor de la gloria.

La deslocalización, relocalización o cómo queramos llamar a la técnica de subcontratar determinados servicios en países en los que resulta mucho más barato no es algo nuevo. El mundo anglosajón lleva décadas haciéndolo, principalmente en India, y en cuanto a nuestro país, las llamadas a muchos servicios de atención al cliente nos recuerdan que la mayoría de esas llamadas son atendidas desde call-centers en latinoamérica, por hablar en ambos casos solo de un tipo de actividad en concreto.

Ojo, no digo que esto sea malo per se, pues en determinadas circunstancias es cierto que puede suponer un gran estímulo para esas economías locales, y cuando eso ocurre en países en vías de desarrollo, se convierte en un factor que impulsa sustancialmente las mismas. Además, la diferencia de los salarios puede mejorar la competitividad de las empresas, algo que nos guste o no, hoy forma parte del credo empresarial que deben suscribir éstas para sobrevivir.

El problema, lo que sí que es criticable, es que empresas del llamado primer mundo recurran a la deslocalización para pagar salarios que son de miseria incluso en las maltrechas economías de los países elegidos para tal fin. Y según una investigación llevada a cabo por la prestigiosa revista Time nos encontramos frente a un caso de este tipo, ya que OpenAI empleó trabajadores kenianos por menos de 2 dólares por hora para ChatGPT.

La investigación, que cita varias fuentes, revela que el salario neto de los trabajadores subcontratados en Kenia, a través de Sama, una empresa con sede en San Francisco que emplea a trabajadores en Kenia, Uganda e India y a la que recurren muchas empresas tecnológicas, oscilaba entre los 1,32 y los 2 dólares por hora, en función de su antigüedad y su rendimiento. Unas cifras que deberían hacer sonrojarse a los responsables de OpenAI, más aún en estos tiempos en los que se avecinan inversiones multimillonarias en la compañía gracias a ChatGPT.

Los trabajadores fueron subcontratados para una parte muy importante de ChatGPT, alimentar a la IA con lenguaje tóxico, discurso de odio y contenidos de este tipo para que la IA sea capaz de detectarlo y, por lo tanto, de eliminarlo. Tras los precedentes con otras IA, muchas de las primeras pruebas llevadas a cabo por el gran público con ChatGPT han consistido en comprobar si reflejaba algún tipo de sesgo en este sentido, pero el sistema parece estar muy bien aleccionado a este respecto.

La evolución de la inteligencia artificial es asombrosa, pero en casos como el de ChatGPT lo hace a costa de la precariedad laboral, según denuncia Partnership on AI, una coalición de organizaciones de IA de la que, curiosamente, forma parte OpenAI: “A pesar del papel fundamental que desempeñan estos profesionales de enriquecimiento de datos, un creciente cuerpo de investigación revela las condiciones laborales precarias que enfrentan estos trabajadores”.

Es curioso, porque llevamos ya bastante tiempo hablando sobre la ética en la inteligencia artificial, un debate muy interesante y que todavía tiene mucho que decir, pero resulta paradójico que pongamos el foco en el comportamiento ético de las inteligencias artificiales, al tiempo que el desarrollo de las mismas se basa, al menos parcialmente, en prácticas muy cuestionables en el plano ético. Legales, sí, pero muy cuestionables. Quizá, aunque sea solo en parte, deberíamos aprender un poco de esa ética que queremos enseñar a las máquinas porque, en caso contrario, es posible que con el paso del tiempo nos adelanten también en ese sentido.