Cientos de académicos apoyan la rebelión de empleados de Google contra el Project Maven

4.000 empleados de Google han firmado una petición interna en el que exigen a la compañía su salida del Project Maven, un programa militar de inteligencia artificial y aprendizaje automático impulsado por el Departamento de Defensa de Estados Unidos.

Project Maven es un controvertido programa que tiene entre otros objetivos, acelerar el análisis de datos capturados por drones (u otros dispositivos) con el fin de clasificar automáticamente imágenes de objetos y personas para uso militar. Google tiene un contrato con el Pentágono para este proyecto en el que aporta unas tecnologías de AI y aprendizaje profundo que se encuentran entre las más avanzadas del planeta.

El contrato con el Pentágono ha provocado una auténtica rebelión en Google, no sólo firmando la petición de cancelación, sino con anuncios de renuncias y salida de la empresa de un grupo de empleados, comentan en Gizmodo. Las preocupaciones de los empleados van desde cuestiones éticas hasta otras más amplias sobre las decisiones políticas de Google y la erosión de la confianza de los usuarios que podrían derivarse de estas acciones.

Que los datos de usuario recopilados en apps y servicios gratuitos terminen utilizándose para impulsar proyectos militares es una cuestión que terminará erosionando la confianza en la gran compañía de Internet. Un grupo amplio de empleados de Google creen que los humanos y no los algoritmos, deben ser los responsables de este tipo de programas sensibles y potencialmente letales, y que Google no debería involucrarse en ningún tipo de proyecto militar.

Los empleados firmantes piden específicamente al CEO de Google, Sunder Pichai, «cancelar el contrato inmediatamente y elaborar, publicitar y hacer cumplir una política clara que establezca que ni Google ni sus contratistas construirán nunca tecnologías de guerra».

Apoyo de científicos y académicos contra Project Maven

Los empleados de Google no están solos. Tech Workers Coalition lanzó una petición el mes pasado exigiendo que Google abandone su trabajo en el Project Maven y que otras grandes tecnológicas, incluidas IBM y Amazon, se nieguen a trabajar con el Departamento de Defensa de los EE. UU en este tipo de programas. «No podemos ignorar los sesgos dañinos de nuestra industria y nuestras tecnologías, las infracciones a gran escala de la confianza y la falta de garantías éticas… Estas son apuestas de vida o muerte», dice la petición.

El Committee for Robot Arms Control (ICRAC), una organización no gubernamental fundada por investigadores preocupados por las armas autónomas, han impulsado una carta abierta a los ejecutivos de Google y Alphabet en apoyo a los empleados de Google. «Respaldamos de todo corazón su exigencia de que Google rescinda su contrato con el Departamento de Defensa, y que Google y su empresa matriz, Alphabet, se comprometan a no desarrollar tecnologías militares y a no utilizar los datos personales que recopilan para fines militares. El grado en que los fondos militares han sido impulsores históricamente de la investigación y el desarrollo tecnológico, no debe determinar el futuro de este campo».

ICRAC va más lejos y pone en el punto de mira a todas las tecnológicas. «Las responsabilidades de las empresas globales como Google deben ser proporcionales a la composición transnacional de sus usuarios. Los contratos del Departamento de Defensa bajo consideración de Google y los contratos similares ya en vigencia con Microsoft y Amazon, señalan una peligrosa alianza entre la industria tecnológica privada, actualmente en posesión de grandes cantidades de datos personales confidenciales recabados de personas de todo el mundo, y el ejército de un país».

«Estamos en un momento crítico. El escándalo de Cambridge Analytica demuestra la creciente preocupación pública por permitir que las industrias tecnológicas ejerzan tanto poder. Esto solo ha puesto de relieve las apuestas cada vez más altas de las infraestructuras de tecnología de la información y la inadecuación de los actuales marcos de gobernanza nacionales e internacionales para salvaguardar la confianza pública», concluye una carta abierta que ya ha sido firmada por 300 académicos y científicos entre expertos en robótica, inteligencia artificial, relaciones internacionales, seguridad, ética y derecho.

Veremos si hay respuesta. Google ha negado repetidamente el uso malicioso de su tecnología en su contrato gubernamental con el Pentágono, explicando que aún si él, los militares pueden utilizar las APIs de TensorFlow (código abierto) para este proyecto.