Microsoft Teams se prepara para detectar deepfakes en las reuniones

Microsoft Teams quiere hacer frente a una amenaza que, hasta hace poco, parecía más propia de la ciencia ficción que de una reunión de trabajo. La inteligencia artificial generativa ha avanzado hasta permitir la creación de voces y rostros falsificados con un realismo que dificulta distinguirlos de los auténticos, abriendo nuevas posibilidades para la suplantación de identidad y el fraude. En este escenario, reconocer a un compañero o escuchar la voz de un directivo ya no garantiza necesariamente que estemos hablando con esa persona. Para afrontar este problema, Microsoft incorporará a Teams nuevas herramientas de detección de deepfakes, con un despliegue inicial previsto para noviembre.

La novedad permitirá a las organizaciones integrar soluciones de terceros certificadas para analizar el audio y el vídeo de las reuniones en busca de señales de manipulación mediante inteligencia artificial. No será Microsoft quien realice directamente estas comprobaciones, sino proveedores especializados cuyos sistemas se conectarán con Teams para comunicar posibles amenazas. La compañía tiene previsto comenzar el despliegue a mediados de noviembre de 2026, inicialmente mediante un programa de disponibilidad limitada que se extenderá hasta finales de mes. Por ahora, no existe una fecha confirmada para su llegada generalizada, y las plataformas contempladas son las versiones de escritorio para Windows y macOS, además de la versión web.

El funcionamiento se apoyará en aplicaciones capaces de incorporarse a las reuniones y examinar las comunicaciones para identificar posibles falsificaciones. Según la documentación técnica publicada por Microsoft, los sistemas podrán detectar indicios de clonación de voz, sustitución de rostros y manipulación de la sincronización labial, técnicas que permiten hacer que una persona parezca decir algo que nunca ha pronunciado. Cuando se identifique un contenido sospechoso, el proveedor comunicará a Teams una valoración acompañada de indicadores de confianza y gravedad. La plataforma podrá trasladar estas advertencias a los participantes, ofreciendo información adicional para valorar la autenticidad de sus interlocutores. Eso sí, una alerta señalará una posible manipulación, no constituirá por sí sola una prueba definitiva de fraude.

La necesidad de estas protecciones no responde únicamente a una amenaza teórica. En febrero de 2024, nuestros compañeros de MuyComputerPRO informaron de un fraude de 25 millones de dólares perpetrado contra una empresa de Hong Kong, después de que un empleado participara en una videoconferencia con supuestos compañeros y directivos que habían sido recreados mediante inteligencia artificial. El FBI también ha advertido sobre el uso de vídeos sintéticos para suplantar identidades durante comunicaciones en tiempo real. Y reconocer estos engaños no siempre resulta sencillo: una investigación de la University College de Londres, publicada en 2023, encontró que los participantes solo lograban identificar correctamente el 73 % de las voces artificiales, con mejoras muy limitadas incluso después de recibir formación específica.

La nueva función no estará activada automáticamente en todas las reuniones. Los administradores deberán seleccionar un proveedor compatible, instalar su aplicación, conceder los permisos necesarios y configurar las políticas correspondientes dentro de Microsoft Teams. Se trata, además, de una protección diferente de las herramientas que la plataforma ya está incorporando para denunciar comportamientos sospechosos. Mediante la opción Report a concern, los participantes pueden comunicar posibles intentos de phishing, suplantación de identidad o fraude para que sean investigados por los responsables de seguridad. La detección de deepfakes añadirá una capa diferente, al permitir que un sistema especializado identifique señales de manipulación que podrían pasar inadvertidas para las personas presentes.

Sin embargo, la incorporación de proveedores externos plantea interrogantes importantes sobre la privacidad y la confidencialidad de las reuniones. Microsoft ha confirmado que estas herramientas podrán analizar señales de audio y vídeo, pero todavía no ha identificado públicamente a las empresas certificadas ni ha detallado las condiciones generales bajo las que podrán acceder a esa información, procesarla o conservarla. Tampoco se han publicado datos sobre la precisión de los detectores o sus tasas de falsos positivos, aspectos fundamentales para determinar hasta qué punto resultarán fiables. La compañía recomienda expresamente a los administradores revisar las condiciones de cada proveedor y sus políticas de tratamiento de datos antes de autorizar su utilización. Una precaución especialmente necesaria cuando hablamos de conversaciones empresariales que pueden contener información estratégica, financiera o personal.

La iniciativa representa un paso importante para adaptar la seguridad de las videoconferencias a una realidad en la que ver y escuchar a alguien ya no garantiza su identidad. Incorporar herramientas capaces de detectar manipulaciones en tiempo real puede dificultar numerosos intentos de fraude, pero su utilidad dependerá tanto de la calidad de los sistemas como de la transparencia con la que se gestionen los datos analizados. Microsoft tiene todavía cuestiones relevantes que aclarar antes de extender su disponibilidad. Y, mientras tanto, conviene recordar que ninguna advertencia automática puede sustituir por completo los procedimientos de verificación de identidad, especialmente cuando una reunión incluye instrucciones para realizar pagos, compartir información confidencial o autorizar operaciones sensibles.

Más información