Twitch utilizará machine learning para mejorar la seguridad de sus chats

Durante los últimos meses hemos ido viendo cómo Twitch iniciaba su cruzada personal para establecer unas medidas más sólidas frente a las llamadas «raids de odio», un problema cada vez más presente en la plataforma, y que llevó a streamers y usuarios de Twitch a llevar a cabo la primera huelga que ha experimentado la plataforma.

Así pues, si bien la última media adoptada fue limitar la participación en los mismos solo ha usuarios que hayan validado sus cuentas de Twitch mediante correo electrónico y/o teléfono móvil, ahora Twitch continúa avanzando en sus esfuerzos para reducir el acoso con una nueva herramienta que utiliza el aprendizaje automático, con la que esperan poder detectar a aquellas personas que pueden estar intentando evadir estas nuevas reglas.

La nueva herramienta, llamada Detección de usuarios sospechosos (Suspicious User Detection), será capaz de identificar autónomamente a los usuarios como personas «probables» o «posibles» de ser partícipes en tratar de evadir las prohibiciones o baneos del canal de un streamer. El modelo de aprendizaje automático que impulsa la herramienta identifica a los evasores potenciales mediante la evaluación de aspectos como su comportamiento y las características de su cuenta, comparando esa información con las cuentas que han sido prohibidas en los canal de su plataforma.

Funcionando a modo de un ban silencioso, los mensajes de estos usuarios sospechosos no se enviarán al chat (aunque ellos no contarán con ninguna notificación al respecto) siendo sólo los propios streamers y sus mods capaces de verlos. De esta manera, los dueños de los canales podrán optar por utilizar la nueva herramienta de monitorización para seguir el comportamiento de estos usuarios, ofreciéndoles un mayor conocimiento antes de tener que recurrir a la expulsión.

Según ha compartido la propia Twitch, esta nueva función de detección de usuarios estará activa de forma predeterminada desde su implantación, pero los canales podrán modificar o desactivar la herramienta si así lo desean. Adicionalmente, aunque la máquina no detecte a algunos usuarios sospechosos potenciales, también se podrá hacer uso de la herramienta de monitorización de manera manual.

Si bien todavía queda por ver cuan efectiva puede llegar a ser esta herramienta, sin duda se trata de un gran paso para tratar de evitar estas prácticas tóxicas dentro de esta comunidad.