La nueva herramienta de Google contra los comentarios ofensivos

Google ha lanzado una herramienta con inteligencia artificial que identifica los comentarios ofensivos online y que servirá a las plataformas para frenar la incitación al odio.

El software de Google, que se denomina Perspective y es gratuito, ya lo han probado en varios medios de comunicación, como el New York Times, The Guardian y The Economist, para simplificar la tarea de revisar los comentarios de cada una de sus publicaciones.

«Los medios de comunicación pretenden con su contenido fomentar la participación y la discusión. Sin embargo, cuesta mucho dinero, trabajo y tiempo buscar entre millones de comentarios aquellos que son ofensivos», declaró Jared Cohen, presidente de Jigsaw, la incubadora social de Google que ha desarrolla esta herramienta.

«En consecuencia, muchas páginas web han eliminado la posibilidad de escribir comentarios. No obstante, no es la solución que estas plataformas querían adoptar», añadió Cohen.

En la actualidad, pueden acceder a este software todas las compañías que forman parte de la Digital News Initiative de Google, entre las que se encuentran la BBC, el Financial Times, Les Echos y La Stampa, y algunas redes sociales como YouTube, Twitter y Facebook.

«Estamos dispuestos a trabajar con todo el mundo, desde con pequeños desarrolladores hasta con las mayores plataformas de internet. Todos compartimos un mismo interés y queremos beneficiarnos de los debates positivos», afirmó CJ Adams, gerente de producto de Jigsaw.

Perspective ayuda a filtrar los comentarios ofensivos para que el proceso de revisión resulte más sencillo. El algoritmo se creó a partir de cientos de comentarios de páginas webs, como Wikipedia o el New York Times, que los revisores humanos habían etiquetado como «tóxicos».

La herramienta clasifica los comentarios online dependiendo de su similitud con los comentarios «tóxicos» o de si pueden provocar que alguien abandone la conversación.

«Cada vez estamos más acostumbrados a encontrar comentarios ofensivos en las conversaciones online», afirmó Cohen. «Muchas personas han dejado de comentar por este problema. Por este motivo, queremos ayudar a las plataformas a recuperar a todos sus usuarios.»

Gracias a que el algoritmo reduce el número de posibilidades, los revisores del New York Times ahora pueden cotejar el doble de comentarios.

«Nuestro objetivo es que la revisión se realice 10 veces más rápido, por lo que el proyecto sigue adelante», declaró Lucas Dixon, encargado de la investigación científica en Jigsaw.

Google no es la primera compañía que trata de frenar los comentarios ofensivos. A principios de este mes, Twitter redobló sus esfuerzos para ocultar los comentarios ofensivos a sus usuarios, en lugar de eliminarlos de forma definitiva.

El consejero delegado de la red social, Jack Dorsey, declaró que Twitter evalúa a diario sus progresos en su lucha contra los comentarios ofensivos.

En mayo, varios grupos tecnológicos de EEUU, entre los que se incluían Google, Facebook, Twitter y Microsoft, firmaron un «código de conducta» con Bruselas en el que se les exige «revisar la mayoría» de los comentarios que hayan denunciado los usuarios en las últimas 24 horas, eliminarlos si fuese necesario e, incluso, responder a esos mensajes para solucionar al problema.

Fuente: Expansion.com (26/2/17) Pixabay.com