A National Award-Winning Publication

Inteligencia Artificial contra comentarios tóxicos

Share on facebook
Share on twitter
Share on linkedin
El diario español El País empezó a utilizar Perspective API, una herramienta gratuita desarrollada por Jigsaw, de Google, para frenar los comentarios tóxicos que recibe de los lectores en su página web y redes sociales.
 
“Nuestra visión de la sección de comentarios perfectos era un lugar donde los lectores podían aportar información y consejos sobre una historia, agregar conocimientos de temas, verificar hechos y elevar la conversación a un nivel diferente”, relató para el blog de Google Pablo Delgado, Director de Prisa Noticias, editor de El País.
 
Sin embargo, en 2015 los trolls, los comentarios tóxicos, el spam, los insultos e incluso las amenazas tomaron el control, lo que provocó que los editores evaluaran la conveniencia de mantener esta sección del periódico en línea, dijo en su texto sobre la experiencia de utilizar Perspective.
 
“Nadie parecía capaz de frenar esta situación, y varios sitios limitaban la cantidad de artículos abiertos a comentar o los cerraban por completo. En El País también pensamos en cerrar la sección de comentarios, pero finalmente los dejamos ser”, agregó.
 
La situación siguió hasta el año pasado, cuando Google News Initiative se contactó con los ejecutivos del diario para hablar sobre Perspective, que en ese momento estaba disponible solo en inglés. El objetivo era utilizar los más de 300,000 comentarios que los lectores escriben cada mes para entrenar el modelo en español.
 
A principios de 2019 El País y Jigsaw analizaron gran cantidad de comentarios públicos recibidos. Perspective utiliza un modelo de aprendizaje automático, entrenado por comentarios generados por humanos que son etiquetados como tóxicos por moderadores humanos, y calificar el impacto que podrían tener en una conversación.
 
Actualmente, cuando alguien intenta publicar un comentario tóxico en los sitios del diario, se muestra un mensaje en tiempo real sugiriéndole que realice cambios o lo reescriba para que pase el sistema de moderación.
 
“Desde que implementamos este sistema, la toxicidad promedio de los comentarios ha bajado un 7% y el número de comentarios ha aumentado un 19%, lo que nos hace sospechar que la sección es un lugar mejor donde nuestros lectores quiere participar”, expresó Delgado.
 
El País también ha mejorado el proceso de moderación enviando los comentarios más tóxicos a los moderadores experimentados, e incluso revisa la toxicidad de los artículos con el fin de confirmar si el autor o el artículo influyen en una respuesta tóxica.
 
“Con estos datos, nuestro objetivo es mejorar la conversación al no publicar ciertos artículos que sabemos que no generarán comentarios positivos, desarrollar un nuevo sistema de distintivos, destacar los principales comentarios de la semana en nuevos productos como un boletín e incluso hacer que los periodistas participen en ciertas conversaciones”, concluyó.
 
“Discutir cosas que te interesan puede ser difícil. La amenaza de abuso y acoso en línea significa que muchas personas dejan de expresarse y renuncian a buscar opiniones diferentes”, se expone en la página de la herramienta.
 
Perspective fue creada por Jigsaw y el equipo de tecnología de lucha contra el abuso de Google en un proyecto de investigación en colaboración llamado Conversation-AI. La versión en español está disponible de forma gratuita para que cualquier editor en español pueda usarla, lo que ayuda a elevar el nivel de debate.
 

Más en Negocios Now