–Jigsaw de Google anuncia que la API para reducir la toxicidad, Perspective, está procesando 500 millones de solicitudes diarias
¡Recibe notificaciones de las últimas noticias, artículos y mucho más!
La compañía publica la tercera edición de la revista de investigación, The Current, que cubre la toxicidad online y el papel de la IA para ayudar a impulsar conversaciones saludables
NUEVA YORK, 8 de febrero de 2021 /PRNewswire/ — Hoy, Jigsaw, una unidad dentro de Google que pronostica y hace frente a las amenazas digitales emergentes, anunció que Perspective, una API gratuita de código abierto que utiliza el aprendizaje automático para detectar comentarios tóxicos, ahora procesa 500 millones de solicitudes diarias y reduce mediblemente la toxicidad para mejorar las conversaciones online a escala. El tercer número de la revista de investigación online de la compañía, The Current, que se publicó hoy, detalla el persistente y perjudicial problema de la toxicidad online y el papel que las herramientas de aprendizaje automático, como Perspective, pueden tener para reducirlo.
Lanzado en 2017 para combatir la toxicidad y el acoso online, Perspective obtiene comentarios basados en su impacto percibido en la conversación y ayuda a las plataformas a mantener las secciones de comentarios abiertas para conversaciones atractivas y productivas.
“La toxicidad en Internet es un problema generalizado que afecta desproporcionadamente a los grupos marginados, amenaza el periodismo independiente y abarrota la libertad de expresión y el diálogo saludable ,” dijo Jared Cohen, consejero delegado de Jigsaw. “Nuestros socios han visto Perspective reducir mediblemente la toxicidad en sus plataformas, lo que les permite crear espacios más seguros para que sus usuarios intercambien ideas. Estamos comprometidos a trabajar con nuestros socios e instituciones académicas para capacitar y volver a capacitar continuamente nuestros modelos para ser aún mejores en la identificación de toxicidad, minimizando al mismo tiempo el prejuicio en apoyo de conversaciones más saludables.”
Jigsaw construyó Perspective utilizando modelos desarrollados en asociación con el equipo de Counter Abuse Technology de Google, y ahora está empoderando a una variedad de plataformas para crear un espacio seguro para el diálogo a través de múltiples usos:
Comentarios del comentarista: Perspective puede proporcionar comentarios al comentarista sobre la posible toxicidad percibida de su contenido en tiempo real, dando lugar a resultados significativos:
- Coral by Vox Media, una plataforma de comentarios prominente utilizada por las organizaciones de medios de comunicación de todo el mundo, utiliza esta función para dar a los comentaristas la oportunidad de cambiar su redacción antes de que publiquen. Un estudio controlado con McClatchy encontró que el 40 por ciento de los usuarios cambiaron su comentario en respuesta a los comentarios.
- OpenWeb, una plataforma líder de participación de la audiencia que aloja a 100 millones de usuarios activos al mes, lanzó esta función después de un estudio OpenWeb, realizado como parte de una investigación Jigsaw más amplia, descubrió que de todos los comentaristas que editaron su idioma, el 44,7 por ciento de los comentaristas reemplazó o eliminó palabras ofensivas y el 7,6 por ciento optó por reescribir su comentario por completo.
Ayudar a los moderadores humanos: Perspective también sirve para ayudar a los moderadores humanos a trabajar de manera más eficiente y reducir la toxicidad en sus plataformas:
- The New York Times creó Moderator: una herramienta que aprovecha Perspective para priorizar los comentarios para la moderación humana y aprobar los más propensos a pasar una revisión manual. The Times ha aumentado el número de artículos que podrían abrir a los comentarios usando Perspective, lo que les permite dar a los lectores una selección más amplia y diversa de artículos sobre los que comentar.
- FACEIT, una de las plataformas de juego más grandes de Europa, utiliza la puntuación de toxicidad de Perspective para dar advertencias o prohibiciones a los usuarios, que pueden atraer a un moderador humano para la revisión final. Como resultado de esta moderación en tiempo real, FACEIT ha visto una reducción del 20 por ciento en los mensajes tóxicos.
- Cofina, una empresa de medios portuguesa, fue capaz de disminuir la necesidad de moderación humana en un 60 por ciento, ahorrando a su equipo al menos 2 horas al día después de integrar Perspective en su CMS para moderar los comentarios en sus periódicos deportivos y financieros.
“Perspective API ha mejorado en gran medida nuestra capacidad de detectar toxicidad en nuestros comentarios. Ha hecho el trabajo de nuestro equipo de moderación más impactante y eficiente y desde la implementación de la herramienta, hemos sido capaces de aumentar el número de artículos abiertos a los comentarios en aproximadamente un tercio.” – Marcia Loughran, Community Editor, The New York Times
“Trabajar con Perspective nos ha permitido fomentar interacciones positivas en cientos de comunidades dinámicas y comprometidas y decenas de millones de usuarios. Las soluciones son elegantes y sin fricción, apoyando nuestra visión para un compromiso de mayor calidad con menos toxicidad.” – Nadav Shoval, consejero delegado y cofundador OpenWeb
“En Coral, nos centramos en hacer que el trabajo esencial de los moderadores sea más fácil y rápido. Perspective nos ayuda identificando comentarios en varios idiomas que requieren atención inmediata. El equipo de Perspective son excelentes colaboradores en esta misión.” –Andrew Losowsky, director de Coral by VoxMedia
“Integramos Perspective en nuestro CMS para moderar los comentarios en nuestros periódicos deportivos y financieros. Disminuimos la moderación humana en un 60 por ciento. Estamos ahorrando, al menos, dos horas al día y estamos muy satisfechos con los resultados. También mejoró la calidad de los comentarios en nuestros sitios web y la interacción con nuestros usuarios.” – Nuno Alves, director técnico online, Cofina Media
“En FACEIT, nos hemos embarcado en una misión para abordar directamente la toxicidad y el acoso en los juegos. Con nuestra comunidad de jugadores creciendo y evolucionando, necesitábamos construir soluciones efectivas capaces de trabajar a escala. Perspective nos proporcionó el modelo de toxicidad perfecto que utilizamos como línea base para construir sobre nuestro motor anti-toxicidad.” –Maria Laura Scuri, directora de inteligencia empresarial, FACEIT
A través de sus asociaciones, Jigsaw también ha entrenado Perspective en nuevos idiomas, haciendo que el modelo de aprendizaje automático esté mejor posicionado para mejorar las conversaciones online a escala global – actualmente está disponible en inglés, español, francés, alemán, italiano y portugués. Algunos de los socios de Perspective incluyen: El Pais, Le Monde, Cofina y varios otros editores que entienden la importancia de organizar conversaciones de buena calidad en sus plataformas, en diversos idiomas.
Jigsaw también trabaja continuamente con socios para explorar formas de mitigar la parcialidad en el aprendizaje automático. Por favor, lea algunas de las investigaciones recientes de Jigsaw aquí.
Lea más sobre Perspective y pruébelo en la tercera edición de The Current.
Consultas de Medios:
Jigsaw Media
jigsawpress@google.com
Acerca de Jigsaw
Jigsaw es una unidad dentro de Google que pronostica y hace frente a las amenazas emergentes, creando investigación y tecnología que definen el futuro para mantener nuestro mundo más seguro.
