Trabajando juntos, podemos ganar contra el odio – Instagram


Por Sheryl Sandberg – Director de Operaciones de Facebook

Los ataques terroristas en Christchurch fueron un acto de pura maldad. En Facebook, todos estamos del lado de las víctimas, sus familias, la comunidad musulmana y toda Nueva Zelanda. Es profundamente trágico que las personas sean víctimas de violencia debido a su identidad y creencias. En las últimas dos semanas, el mundo ha sido testigo de la compasión, la unidad y la capacidad de recuperación que ha demostrado como país.

Muchos de ustedes también se han preguntado con razón cómo se han usado plataformas en línea como Facebook para transmitir videos horribles del ataque. Estamos decididos a examinar lo que ha sucedido y hemos trabajado en estrecha colaboración con la policía de Nueva Zelanda para apoyar su respuesta. Inmediatamente después, eliminamos las cuentas de Facebook e Instagram del terrorista, eliminamos el video del ataque y usamos inteligencia artificial para buscar y prevenir de manera proactiva la publicación de videos relacionados. Hemos escuchado comentarios que necesitamos hacer más, y estamos de acuerdo. Después del ataque terrorista, tomamos tres pasos: fortalecer las reglas para usar Facebook Live, tomar medidas adicionales para combatir el odio en nuestras plataformas y apoyar a la comunidad de Nueva Zelanda.

Primero, exploramos las restricciones en la cantidad de personas que pueden acceder a la transmisión en vivo según factores tales como violaciones pasadas de las normas de la comunidad. También estamos invirtiendo en investigación para desarrollar una mejor tecnología para identificar rápidamente las versiones editadas de videos e imágenes violentas y evitar que las personas compartan estas versiones nuevamente. Si bien el video de ataque original de Nueva Zelanda se compartió en vivo, sabemos que este video se transmite principalmente a través de compartir y volver a editar el video, lo que lo hace más difícil. El bloqueo de nuestros sistemas. Hemos identificado más de 900 videos diferentes que muestran partes de esos horribles 17 minutos. Los malos siempre intentarán burlar nuestras medidas de seguridad. Por eso debemos esforzarnos por mantenernos por delante. La semana pasada, también cambiamos nuestro proceso de revisión para ayudarnos a mejorar nuestro tiempo de respuesta a tales videos en el futuro.

Segundo, estamos tomando medidas aún más fuertes para eliminar el odio de nuestras plataformas. Durante mucho tiempo hemos tenido políticas contra los grupos de odio y el discurso de odio. Hemos identificado ambos disparos como ataques terroristas, lo que significa que cualquier elogio, apoyo y representación de los eventos viola los estándares de nuestra comunidad y no está permitido en Facebook. También utilizamos nuestras herramientas de inteligencia artificial existentes para identificar y eliminar una serie de grupos de odio en Australia y Nueva Zelanda, incluidos la Sociedad de Lads, el Frente de Patriotas Unidos, la Resistencia a las Antípodas y el Frente Nacional de Nueva Zelanda. Estos grupos serán excluidos de nuestro servicio y también suprimiremos los elogios y el apoyo de estos grupos cuando nos demos cuenta de ellos. Y esta semana nuevamente, anunciamos que habíamos fortalecido nuestras políticas al prohibir los elogios, el apoyo y la representación del nacionalismo blanco y el separatismo en Facebook e Instagram.

Finalmente, estamos con la población de Nueva Zelanda y apoyamos a cuatro organizaciones locales de bienestar y salud mental para aumentar la conciencia de sus servicios en el país. También estamos trabajando con nuestro socio juvenil existente para desarrollar conjuntamente educación adicional sobre el apoyo de los compañeros y la capacidad de recuperación. No obstante, estamos dispuestos a trabajar con la Comisión Real del Gobierno de Nueva Zelanda para examinar con más detalle el papel de los servicios en línea en este tipo de ataque. También estamos listos para trabajar con el gobierno de Nueva Zelanda en futuros modelos regulatorios para el sector en línea en áreas tales como moderación de contenido, elecciones, privacidad y portabilidad de datos.

Sabemos que todavía hay trabajo por hacer. Estamos profundamente comprometidos con el fortalecimiento de nuestras políticas, la mejora de nuestra tecnología y el trabajo con expertos para mantener seguro a Facebook. Todos debemos unirnos contra el odio y trabajar juntos para combatirlo donde y cuando ocurra.