Por: Guy Rosen, VP Integrity, Facebook
Luego de los terribles recientes ataques terroristas que sucedieron en Nueva Zelanda, hemos evaluado qué otr as acciones podemos tomar para evitar que nuestros servicios sean utilizados con fines dañinos o propagandistas de odio. Como resultado de éste análisis, a partir de hoy, las personas que hayan infringido algunas de nuestras reglas en Facebook, incluida nuestra política de Organizaciones y Personas Peligrosas, no podrán hacer uso de Facebook Live.
Además, está claro que para hacer frente a estas amenazas se requiere innovación técnica para mantenerse a la vanguardia con los tipos de manipulaciones de productos multimedia que se pueden hacer, como las que vimos después de Christchurch cuando algunos usuarios modificaron el video para evitar su detección y volver a publicarlo después de que éste fuera retirado. Esto requerirá de investigación fundacional impulsada por la industria y la academia. Para ello, también anunciamos nuevas asociaciones de investigación con líderes académicos de tres universidades por un valor total de $ 7.5 millones de dólares. Estas asociaciones estarán diseñadas para impulsar nuevas mejoras en la tecnología para el análisis de imágenes y videos.
Restricciones a Live
La gran mayoría de las personas utilizan Facebook Live con fines positivos, como compartir un momento con amigos o crear conciencia sobre una causa que les interesa. Aun así, se puede abusar de esta herramienta Live y queremos tomar medidas para limitar este abuso.
Hasta el día de hoy, si alguien publica contenido que viola nuestras Normas Comunitarias en Live u otras herramientas de la plataforma, eliminamos esta publicación. Si esta persona sigue publicando contenido que continúa infringiendo nuestras Normas, se le impide usar Facebook durante cierto período de tiempo, lo que también restringe su capacidad de transmitir en Live. En algunos casos, incluso pueden quedar excluidos del servicio por completo, ya sea debido a violaciones repetidas de bajo nivel o, en casos raros ,debido a una sola violación considerada grave (por ejemplo, usar propaganda terrorista en su foto de perfil o compartir imágenes de explotación infantil).
Hoy estamos ajustando las reglas que se aplican específicamente a Live. Ahora aplicaremos una política de «única advertencia» a Live en relación con una gama ampliada de delitos. A partir de ahora, cualquier persona que viole nuestras políticas más serias no podrá utilizar Live durante períodos de tiempo establecidos, por ejemplo, 30 días, a partir de su primera infracción. Por mencionar un caso, alguien que comparta un enlace a una declaración de un grupo terrorista sin contexto ahora será bloqueado inmediatamente para que no pueda usar Live durante un período de tiempo específico.
Planeamos extender estas restricciones a otras áreas en las próximas semanas, comenzando por evitar que esas mismas personas creen anuncios en Facebook. Reconocemos la tensión que puede existir entre las personas que prefieren un acceso sin restricciones a nuestros servicios y aquellas restricciones que son necesarias para mantener a las personas seguras en Facebook. Nuestro objetivo es minimizar el riesgo de abuso en Live y permitir que las personas utilicen esta herramienta de una forma positiva todos los días.
Invertir en la investigación de medios manipulados
Uno de los desafíos que enfrentamos en los días posteriores al ataque de Nueva Zelanda fue la proliferación de muchas variantes diferentes del video. Las personas, no siempre de manera intencional, compartieron versiones editadas del mismo, lo que dificultó su detección en nuestros sistemas.
Aunque implementamos distintas técnicas para encontrar estas variantes, incluida la tecnología de coincidencia de video y audio, nos dimos cuenta de que esta es un área en la que tenemos que invertir en investigaciones adicionales.
Como resultado, hoy anunciamos asociaciones con tres universidades- la Universidad de Maryland, la Universidad de Cornell y la Universidad de California en Berkeley- las cuales estarán centradas en la investigación de nuevas técnicas para:
• Detectar imágenes, videos y audios manipuladas.
• Distinguir entre publicaciones de individuos que de manera intencional manipulan imágenes y videos de aquellos que lo hacen inconscientemente.
Está claro que lidiar con el aumento de este tipo de manipulaciones requerirá de mucha investigación y una colaboración profunda entre la industria y la academia. Necesitamos que todos trabajemos juntos para enfrentar este desafío. Estas asociaciones son solo una parte del esfuerzo que estamos llevando a cabo para trabajar de la mano con la academia y nuestros colegas de la industria. En los próximos meses, buscaremos seguir avanzando lo más rápido posible para innovar frente a esta amenaza.
Este trabajo será fundamental en nuestro esfuerzo ampliado por combatir la manipulación de imágenes, videos y audios, incluyendo DeepFakes. También, esperamos nos ayude a combatir de forma más eficaz a los grupos organizados que intentan engañar a nuestros sistemas, como hemos visto después del ataque a Christchurch.
Estas son cuestiones sumamente complejas y nos encontramos trabajando en un entorno en constante cambio. Solo si nos mantenemos atentos y trabajando con expertos, otras empresas, gobiernos y la sociedad civil en general alrededor del mundo, podremos mantener a las personas seguras. Estamos ansiosos de continuar este trabajo juntos.