Google desarrolla una herramienta gratuita de moderación del terrorismo para sitios web más pequeños

Google está desarrollando una herramienta de moderación gratuita para ayudar a los sitios web más pequeños a identificar y eliminar material terrorista, ya que las nuevas leyes en el Reino Unido y la UE obligan a las empresas de Internet a hacer más para detener el contenido ilegal. El software se está desarrollando en asociación con la unidad de investigación y desarrollo del gigante de las búsquedas, Jigsaw and Tech Against Terrorism, una iniciativa respaldada por las Naciones Unidas que ayuda a las empresas tecnológicas a monitorear el terrorismo en línea. “Hay muchos sitios que simplemente no tienen personas que hagan cumplir las leyes. Es realmente laborioso crear los algoritmos en primer lugar. [and] entonces necesitas todos estos revisores humanos”, dijo Yasmin Green, directora general de Jigsaw. «[Smaller websites] No quiero ningún contenido de Isis allí, pero hay mucho en todas partes. [them]», agregó. La medida se produce cuando las empresas de Internet se verán obligadas a eliminar el contenido extremista de sus plataformas o enfrentar multas y otras sanciones en virtud de leyes como la Ley de Servicios Digitales de la UE, que entró en vigor en noviembre, y la Ley de Seguridad en Línea de Gran Bretaña es Se espera que se convierta en ley a finales de este año. La legislación ha sido impulsada por políticos y reguladores de toda Europa que argumentan que los grandes grupos tecnológicos no han ido lo suficientemente lejos para vigilar el contenido en línea, sin embargo, ha generado preocupaciones de que las nuevas empresas más pequeñas no están equipadas para cumplir y que un la falta de recursos limitará su capacidad para competir con empresas tecnológicas más grandes [leading] Las plataformas se están volviendo mucho más efectivas en la moderación, y esto está impulsando el contenido terrorista y las afirmaciones falsas de COVID. [other sites]’, agregó Verde. Un informe de 2021 del Foro Global de Internet para Contrarrestar el Terrorismo estimó que de cada 10 000 publicaciones en Facebook, seis tendrían contenido terrorista o extremista. En plataformas más pequeñas, ese número puede llegar a 5000, o el 50 por ciento del contenido. GIFCT, una organización no gubernamental fundada en 2017 por Facebook, Microsoft, Twitter y YouTube para promover asociaciones entre muchas plataformas tecnológicas, apoya el proyecto de Jigsaw. La ONG tiene una base de datos de contenido terrorista compartida por los miembros de su compañía de tecnología, que los sistemas de moderación pueden usar para identificar los materiales existentes. El 13 de diciembre, Meta, el propietario de Facebook e Instagram, lanzó un software de código abierto que otras plataformas pueden usar para unir contenido de terror con imágenes o videos existentes en la base de datos y resaltarlo para verificación humana urgente. La herramienta de Jigsaw tiene como objetivo dar el siguiente paso en el proceso y ayudar a los moderadores humanos a tomar decisiones sobre el contenido marcado como peligroso e ilegal. Comenzará a probarse en dos ubicaciones sin nombre a principios de este año. «Según nuestra experiencia, los terroristas buscan explotar plataformas más pequeñas donde la moderación del contenido es un desafío debido a los recursos limitados», dijo Adam Hadley, director de Tech Against Terrorism. Jigsaw tiene alrededor de 70 empleados, la mayoría en las oficinas de Google en Nueva York. Green, quien se convirtió en director ejecutivo en julio, dijo que no se espera que la división que genera pérdidas se vuelva rentable. «Existe un consenso de que el acuerdo valdrá la pena a largo plazo… Google necesita una Internet más saludable», agregó Green. «Ayudamos a Google y a la web de maneras que agregan valor, incluso si no se trata de dinero». © 2023 The Financial Times Ltd. Reservados todos los derechos. No se puede redistribuir, copiar o modificar de ninguna manera.