Meta da una nueva mirada a sus esfuerzos en evolución para contrarrestar los esfuerzos de manipulación masiva.

Meta ha publicado una nueva descripción general de sus esfuerzos en evolución para contrarrestar la manipulación coordinada de la influencia en sus aplicaciones, que se convirtió en un tema fundamental después de las elecciones presidenciales de EE. UU. de 2016, que revelaron que agentes con sede en Rusia estaban usando Facebook para influir en los votantes de EE. UU. fue . Desde entonces, Meta dice que ha descubierto y eliminado más de 200 operaciones encubiertas de influencers, al mismo tiempo que comparte información sobre el comportamiento de cada red con otros en la industria para que todos puedan aprender de los mismos datos y desarrollar mejores enfoques para combatirlos. Según Meta, «ya sea que provengan de estados-nación, corporaciones comerciales o grupos no alineados, compartir esta información ha permitido a nuestros equipos, periodistas de investigación, funcionarios gubernamentales y colegas de la industria comprender y descubrir mejor los riesgos de seguridad en Internet, incluso antes de elecciones críticas.» Meta dice que ha encontrado operaciones que afectan a más de 100 naciones diferentes, siendo Estados Unidos el país más afectado, seguido por Ucrania y Gran Bretaña.

Esto probablemente indica la influencia que tiene EE. UU. en la política global, mientras que también podría relacionarse con la popularidad de las redes sociales en estas regiones, lo que las convierte en un vector de influencia más grande. En cuanto a los orígenes de estos grupos, las tres fuentes geográficas más prolíficas de actividad CIB fueron Rusia, Irán y México.

Rusia, como se señaló, es el hogar más frecuente de este tipo de operaciones, aunque Meta también señala que, si bien muchas operaciones rusas se han dirigido a los EE. influir en el sentimiento político. Meta también señala que con el tiempo, más y más de este tipo de operaciones en realidad se dirigieron a su propio país en lugar de a una entidad extranjera. “Por ejemplo, hemos informado sobre varias agencias gubernamentales que atacan a su propia gente en Malasia, Nicaragua, Tailandia y Uganda. De hecho, dos tercios de las operaciones que hemos detenido desde 2017 se han centrado total o parcialmente en el público doméstico”.

Con respecto al desarrollo de estas operaciones, Meta señala que los grupos CIB están recurriendo cada vez más a imágenes generadas por IA, por ejemplo, para ofuscar sus actividades. “Desde 2019, ha habido un rápido aumento en la cantidad de redes que utilizan fotos de perfil creadas con técnicas de inteligencia artificial como Generative Adversarial Networks (GAN). Esta tecnología está disponible en la web y permite que cualquier persona, incluidos los actores de amenazas, cree una foto única. Más de dos tercios de todas las redes CIB que interrumpimos este año contenían cuentas que probablemente tenían imágenes de perfil generadas por GAN, lo que sugiere que los actores de amenazas pueden ver esto como una forma de hacer que sus cuentas falsas se vean más auténticas y originales, para evadir la detección por parte de los usuarios abiertos. investigadores de fuentes, que pueden depender de búsquedas de imágenes inversas para identificar fotos de perfil de fotos de archivo”. Esto es interesante, especialmente dado el aumento constante de la tecnología de generación de inteligencia artificial, que va desde imágenes fijas hasta videos, texto y más. Si bien estos sistemas tienen usos valiosos, también existen peligros y daños potenciales, y es interesante considerar cómo se pueden usar tales tecnologías para disfrazar actividades no auténticas. El informe brinda información valiosa sobre la escala del problema y cómo Meta está trabajando para abordar las tácticas en constante evolución de los estafadores y las operaciones de manipulación en línea. Y no se detendrán, razón por la cual Meta ha pedido más regulación y acción continua por parte de los grupos de la industria. Meta también actualiza sus propias políticas y procesos de acuerdo con estos requisitos, incluidas funciones de seguridad actualizadas y opciones de soporte. Esto también incluye una mayor capacidad de chat en vivo: “Si bien nuestras herramientas de recuperación de cuentas escaladas tienen como objetivo brindar soporte a la mayoría de los problemas de acceso a las cuentas, sabemos que hay grupos de personas que podrían beneficiarse de un soporte adicional impulsado por humanos. Este año hemos desarrollado cuidadosamente una pequeña prueba de una función de soporte de chat en vivo en Facebook y estamos comenzando a ver resultados positivos. Por ejemplo, en octubre ofrecimos nuestra opción de soporte de chat en vivo a más de un millón de personas en nueve países, y planeamos expandir esta prueba a más de 30 países en todo el mundo». Meta sabe que poner a alguien en la línea para ayudar puede ser una tarea casi imposible. Es difícil escalar esto, especialmente cuando atiende a casi 3 mil millones de usuarios, pero Meta ahora está trabajando para proporcionar más funciones de soporte para proteger mejor a las personas y ayudarlas a evitar daños en línea. Es una batalla sin fin, y con la capacidad de llegar a tanta gente, puede esperar que los malos actores continúen apuntando a las meta aplicaciones para difundir sus mensajes. Como tal, vale la pena señalar cómo Meta está refinando su enfoque, al mismo tiempo que se observa la cantidad de trabajo realizado en estos elementos hasta la fecha. Puede leer el informe completo de Meta sobre la aplicación de un comportamiento inauténtico coordinado para 2022 aquí.