Meta comienza la implementación en vivo del sistema VRS para mitigar el sesgo no deseado en la exposición de anuncios

Después de desarrollar el sistema en asociación con el Departamento de Justicia durante más de un año, Meta ahora ha lanzado la primera fase de entrega en vivo para su Sistema de Reducción de Varianza (VRS) para anuncios de vivienda, diseñado para reducir el sesgo y promover la justicia, aumentar la distribución de anuncios. a través de las aplicaciones de Meta. Como se explica en esta descripción general, el sistema VRS de Meta mide el alcance real de la audiencia para cada anuncio y garantiza una mayor difusión de la exposición en función de varios factores de la audiencia. Como explicó Meta, “el VRS utiliza una nueva tecnología de aprendizaje automático en la publicación de anuncios para que la audiencia real que ve un anuncio refleje mejor la audiencia adecuada para ese anuncio. Una vez que el anuncio se ha mostrado a un grupo suficientemente grande de personas, VRS mide la demografía agregada de aquellos que vieron el anuncio para comprender cómo esa audiencia se compara con la demografía de la audiencia elegible elegida por el anunciante». no están restringidos a grupos étnicos o socioeconómicos específicos a través del proceso de IA de orientación de anuncios de Meta al medir la exposición general de los anuncios y compararlos con los datos de audiencia basados ​​en las estadísticas del censo de EE. UU. sobre raza y etnia. «Este método viene con mejoras de privacidad adicionales, incluida la privacidad diferencial, una técnica que puede ayudar a proteger contra la reidentificación de personas en conjuntos de datos agregados». el potencial de descalificación basado en los miles de factores de orientación disponibles en la aplicación. Meta ha sido objeto de un intenso escrutinio en el pasado por su orientación variable de anuncios. En 2017, una investigación de ProPublica descubrió que los anunciantes podían crear anuncios de Facebook que excluían a las personas en función de factores sensibles: restricciones prohibidas por las leyes federales de vivienda y empleo. Luego, en 2019, como se menciona en el video anterior, Meta eliminó varias opciones de orientación de anuncios para anuncios de vivienda, trabajo y préstamos. El proceso VRS es la siguiente etapa de su trabajo continuo en este frente. Y si bien sus sistemas generales de orientación de anuncios también se han visto afectados por la recopilación de datos y el seguimiento de cambios, las nuevas medidas brindarán más garantías de que sus anuncios no facilitan la creación de perfiles indirectos de grupos específicos al expandir la exposición a todos los segmentos de audiencia. Garantizar la equidad en la IA es un área compleja, especialmente si se tiene en cuenta que la mayoría de las entradas utilizadas para respaldar los modelos de IA a menudo ya contienen cierto grado de sesgo implícito. Cada plataforma trabaja para mitigar esto y crear nuevos pesos para filtrar los efectos inconscientes y no deseados. Sin embargo, medir la causa y el efecto de cada actualización llevará tiempo, ya que Meta ahora está monitoreando la primera fase de esta implementación y recopilando comentarios sobre el rendimiento para actualizar sus modelos VRS. Hay mucho detrás de esto: puede leer más sobre las consideraciones técnicas en este documento técnico, que describe cómo funciona el sistema VRS y los diversos elementos que intenta equilibrar. «El área de equidad en el aprendizaje automático es un área dinámica y en evolución, y los cambios descritos en este documento representan varios años de progreso en consulta con una amplia gama de partes interesadas. Gran parte de este trabajo no tiene precedentes en la industria de la publicidad y representa uno significativo avances tecnológicos para el uso responsable del aprendizaje automático para entregar anuncios personalizados. Estamos entusiasmados de ser pioneros en este esfuerzo, y esperamos que al compartir contexto importante y detalles sobre cómo estamos resolviendo este desafío multidimensional, otros AI y Los profesionales de la publicidad digital beneficiarán a otros profesionales de la IA y la publicidad digital, adoptarán más fácilmente y tomarán medidas similares para prevenir la discriminación y evitar reforzar los prejuicios sociales, cuyo impacto se extiende mucho más allá de una sola plataforma». Meta dice que la fase inicial de implementación de VRS se centrará en los anuncios de vivienda de los EE. UU., seguidos de los anuncios de préstamos y anuncios de trabajo.