Los algoritmos gobiernan silenciosamente la ciudad de DC, y tal vez también su ciudad natal


Dmitry Marchenko/Getty Images Washington, DC es la base de operaciones del gobierno más poderoso del mundo. También alberga a 690.000 personas y 29 algoritmos oscuros que dan forma a sus vidas. Los funcionarios de la ciudad utilizan la automatización para evaluar a los solicitantes de vivienda, predecir la reincidencia, detectar el fraude de ayuda alimentaria, determinar si es probable que un estudiante de secundaria abandone la escuela, tomar decisiones de sentencia para los jóvenes y más. Esta instantánea de la vida urbana semiautomatizada proviene de un nuevo informe del Centro de información de privacidad electrónica (EPIC). La organización sin fines de lucro pasó 14 meses investigando el uso de algoritmos en la ciudad y descubrió que se usaban en 20 agencias, más de un tercio de los cuales se usaban en la policía o el sistema de justicia penal. Con muchos sistemas, los funcionarios de la ciudad no proporcionaron detalles completos de cómo funcionaba o se usaba su tecnología. El equipo del proyecto concluyó que es probable que la ciudad utilice más algoritmos que no pudieron descubrir. anuncio publicitario


Los hallazgos son notables más allá de DC, ya que se suman a la evidencia de que muchas ciudades han implementado silenciosamente algoritmos burocráticos en sus departamentos, donde pueden contribuir a las decisiones que afectan la vida de los ciudadanos. Las agencias gubernamentales a menudo recurren a la automatización con la esperanza de hacer que los procesos burocráticos sean más eficientes o más objetivos, pero a menudo es difícil para los ciudadanos saber que están trabajando y algunos sistemas han demostrado ser discriminatorios, lo que lleva a decisiones que arruinan la vida de las personas. En Michigan, un algoritmo de detección de fraude por desempleo generó 40 000 acusaciones falsas de fraude con una tasa de error del 93 por ciento. Un análisis de 2020 realizado por la Universidad de Stanford y la Universidad de Nueva York encontró que casi la mitad de las agencias federales utilizan algún tipo de sistema automatizado de toma de decisiones. EPIC profundizó en el uso de algoritmos en una ciudad para dar una idea de las muchas formas en que pueden afectar la vida de los ciudadanos y alentar a las personas en otros lugares a realizar ejercicios similares. Ben Winters, quien dirige el trabajo de la organización sin fines de lucro sobre inteligencia artificial y derechos humanos, dice que Washington fue elegido en parte porque aproximadamente la mitad de los residentes de la ciudad se identifican como negros.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.