Desde cámaras que identifican los rostros de los transeúntes hasta algoritmos que controlan la opinión pública en línea, las herramientas impulsadas por inteligencia artificial (IA) están abriendo nuevas fronteras en la vigilancia estatal en todo el mundo. Las organizaciones encargadas de hacer cumplir la ley, la seguridad nacional, la justicia penal y la gestión de fronteras en todas las regiones confían en estas tecnologías, que utilizan el reconocimiento de patrones estadísticos, el aprendizaje automático y el análisis de big data, para monitorear a los ciudadanos.
¿Cuáles son las implicaciones de gobernanza de estas capacidades de vigilancia mejoradas?
Este informe explora el desafío de salvaguardar los principios y procesos democráticos a medida que las tecnologías de IA permiten a los gobiernos recopilar, procesar e integrar cantidades sin precedentes de datos sobre las actividades en línea y fuera de línea de los ciudadanos individuales. Tres ensayos complementarios examinan la difusión de los sistemas de vigilancia de IA, su impacto y la lucha transnacional para erigir barandillas que defiendan los valores democráticos.
En el ensayo principal, Steven Feldstein , miembro principal de Carnegie Endowment for International Peace, evalúa la difusión global de las herramientas de vigilancia de IA y los esfuerzos en curso a nivel local, nacional y multilateral para establecer reglas para su diseño, implementación y uso. . Presta especial atención a la dinámica en democracias jóvenes o frágiles y regímenes híbridos, donde los controles sobre los poderes de vigilancia pueden debilitarse pero la sociedad civil todavía tiene espacio para investigar y cuestionar los despliegues de vigilancia.
Dos estudios de caso brindan descripciones más granulares de cómo la sociedad civil puede influir en este proceso de formación de normas: en el primero, Eduardo Ferreyra de la Asociación por los Derechos Civiles de Argentina analiza estrategias para superar los obstáculos comunes a la investigación y el debate sobre los sistemas de vigilancia. En el segundo, Danilo Krivokapic de la Fundación SHARE de Serbia describe cómo su organización atrajo la atención nacional y mundial sobre el despliegue de cámaras inteligentes de Huawei en Belgrado .
La publicación de este informe marca el lanzamiento de la serie «Making Tech Transparent» del Foro Internacional de Estudios Democráticos, que se centra en la elaboración de procesos transparentes y participativos en torno al uso de tecnologías emergentes en la política y la gobernanza.
Sobre la base de una secuencia de talleres intersectoriales e interregionales, esta serie analiza iniciativas como ciudades inteligentes, herramientas de vigilancia biométrica y sistemas algorítmicos de toma de decisiones en un contexto global. Los colaboradores abordarán tanto las implicaciones para la democracia de las nuevas tecnologías como los vectores para la participación de la sociedad civil en su diseño, implementación y operación.
Este informe fue editado por Beth Kerley, oficial de programa en el Foro Internacional de Estudios Democráticos que se enfoca en tecnología emergente y democracia.