A continuación, compartimos el resumen del documento «Desafíos de los sistemas de armas autónomas y formas de abordarlos: una perspectiva desde la academia y la sociedad civil latinoamericana”, que incluye nuestra respuesta a la invitación formulada por la Oficina para Asuntos de Desarme de las Naciones Unidas, que convocó a los Estados, organismos internacionales y regionales, la CICR, la sociedad civil y la academia, entre otros, para proporcionar al Secretario General sus opiniones y perspectivas sobre las “formas de abordar las dificultades y preocupaciones que surgen de los sistemas de armas letales autónomas desde las perspectivas humanitarias, legales, de seguridad, tecnológicas, éticas y sobre el papel humano en el uso de la fuerza.
Este documento -al que puede acceder al final de la página o en este enlace– ha sido el resultado de un trabajo colectivo entre expertas y expertos miembros de ECPAT Guatemala (María Eugenia Villarreal); Perú por el Desarme (Gisela Luján); Red de Investigación Feminista en Inteligencia Artificial – Capítulo América Latina (Paola Ricaurte, México/Ecuador, Mariana Díaz y Wanda Muñoz (México); Anderson Henao (Colombia), Jesús Martínez (El Salvador), expertos en derechos de personas con discapacidad y derecho internacional humanitario.
RESUMEN
El propósito fundamental de este texto es enriquecer las reflexiones tanto a nivel nacional como internacional respecto a los desafíos inherentes a los sistemas de armas autónomas, subrayando la necesidad urgente de iniciar negociaciones para establecer un marco legal vinculante en un foro verdaderamente inclusivo y representativo.
Dos secciones son las que conforman nuestro informe: 1) Dificultades y preocupaciones respecto a los sistemas de armas autónomas desde perspectivas humanitarias, legales y éticas; y 2) Formas de abordar dichos desafíos. A continuación, presentamos algunos de los puntos desarrollados.
1. Dificultades y preocupaciones de los sistemas de armas autónomas
1.1. Las armas autónomas tendrían un impacto desproporcionado en grupos y poblaciones con identidades y características marginadas, en particular mujeres, personas afrodescendientes/racializadas, pueblos indígenas/originarios, infancias y personas con discapacidad, entre otros.
- En el ámbito civil, abundan ejemplos que demuestran que las tecnologías emergentes no solo plantean riesgos, sino que ya han ocasionado daños a los derechos humanos.
- La utilización de dichas tecnologías en armamento probablemente generaría daños desproporcionados en estas poblaciones
- Comprender las dificultades y el impacto negativo diferenciado de los sistemas de inteligencia artificial existentes es crucial para analizar los sistemas de armas autónomas, porque estos son los tipos de problemas que podrían reproducirse con el uso de IA y de tecnologías emergentes en el sector militar. – Asimismo, es importante considerar el riesgo de transferencia de tecnología autónoma a las fuerzas del orden, lo que podría contribuir al perfilamiento racial en prácticas de vigilancia, e incluso a la represión policial.
1.2 Las armas autónomas incrementarían las barreras del acceso a la justicia y a reparaciones para las víctimas de violaciones a derechos humanos y del Derecho Internacional Humanitario.
- Las características de los sistemas de armas autónomas —incluidas las relacionadas con la falta de predictibilidad e inteligibilidad de las tecnologías emergentes y de las aplicaciones de inteligencia artificial entre otras— dificultarían aún más la imputabilidad, los recursos, las reparaciones y, más en general, el acceso a la justicia para las personas con discapacidad, uno de los grupos más afectados en un conflicto, y de los que más dificultades tienen para obtener justicia.
- La guerra remota ya tiene un impacto desproporcionado en algunos grupos. No saber cuándo o donde puede ocurrir un ataque ni quien pueda ser el objetivo está afectando de forma distinta a grupos diferentes, y esos efectos se agravan en personas con una combinación de identidades y características marginadas.
1.3 La autonomía en sistemas de armas se incrementa y ya está siendo utilizada: el caso de Israel en Gaza.
- Las tecnologías emergentes ya están teniendo un impacto específico, negativo y diferenciado en las zonas de conflicto. Asimismo, la autonomía en la toma de decisiones sobre selección de objetivos y si atacarlos o no va en aumento.
- El caso más reciente y flagrante sucede en el contexto de la destrucción de Gaza por parte de Israel (retomando los términos de la Relatora Especial sobre la situación de los derechos humanos en los territorios ocupados palestinos desde 1967, Francesca Albanese).
- Durante los primeros meses de la campaña, el ejército israelí usó 25,000 toneladas de explosivos (equivalentes a dos bombas nucleares) en innumerables edificios, muchos de los cuales fueron identificados usando inteligencia artificial. Asimismo, el uso de tecnología impulsada con IA por parte del gobierno israelí ha conducido a ataques contra 11,000 objetivos en Gaza desde el inicio del conflicto más reciente el 7 de octubre de 2023.
- Dos ejemplos altamente preocupantes: Los sistemas Habsora (o “Evangelio” en español) y Lavender, que hacen uso de la IA y la automatización para identificar y generar objetivos masivamente.
2. Formas de atender los desafíos y preocupaciones de los sistemas de armas autónomas.
2.1 El Derecho Internacional Humanitario y de los Derechos Humanos es aplicable a los sistemas de armas autónomas y se requiere un instrumento legalmente vinculante específico sobre estas armas.
- Sin embargo, hasta ahora no existe marco internacional legalmente vinculante específico a tales sistemas que garantice el control humano significativo en el uso de la fuerza.
- Esto es un vacío legal grave por dos razones: a. No hay manera de prevenir y exigir rendición de cuentas sobre el desarrollo y la utilización de las armas con funciones de autonomía en las funciones críticas de identificación de objetivos y decisión de ataque; b. Dificulta a las víctimas (personas afectadas, sus familias y comunidades) exigir rendición de cuentas, garantías de no repetición y reparación del daño.
- Desde nuestra perspectiva, la única vía creíble para abordar la autonomía en los sistemas de armas es mediante la adopción de un nuevo instrumento legalmente vinculante. Su propósito primordial sería regular la autonomía en los sistemas de armas conforme al Derecho Internacional de los Derechos Humanos, el Derecho Internacional Humanitario y el Derecho Penal Internacional.
2.2 Características del instrumento legalmente vinculante que se requiere para responder a los desafíos de los sistemas de armas autónomos.
- Un instrumento legalmente vinculante sobre armas autónomas debe incluir prohibiciones y regulaciones claras, tener como objetivo el mantenimiento del control humano significativo de la fuerza, e incluir medidas efectivas de implementación, monitoreo y rendición de cuentas.
- Esta normativa debe prohibir aquellos sistemas de armas que: a) delegarían a funciones autónomas la selección de objetivos y la decisión de si atacarlos o no; b) se dirigirían a seres humanos y a infraestructuras de carácter civil; c) perfilarían humanos como objetivos.
- Las regulaciones deben referirse a la autonomía en otras funciones.
- Dicho instrumento debe reconocer el impacto diferenciado y desproporcionado que estas armas tendrían entre diferentes grupos poblacionales.
- Asimismo, debe considerar el impacto que causarían estas armas en el medio ambiente, en particular aquellos daños extensos, duraderos, graves e irreversibles.
2.3 Características del foro donde debe negociarse dicho instrumento.
- La Resolucion A/C.1/78/L.56 de la Asamblea General de Naciones Unidas (AGNU) es una muestra clara de la opinión mayoritaria – de 146 Estados- sobre la “necesidad urgente de que la comunidad internacional aborde las dificultades y preocupaciones que plantean los sistemas de armas autónomos”.
- Esta voz mayoritaria solo pudo hacerse notar en un espacio democrático y participativo como el de la AGNU.
- Esto sin embargo no ha sido posible en la CCAC, donde desde hace más de una década se trata el tema de armas autónomas, pues en ese foro se utiliza el poder del veto.
- Es necesario llevar las deliberaciones sobre los sistemas de armas autónomas a otros foros, en particular la AGNU, cuyas reglas facilitan la participación más igualitaria de un mayor número de países.
- Recientes reuniones regionales (Costa Rica, Filipinas, Sierra Leona) demuestran que los avances son posibles en foros incluyentes y lo importante que es crear espacios que realmente permitan, reflejen y valoren la diversidad de perspectivas.
- De otro lado, es fundamental que en todos los foros sobre armas autónomas se tomen medidas específicas para garantizar la participación significativa, libre e informada de la sociedad civil en su diversidad, y en particular de las organizaciones representativas de grupos marginados.
- Es necesario trabajar por la inclusión de temas militares y de defensa en el trabajo de la ONU sobre inteligencia artificial y otras tecnologías, y en el marco de otras Convenciones de Derechos Humanos y organismos regionales.
Ideas finales:
- Permitir que siga pasando el tiempo sin iniciarse las negociaciones de un instrumento legalmente vinculante sobre los sistemas de armas autónomas, que garantice el control humano en el uso significativo de la fuerza, y prohíba aquellos sistemas que ataquen a seres humanos, solo beneficia a quienes desde la industria militar o los países altamente militarizados continúan desarrollando, testeando y utilizando tales tecnologías, sin ningún marco regulatorio.
- Consideramos inaceptable que una minoría de países bloquee el inicio de tales negociaciones, lo que está ya afectando negativamente a quienes enfrentan las consecuencias del incremento de la autonomía en dichas armas, como ocurre actualmente en Gaza.