Armas autónomas: La ONU teme que las máquinas pronto decidan quién muere.

El secretario general de las Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric, instan a los Estados a regular urgentemente los sistemas de armas autónomas. Estos dispositivos, una vez activados, pueden seleccionar un objetivo y usar la fuerza sin intervención humana. Según ambos funcionarios, el mundo se acerca peligrosamente a una "línea roja moral" que se cruzaría si una máquina pudiera decidir por sí sola atacar a un ser humano.

La ONU y el CICR ya habían emitido una advertencia similar en 2023, sin lograr la adopción de normas internacionales vinculantes. Desde entonces, los rápidos avances en inteligencia artificial, robótica y tecnologías militares han ampliado aún más la brecha entre las capacidades disponibles y las normas jurídicas. Su declaración conjunta advierte específicamente sobre los riesgos adicionales para la población civil y la infraestructura crítica.

Se exige un tratado internacional antes de que sea demasiado tarde.

Las dos organizaciones no piden la prohibición de todas las tecnologías militares automatizadas. Exigen un instrumento jurídicamente vinculante con prohibiciones específicas y restricciones estrictas. Deberían prohibirse los sistemas diseñados para atacar directamente a individuos sin control humano, mientras que otras armas autónomas seguirían sujetas a limitaciones que garanticen el respeto del derecho internacional humanitario.

Las conversaciones iniciadas hace varios años en Ginebra avanzan lentamente, a pesar de las cuantiosas inversiones que los Estados realizan en estas tecnologías. La conferencia de revisión de la Convención sobre Ciertas Armas Convencionales, prevista para noviembre de 2026, podría allanar el camino para negociaciones reales. Para la ONU y el CICR, esperar a la adopción generalizada de estos sistemas dificultaría enormemente su control y supondría el riesgo de delegar decisiones de vida o muerte a algoritmos, decisiones de las que ningún ser humano asumiría la plena responsabilidad.