Trump y Xi acuerdan mantener control humano en IA militar

Trump y Xi acuerdan mantener control humano en IA militar

Donald Trump y Xi Jinping alcanzaron un importante acuerdo durante su cumbre bilateral en Shenzhen para garantizar que los seres humanos mantengan el control sobre las decisiones militares más críticas. El entendimiento entre Estados Unidos y China busca evitar que los sistemas de inteligencia artificial puedan iniciar por sí solos grandes operaciones militares, reduciendo así el riesgo de conflictos desencadenados por errores algorítmicos. El secretario del Tesoro estadounidense, Scott Bessent, presentó este pacto como uno de los principales logros de la visita de Trump a China.

El acuerdo surge tras un incidente alarmante ocurrido durante la pasada primavera en el contexto de la guerra en Irán. Un analista de las fuerzas especiales estadounidenses utilizó un chatbot para elaborar un informe de inteligencia que identificó incorrectamente la carga de un buque chino, sugiriendo falsamente que transportaba componentes para un programa nuclear. Los aviones militares estadounidenses ya estaban en el aire y soldados se preparaban para interceptar la embarcación cuando funcionarios decidieron revisar la información y descubrieron el error de la IA. La operación fue cancelada a tiempo, evitando lo que pudo haber sido un conflicto militar mayor.

Bajo el nuevo entendimiento, la inteligencia artificial podrá continuar asistiendo a los ejércitos en funciones específicas como identificar amenazas, analizar grandes volúmenes de información y recomendar cursos de acción. Sin embargo, todas las decisiones militares estratégicas y de mayor envergadura deberán ser aprobadas y ejecutadas exclusivamente por autoridades humanas. Esta limitación refleja la preocupación compartida de ambas superpotencias sobre los riesgos de que un algoritmo malinterprete señales, confunda maniobras militares con ataques reales o genere una escalada no deseada.

Aunque representa un hito importante en las relaciones entre Estados Unidos y China, el pacto tiene actualmente mayor valor político que jurídico. No se ha anunciado ningún tratado vinculante formal que establezca consecuencias legales para su incumplimiento. El acuerdo, sin embargo, demuestra la voluntad de ambas potencias de establecer límites claros en el uso de tecnología militar autónoma, reconociendo que la carrera global por desarrollar armas cada vez más autónomas requiere guardarraíles que protejan contra decisiones catastróficas.

Fuente: El Mundo — Ver nota original

Related Articles

Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore et dolore