El acuerdo limitaría el uso de la IA en armas nucleares y drones.

El presidente Biden está dispuesto a llegar a un acuerdo con China que limitaría el uso de inteligencia artificial en armas nucleares.

Biden se reunirá con el presidente chino Xi Jinping el miércoles en la cumbre de Cooperación Económica Asia-Pacífico (APEC) en San Francisco, donde se espera que los dos líderes también firmen un acuerdo para limitar el uso de la IA en aplicaciones militares, según un informe de Business Insider.

Según el informe, Biden y Xi acordarán limitar el uso de la IA en los sistemas que controlan y despliegan armas nucleares, así como el uso de la tecnología en sistemas de armas autónomos como los drones.

El acuerdo se produce en un momento en que los dos países se han encontrado frecuentemente en desacuerdo, con tensiones que continúan aumentando por cuestiones que incluyen las actividades de espionaje de China en Estados Unidos y su continuo fortalecimiento militar en el Mar de China Meridional. Pero el acuerdo llega al mismo tiempo que muchos han advertido sobre las crecientes implicaciones de permitir el uso ilimitado de la IA en combate, una nueva realidad que ha generado crecientes preocupaciones éticas.

Phil Siegel, fundador del Centro de Preparación Avanzada y Simulación de Respuesta a Amenazas (CAPTRS), dijo que tal acuerdo es "necesario", aunque argumentó que otras potencias importantes como Rusia también deberían participar en el pacto. .

"Predigo que llegarán a un acuerdo sobre armas autónomas impulsadas por IA en el campo de batalla que debería ser sólo para reconocimiento y no para luchar; de lo contrario, el mundo se convertirá en un lugar muy peligroso", dijo Siegel. "Creo que hay más por venir y es necesario evitar que caigamos en una guerra continua".

Pero Christopher Alexander, director de análisis de Pioneer Development Group, cuestionó la necesidad de un acuerdo de este tipo y señaló que Estados Unidos estaría renunciando a una ventaja estratégica que actualmente tiene sobre China.

"Esta es una decisión increíblemente mala", dijo Alexander. "Para empezar, China va a la zaga de Estados Unidos en capacidades de IA, por lo que la administración Biden acaba de ceder una ventaja estratégica. Además, la IA ayuda a reducir el estrés para mejorar la toma de decisiones, lo cual es crucial para prevenir una mala decisión de liberar armas nucleares".

Tanto China como Estados Unidos se han apresurado a integrar el uso de la IA en el ejército a medida que la tecnología continúa avanzando rápidamente, allanando el camino para aplicaciones que serían útiles en combate. Pero ambos países también aparentemente se han dado cuenta del peligro que implica permitir el uso ilimitado de la IA, ya que ambas partes firmaron un acuerdo a principios de este año que respaldaba el uso responsable de la IA en el ejército.

Pero Samuel Mangold-Lenett, editor de The Federalist, cuestionó si se podía confiar en que China cumpliera con tal acuerdo, señalando la falta de adhesión del país al Acuerdo Climático de París.

"Es una tontería creer que China cumplirá cualquier acuerdo que limite el uso de la IA en armas nucleares. Mire el Acuerdo Climático de París: a pesar de aceptar reducir las emisiones de carbono, China siguió siendo uno de los peores contaminadores del mundo. De manera similar, no tiene en cuenta por los derechos humanos o la propiedad intelectual", dijo Mangold-Lenett.

"El liderazgo chino no tiene en cuenta los acuerdos que podrían frenar su búsqueda de desestabilizar el orden mundial y desplazar a Estados Unidos como potencia hegemónica. Estados Unidos debe continuar desarrollando sistemas de inteligencia artificial que garanticen la seguridad nacional y promuevan nuestros intereses; nuestros enemigos seguramente harán lo mismo. "