Las dos potencias discutirán posibles mecanismos de cooperación frente a ciberataques dirigidos por IA, modelos avanzados fuera de control y otros riesgos tecnológicos. La reunión está prevista provisionalmente para mediados de septiembre.

Estados Unidos y China preparan una ronda de conversaciones centrada específicamente en la seguridad de la inteligencia artificial, en un intento por establecer mecanismos mínimos de cooperación entre las dos principales potencias tecnológicas del mundo.

El encuentro está previsto provisionalmente para mediados de septiembre, aunque la fecha, la sede y la composición definitiva de las delegaciones todavía no han sido anunciadas oficialmente.

La representación estadounidense estaría encabezada por el secretario del Tesoro, Scott Bessent. Por parte de China podrían participar el viceprimer ministro He Lifeng o el integrante del Politburó Ding Xuexiang, según personas informadas sobre los preparativos.

Las conversaciones serían el primer diálogo bilateral dedicado exclusivamente a la inteligencia artificial desde el regreso de Donald Trump a la Presidencia de Estados Unidos.

Riesgo de ciberataques automatizados

Uno de los principales temas será la posibilidad de que sistemas avanzados de IA sean utilizados para identificar vulnerabilidades, desarrollar programas maliciosos y ejecutar ciberataques con un nivel creciente de autonomía.

Las delegaciones también discutirán cómo responder ante modelos que presenten comportamientos inesperados, intenten evadir los controles establecidos por sus desarrolladores o sean empleados para atacar infraestructuras estratégicas.

Estados Unidos busca promover una mayor comunicación entre los laboratorios de inteligencia artificial de ambos países. La propuesta incluiría sistemas de vigilancia interna, intercambio de información sobre incidentes y notificación de fallos capaces de representar un peligro internacional.

El objetivo inicial no sería crear una regulación común, sino establecer canales de emergencia que permitan informar rápidamente sobre comportamientos peligrosos o usos maliciosos de los modelos más avanzados.

Un mecanismo similar a los canales utilizados para reducir riesgos militares podría resultar especialmente importante si una inteligencia artificial participa en un ataque sin que quede inmediatamente claro quién ordenó la operación o desde qué país se originó.

Cooperación en medio de la rivalidad

El diálogo se produce mientras Estados Unidos y China compiten por el liderazgo en semiconductores, centros de datos, modelos generativos y aplicaciones militares de la inteligencia artificial.

La administración estadounidense mantiene restricciones sobre la exportación de procesadores avanzados y equipos utilizados para fabricar chips. Pekín considera que esas medidas buscan contener su desarrollo tecnológico, mientras la Casa Blanca sostiene que son necesarias para impedir que componentes estadounidenses fortalezcan las capacidades militares chinas.

Las tensiones también alcanzan a las empresas desarrolladoras de modelos. Compañías estadounidenses han acusado a competidores chinos de utilizar sus sistemas para entrenar modelos propios mediante técnicas de extracción de conocimiento. Las empresas señaladas han rechazado o cuestionado esas acusaciones.

Estas disputas dificultan cualquier acuerdo amplio. Sin embargo, funcionarios y especialistas de ambos países consideran que existen riesgos de la inteligencia artificial que podrían afectar a todas las naciones, independientemente de quién controle la tecnología.

Antecedentes limitados

Estados Unidos y China ya habían mantenido conversaciones técnicas sobre inteligencia artificial durante la administración de Joe Biden. En 2024, representantes de ambos países se reunieron en Ginebra para discutir los riesgos de los sistemas avanzados.

Posteriormente, los presidentes de ambas naciones coincidieron en que las decisiones relacionadas con el uso de armas nucleares deben permanecer bajo control humano y no ser delegadas a una inteligencia artificial.

El nuevo diálogo tendría un alcance más amplio y podría incluir amenazas digitales, modelos de frontera, sistemas de evaluación y protocolos de comunicación entre empresas.

Las conversaciones también servirían como preparación para una reunión entre Donald Trump y Xi Jinping prevista para el 24 de septiembre.

Un primer paso, no un acuerdo definitivo

No se espera que el encuentro produzca inmediatamente un tratado vinculante o normas internacionales obligatorias. Las diferencias comerciales, militares y tecnológicas continúan siendo demasiado profundas.

El resultado más probable sería una declaración de principios, la creación de grupos técnicos o el establecimiento de un canal permanente para comunicar incidentes graves.

Aun así, la celebración de las conversaciones tendría importancia política. Estados Unidos y China concentran una parte sustancial de la capacidad mundial para entrenar sistemas avanzados, fabricar componentes y desplegar aplicaciones de inteligencia artificial.

Sin algún grado de coordinación entre ambas potencias, cualquier intento de establecer reglas globales tendría un alcance limitado.

El desafío será separar la seguridad tecnológica de la competencia económica. Los dos países quieren evitar una catástrofe relacionada con la inteligencia artificial, pero ninguno desea adoptar restricciones que puedan conceder una ventaja estratégica al otro.

Fuentes de referencia

• Reuters: preparativos para el diálogo bilateral sobre seguridad de la inteligencia artificial
• Reuters: antecedentes y objetivos de las conversaciones programadas para septiembre
• Bloomberg Law: posibles participantes y agenda de la reunión bilateral