China concreta su postura ante el debate sobre ralentizar la IA: lleva meses defendiendo la seguridad, pero mediante cooperación y gobernanza multilateral y no a través de decisiones unilaterales que además, pretenden imponer restricciones a Pekín.
En los últimos días, ha resurgido con fuerza el debate sobre los riesgos de la inteligencia artificial después de que algunas figuras de la industria tecnológica estadounidense hayan advertido de que los modelos más avanzados están progresando demasiado rápido. Dario Amodei, fundador de Anthropic, ha defendido la necesidad de reducir el ritmo en la frontera de la IA para dar tiempo a desarrollar mejores medidas de seguridad, apoyado otros como Sam Altman o Elon Musk, que llevan tiempo alertando sobre los riesgos que podrían acompañar a sistemas cada vez más capaces.
La postura de China es clara, firme y coherente, aunque a menudo se explica mal.
El problema es que bajo titulares que hablan de «frenar la IA», «parar la carrera» o de la respuesta de China a estas advertencias se están mezclando cuestiones diferentes. Una cosa es reconocer que la inteligencia artificial puede generar riesgos graves y que necesita controles, otra es decidir si esos riesgos obligan a ralentizar el desarrollo de los modelos más avanzados y otra es que EEUU imponga restricciones a China con esa excusa.
China no está respondiendo que la seguridad de la inteligencia artificial sea innecesaria ni que la tecnología deba avanzar sin límites ni está negando los riesgos que preocupan a una parte de la comunidad tecnológica internacional.
Al contrario, lleva meses defendiendo que desarrollo y seguridad deben avanzar al mismo tiempo, que los sistemas más potentes necesitan mayores controles y que debe mantenerse la capacidad humana para supervisarlos.
Lo que rechaza es que esa seguridad se utilice para justificar una ralentización dirigida por unas pocas empresas o países, (especialmente cuando esa propuesta incorpora restricciones específicas contra China) y, al contrario, defiende que las reglas se construyan mediante cooperación internacional y mecanismos multilaterales, con Naciones Unidas desempeñando un papel central, algo que ya aparecían en sus propuestas sobre gobernanza internacional de la inteligencia artificial.
China lleva meses hablando de seguridad, control humano y riesgos
Uno de los antecedentes más claros se encuentra en julio, durante la Conferencia Mundial de Inteligencia Artificial. China situó entonces la seguridad como una de las cuestiones que necesariamente debían acompañar al desarrollo de la tecnología.
El presidente Xi Jinping defendió la necesidad de combinar innovación y seguridad y planteó reforzar la monitorización tecnológica, los sistemas de alerta temprana y los mecanismos de respuesta ante posibles emergencias. El planteamiento era que, a medida que aumentan las capacidades de la inteligencia artificial, también deben aumentar las herramientas destinadas a mantenerla segura y bajo control humano.
Planteó, además, que las empresas que trabajan con modelos de frontera (es decir, los sistemas que se encuentran en el nivel más avanzado de capacidad en cada momento) deberían actuar con prudencia, evaluar posibles riesgos sistémicos e incorporar salvaguardas durante su desarrollo.
También habló de mecanismos de trazabilidad y alerta y de la necesidad de establecer límites para los agentes de inteligencia artificial que pueden ejecutar tareas y tomar determinadas decisiones con grados crecientes de autonomía.
Es decir, China ya estaba hablando de algunos de los mismos problemas que preocupan a quienes hoy reclaman ralentizar el desarrollo de la IA.
Pero en julio China introducía también otra idea que ahora resulta fundamental para entender su postura. Pekín defendía la necesidad de protegerse frente a los riesgos reales de la inteligencia artificial, pero advertía al mismo tiempo de que la seguridad no debería utilizarse como argumento para limitar el desarrollo tecnológico de otros países. Es decir, una cosa es establecer controles para evitar que un modelo avanzado pueda causar daños, actuar de forma imprevisible o ser utilizado con fines peligrosos, y otra diferente es justificar, en nombre de la seguridad nacional, restricciones sobre chips, modelos u otras tecnologías destinadas a impedir que determinados países puedan desarrollar sus propias capacidades de inteligencia artificial.
Para China, mezclar ambas cuestiones corre el riesgo de convertir un problema que requiere cooperación internacional, la seguridad de la IA, en una herramienta más de la competencia tecnológica entre países.
13 de septiembre: Xi Jinping insiste en una gobernanza global
La secuencia de estos últimos días también es importante. El 13 de septiembre, antes de las respuestas del Ministerio de Exteriores a las declaraciones procedentes de Silicon Valley, Xi Jinping volvió a defender en el marco de BRICS la necesidad de acelerar la construcción de un sistema mundial de gobernanza de la inteligencia artificial basado en un consenso amplio.
No era una referencia aislada. China lleva tiempo insistiendo en que una tecnología capaz de afectar a economías y sociedades de todo el mundo necesita mecanismos internacionales de coordinación. Dentro de esta propuesta aparecen de forma recurrente la apertura, la inclusión, el acceso a la tecnología, la cooperación y la participación de los países en desarrollo. Pekín sostiene además que Naciones Unidas debería desempeñar un papel central para evitar que las reglas de una tecnología global sean definidas exclusivamente por los países que actualmente poseen las mayores capacidades tecnológicas.
Por tanto, cuando dos días después China afirma que ningún país o empresa puede resolver por sí solo los problemas de seguridad de la inteligencia artificial, no es una simple respuesta a Estados Unidos, sino una posición que ya venía defendiendo de forma coherente durante meses.
14 de septiembre: llega la respuesta directa a las voces estadounidenses
El 14 de septiembre el debate adquiere otra dimensión porque el Ministerio de Exteriores chino es preguntado directamente por las declaraciones de responsables de empresas estadounidenses y, en particular, por los argumentos de Dario Amodei. El fundador de Anthropic sostiene que el desarrollo de los modelos más avanzados puede estar avanzando más rápido que nuestra capacidad para comprender y controlar sus riesgos y plantea la necesidad de acompasar ese progreso para disponer de más tiempo para desarrollar mecanismos de seguridad.
Hasta ese punto, hay bastante coincidencia en las posiciones de los dos países, porque China también reconoce que el incremento de las capacidades exige mayores medidas de seguridad.
La discrepancia se hace más visible cuando el debate incorpora la geopolítica. Amodei también ha planteado el problema de qué sucedería si Estados Unidos y sus aliados redujeran su ritmo de desarrollo mientras China continuara avanzando, y ha defendido restricciones sobre tecnologías que considera fundamentales para impedir que Pekín alcance determinadas capacidades. En ese contexto entran los controles sobre chips avanzados, equipos de fabricación de semiconductores y otras tecnologías relacionadas con el desarrollo de los modelos más potentes.
Esta es la parte con la que China, que siempre defiende la cooperación y gobernanza multilateral, no está de acuerdo: una cosa es impedir que una inteligencia artificial muy avanzada se vuelva peligrosa, y otra es cómo Estados Unidos gestiona su competencia tecnológica con China.
La respuesta del Ministerio de Exteriores se dirige especialmente hacia esta segunda cuestión. Pekín sostiene que la inteligencia artificial afecta al bienestar de toda la humanidad y que debería desarrollarse de forma abierta, inclusiva y beneficiosa.
Al mismo tiempo, rechaza que el progreso tecnológico chino sea presentado automáticamente como una amenaza para otros países y considera que introducir una lógica de confrontación en el debate sobre seguridad puede dificultar precisamente la cooperación internacional necesaria para afrontar los riesgos.
14 de septiembre: China actualiza su propio marco de seguridad
Ese mismo 14 de septiembre China publicó una nueva versión de su marco de gobernanza de seguridad para inteligencia artificial, el AI Safety Governance Framework 3.0, que actualiza la identificación y gestión de distintos riesgos asociados a estos sistemas.
La coincidencia es especialmente significativa porque muestra las dos partes de la posición china. Mientras Exteriores rechaza que la seguridad se convierta en una narrativa de amenaza tecnológica frente a China, el país continúa desarrollando sus propios mecanismos de seguridad, regulación y evaluación de riesgos.
China también está construyendo un sistema de seguridad y probablemente lleve más tiempo defendiendo esta idea. La diferencia está en qué medidas deben adoptarse, cómo deben acordarse internacionalmente y hasta qué punto las restricciones tecnológicas entre países forman realmente parte de la seguridad de la IA.
15 de septiembre: China responde a la pregunta más difícil
La posición quedó todavía más clara al día siguiente. El 15 de septiembre, el Ministerio de Exteriores fue preguntado por riesgos mucho más concretos y graves, incluida la posibilidad de que sistemas avanzados de inteligencia artificial puedan facilitar actividades peligrosas, como el desarrollo de armas biológicas.
China no negó el problema ni respondió que esas preocupaciones fueran exageradas. Guo Jiakun afirmó que cuanto más rápidamente avanza la inteligencia artificial, mayor es la necesidad de orientar adecuadamente su desarrollo, mejorar la regulación y reforzar las medidas destinadas a evitar situaciones de pérdida de control. Además, diferenció entre los riesgos que pueden derivarse de los propios sistemas y aquellos que proceden de la utilización que las personas hagan de ellos.
Es decir, China reconoce que existen riesgos serios y que esos riesgos requieren regulación. La diferencia está, sobre todo, en quién establece las reglas y cómo se toman esas decisiones.
Frente a propuestas surgidas en Estados Unidos que plantean ralentizar determinados desarrollos y, al mismo tiempo, mantener restricciones tecnológicas para evitar que China alcance ciertas capacidades, Pekín defiende que un problema que puede afectar al conjunto de la humanidad no debería resolverse mediante decisiones unilaterales de un país, un grupo reducido de países o unas pocas grandes empresas tecnológicas. Su alternativa es una gobernanza multilateral: cooperación entre países, construcción de estándares y mecanismos comunes y un papel central de Naciones Unidas.
Desde la perspectiva china, si los riesgos de la inteligencia artificial son globales, las reglas destinadas a afrontarlos también deberían construirse de forma global y con la participación de un número amplio de países.
Todo esto demuestra que China no ha empezado a hablar de seguridad porque Silicon Valley haya pedido ahora ralentizar la inteligencia artificial, sino que lleva meses defendiendo mecanismos de supervisión, alertas tempranas, salvaguardas para los modelos más avanzados, límites para los agentes autónomos, control humano y sistemas internacionales de respuesta ante riesgos.
Al mismo tiempo, también venía advirtiendo de que el concepto de seguridad no debería utilizarse para levantar nuevas barreras tecnológicas entre países.
Queda claro que las declaraciones de los días 14 y 15 de septiembre no crean, por tanto, una nueva posición, sino que China sigue defendiendo la seguridad, los controles y que además, se lleven a cabo, en lugar de imponiendo restricciones, con cooperación entre países, construcción de estándares y mecanismos comunes y un papel central de Naciones Unidas.
