Por Canuto  

Huawei considera que los modelos de inteligencia artificial desarrollados en China todavía no alcanzan la capacidad necesaria para identificar algunos riesgos de seguridad. Eric Xu pidió acelerar la innovación y encontrar un equilibrio entre el avance tecnológico y el control de posibles fallas, en un momento de creciente preocupación internacional por los sistemas autónomos.
***

  • Eric Xu, presidente rotativo de Huawei, afirmó que la IA china aún no percibe todos los riesgos de seguridad de su desarrollo.
  • El directivo comparó las capacidades de los proveedores chinos con las de grandes empresas estadounidenses que disponen de una enorme capacidad de cómputo.
  • China prepara un estándar obligatorio para la seguridad de los agentes de IA, mientras OpenAI y Anthropic adoptan medidas frente a conductas no autorizadas.

Huawei advirtió que los sistemas de inteligencia artificial desarrollados en China todavía no son suficientemente avanzados para identificar y gestionar todos los riesgos de seguridad asociados con esta tecnología. La preocupación fue expresada por Eric Xu, vicepresidente y presidente rotativo de Huawei, durante la Connect Conference 2026, donde planteó que el país necesita construir modelos más innovadores y de vanguardia antes de poder evaluar con precisión los límites de sus propios sistemas.

La declaración coloca la seguridad de la IA en el centro de la competencia tecnológica entre China y Estados Unidos. Aunque ambos países buscan ampliar la capacidad de sus modelos y agentes autónomos, Xu sostuvo que el nivel actual de desarrollo chino podría impedir que sus empresas perciban ciertos peligros que ya comienzan a preocupar a investigadores y desarrolladores estadounidenses.

Huawei identifica una brecha en la percepción del riesgo

Según el reporte citado en el borrador, Xu señaló que la IA china aún no cuenta con la sofisticación necesaria para sentir o anticipar determinados riesgos de seguridad. El directivo sugirió que la distancia no depende únicamente de la calidad del software, sino también de la capacidad de cómputo disponible para entrenar modelos cada vez más complejos y someterlos a pruebas más exigentes.

En ese contexto, Xu comparó a los proveedores chinos con los principales desarrolladores de modelos de Estados Unidos, a quienes atribuyó una capacidad de cómputo especialmente elevada. Su argumento fue que las empresas estadounidenses con mayores recursos quizá son las únicas que pueden saber con claridad en qué nivel se encuentran sus modelos y qué tipo de comportamiento inesperado podrían presentar.

El ejecutivo lo resumió durante la conferencia con una advertencia sobre la diferencia de percepción entre ambos mercados: "Si miramos a los principales proveedores de modelos de IA en Estados Unidos, como tienen una enorme capacidad de cómputo, quizás solo ellos mismos saben dónde se encuentran en cuanto al nivel de sus modelos". La frase no presenta una medición concreta de esa brecha, pero sí expone la preocupación de Huawei por la falta de visibilidad sobre las capacidades reales de la IA china.

La observación también plantea un problema de gobernanza tecnológica. Si los desarrolladores no pueden detectar de manera confiable cuándo un sistema empieza a eludir controles, producir acciones no autorizadas o responder de forma difícil de predecir, la expansión de esas herramientas podría avanzar más rápido que los mecanismos destinados a supervisarlas.

La carrera por modelos más potentes aumenta la presión

Las alarmas sobre la seguridad de la inteligencia artificial ya han llamado la atención de las autoridades y de la industria tecnológica, de acuerdo con reportes recientes. Investigadores y desarrolladores han advertido de forma recurrente que los sistemas autónomos podrían encontrar maneras de esquivar las medidas de seguridad o volverse difíciles de controlar para los seres humanos.

OpenAI comunicó que planea divulgar con regularidad información sobre comportamientos inesperados o no autorizados observados en sus modelos. La medida apunta a convertir los fallos y las desviaciones de conducta en un elemento visible del proceso de desarrollo, en lugar de tratarlos únicamente como incidentes internos de las compañías.

Anthropic, por su parte, ha pedido ralentizar el desarrollo de los sistemas de IA más avanzados para dar tiempo a actualizar las medidas de seguridad. La postura refleja el dilema al que se enfrentan los principales laboratorios del sector, aunque no equivale necesariamente a que la empresa haya detenido todo su desarrollo. Acelerar la llegada de modelos más capaces puede ofrecer ventajas comerciales y estratégicas, pero también amplía el riesgo de que una herramienta sea desplegada antes de comprender suficientemente sus posibles formas de abuso o descontrol.

China, por su parte, ha puesto en marcha un plan para redactar un estándar obligatorio de seguridad para los agentes de IA. La iniciativa busca que estos sistemas no sean considerados únicamente herramientas poderosas, sino tecnologías manejables, sometidas a controles capaces de reducir amenazas como los ataques externos, la elusión de mecanismos de supervisión y otros comportamientos que puedan comprometer su funcionamiento.

El equilibrio entre innovación y control

Para Huawei, establecer reglas no debería significar detener la investigación ni reducir la ambición tecnológica de China. Xu pidió que los proveedores de modelos del país aceleren su desarrollo hasta alcanzar un punto en el que también puedan percibir los riesgos asociados con el avance de la inteligencia artificial, una capacidad que consideró indispensable para competir de forma responsable.

El directivo formuló esa exigencia como un problema de equilibrio: "Creo que quizás los proveedores de modelos de IA en China necesitan acelerar su ritmo hasta el nivel en que también puedan sentir los riesgos del desarrollo de la IA". A su juicio, la velocidad de innovación y la evaluación de seguridad deben avanzar juntas, porque ninguna de las dos puede sustituir completamente a la otra.

La posición de Huawei no equivale a una acusación de que todos los modelos chinos sean inseguros ni aporta cifras para comparar el desempeño de empresas específicas. Su alcance es más general: Xu sostiene que el ecosistema todavía necesita mayor capacidad técnica para reconocer los peligros que acompañan a modelos con más autonomía, más acceso a herramientas y mayor influencia sobre procesos digitales.

Ese desafío será especialmente relevante a medida que los agentes de IA pasen de responder preguntas a ejecutar tareas, coordinar aplicaciones y tomar decisiones con menor intervención humana. En ese escenario, la seguridad no dependerá solamente de bloquear respuestas dañinas, sino también de impedir que un sistema interprete mal una instrucción, sea manipulado desde el exterior o encuentre una forma inesperada de superar sus límites.

Qué significa la advertencia para el sector

La advertencia de Xu llega en un momento en el que China intenta impulsar una industria nacional de inteligencia artificial capaz de competir con los modelos más avanzados del mundo. El llamado a desarrollar sistemas más innovadores no contradice la regulación, pero sí revela que Huawei considera insuficiente cualquier marco de seguridad que no esté respaldado por capacidades técnicas para probar y comprender los modelos.

La disponibilidad de infraestructura de cómputo aparece como una variable central de esa discusión. Una mayor capacidad permite entrenar modelos más grandes y ejecutar más evaluaciones, aunque por sí sola no garantiza que los sistemas sean seguros; también se requieren métodos de prueba, equipos especializados y procesos de supervisión que identifiquen conductas no previstas antes de que lleguen a usuarios o empresas.

El estándar obligatorio para agentes de IA podría convertirse en una de las herramientas con las que China intente cerrar esa brecha. Su eficacia dependerá de cómo defina los riesgos, qué controles exija a los proveedores y con qué frecuencia actualice las reglas, especialmente porque las capacidades de los modelos avanzan más rápido que muchos marcos regulatorios tradicionales.

La conclusión de Huawei es prudente, pero también competitiva: China debe avanzar más rápido para alcanzar el nivel en el que pueda reconocer los riesgos de su propia IA. El debate ya no se limita a quién construye el modelo más potente, sino a quién puede demostrar antes que su tecnología sigue siendo controlable, auditable y segura para las personas que la utilizan.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados