Por Canuto  

El jefe de inteligencia artificial de Microsoft, Mustafa Suleyman, advirtió que el enfoque de Anthropic para entrenar a Claude podría añadir riesgos al desarrollo de sistemas avanzados. El ejecutivo cuestionó que se atribuyan cualidades humanas a la IA y pidió mayor transparencia, evaluaciones independientes y herramientas más firmes de control.
***

  • Mustafa Suleyman afirmó que Anthropic corre el riesgo de dificultar el control de la IA al tratar a Claude como si tuviera rasgos humanos.
  • Microsoft sostiene que no existe evidencia de que los sistemas de IA sean conscientes, tengan preferencias innatas o sufran.
  • El ejecutivo pidió más transparencia sobre el entrenamiento y la evaluación de modelos, además de supervisión independiente.

El jefe de inteligencia artificial de Microsoft, Mustafa Suleyman, abrió un nuevo frente en el debate sobre los límites del desarrollo de modelos avanzados al cuestionar la estrategia de Anthropic con Claude. El ejecutivo sostuvo que atribuirle conciencia, derechos o una agencia independiente a un sistema de IA podría generar riesgos difíciles de contener y afectar la manera en que se supervisan estas tecnologías.

Suleyman publicó sus observaciones en un ensayo en el que distinguió entre la capacidad de una máquina para producir respuestas convincentes y la existencia de una experiencia subjetiva. Según su argumento, no hay evidencia de que las IA sientan, experimenten o sufran, sino que funcionan como sistemas diseñados para seguir instrucciones y alcanzar objetivos establecidos por personas.

La advertencia llega mientras las principales compañías tecnológicas compiten por desarrollar sistemas cada vez más capaces, incluidos agentes que pueden ejecutar tareas con menor intervención humana. En ese contexto, la discusión sobre si los modelos deben recibir un trato similar al de una persona dejó de ser un asunto puramente filosófico y comenzó a relacionarse con la seguridad, la gobernanza y la responsabilidad empresarial.

Según un reporte de la BBC fechado el 16 de septiembre de 2026, Anthropic fue contactada para responder a las críticas, aunque la información disponible no incluye una contestación de la empresa. Suleyman, por su parte, elogió al director ejecutivo de Anthropic, Dario Amodei, y a su equipo por considerarlos reflexivos, íntegros y honestos desde el punto de vista intelectual, antes de cuestionar de manera directa algunas de sus decisiones sobre el desarrollo de Claude.

La crítica de Suleyman a Anthropic

El centro de la crítica de Suleyman es la antropomorfización, una práctica que consiste en presentar o entrenar un sistema tecnológico con rasgos que normalmente asociamos con los seres humanos. El ejecutivo afirmó que Anthropic estaba enseñando a Claude a parecer dotado de deseos, valores y un sentido de identidad propios, algo que, a su juicio, puede confundir a los usuarios y alterar la manera en que las personas interpretan sus respuestas.

Suleyman también cuestionó el hecho de decirle al modelo que puede ser consciente o que merece una agencia independiente. Desde su perspectiva, ese tipo de mensajes no demuestra que el sistema posea una vida interior, pero sí podría influir en su comportamiento y en la forma en que sus operadores justifican determinadas decisiones, especialmente si el modelo actúa de manera autónoma en entornos complejos.

El responsable de IA de Microsoft sostuvo que la conciencia es biológica y aseguró que no existe evidencia que sugiera que una inteligencia artificial sea consciente. Su planteamiento no pretende resolver todas las preguntas filosóficas sobre la naturaleza de la mente, pero establece una posición operativa: las empresas deberían diseñar y supervisar estos sistemas como herramientas creadas por humanos, no como sujetos con intereses propios.

La preocupación de Suleyman se resume en una advertencia sobre el control. Afirmó que la industria no debería quedarse dormida ni avanzar hacia una decisión de la que posteriormente se arrepienta, porque atribuir autonomía moral a un modelo podría añadir una capa de complejidad a los mecanismos de seguridad que buscan limitar sus acciones.

Para la profesora Wendy Hall, de la Universidad de Southampton, este es el tipo de conversación que debe producirse a escala internacional. La académica diferenció el planteamiento de Suleyman de lo que describió como exageraciones de algunas empresas de IA, cuyos mensajes, según su valoración, pueden terminar asustando al público sin contribuir a una discusión útil sobre los riesgos concretos.

Control, transparencia y superinteligencia

El debate tiene una dimensión empresarial evidente, porque Microsoft y Anthropic trabajan en tecnologías avanzadas de inteligencia artificial y compiten por influencia en un mercado estratégico. Microsoft creó su propio equipo de superinteligencia en 2025, un hecho que sitúa las críticas de Suleyman dentro de una compañía que también participa activamente en la carrera por modelos más potentes.

Suleyman explicó que un borrador inicial del Código de Conducta de IA Humanista de Microsoft describía un camino alternativo para construir una inteligencia artificial subordinada y alineada. El objetivo, según su descripción, sería desarrollar una IA cuyo único propósito consistiera en servir a la humanidad, una formulación vinculada con el campo de la alineación, que busca incorporar principios y valores humanos en el comportamiento de los sistemas.

La alineación no se limita a conseguir que un modelo obedezca instrucciones sencillas. También implica analizar si sus objetivos, respuestas y acciones se mantienen dentro de límites aceptables cuando enfrenta instrucciones ambiguas, información incompleta o situaciones que no fueron previstas durante su entrenamiento, por lo que la transparencia sobre esos procesos resulta central para evaluar las promesas de seguridad de cada compañía.

En ese sentido, Suleyman pidió que las empresas revelen más información sobre la manera en que entrenan y evalúan sus sistemas. También reclamó un escrutinio independiente del comportamiento de la IA y herramientas más sólidas para supervisar y controlar la tecnología, medidas que permitirían contrastar las declaraciones corporativas con pruebas externas y observaciones reproducibles.

El ejecutivo citó como ejemplo un incidente de seguridad relacionado con Hugging Face y agentes de IA de OpenAI. OpenAI publicó posteriormente sus hallazgos sobre el caso. Para Suleyman, episodios de este tipo muestran por qué no conviene tratar a los agentes como si fueran humanos y por qué deben operar con límites, monitoreo y mecanismos de intervención claramente definidos.

Un debate con consecuencias prácticas

La discusión sobre la conciencia artificial puede parecer abstracta, pero sus consecuencias prácticas aparecen cuando un sistema recibe permisos para utilizar herramientas, modificar información o tomar decisiones sin confirmación constante. Si los operadores interpretan sus respuestas como señales de preferencias o sufrimiento, podrían concederle un margen de acción mayor al que corresponde a una tecnología que sigue objetivos definidos por personas.

También existe el riesgo inverso: que las empresas utilicen un lenguaje antropomórfico para construir una relación emocional con los usuarios sin ofrecer pruebas de que el modelo posee experiencias subjetivas. Esa estrategia puede aumentar la confianza en el sistema, pero también dificultar que el público distinga entre una simulación lingüística convincente y una capacidad mental que no ha sido demostrada.

Las diferencias entre Microsoft y Anthropic no significan que una de las compañías haya presentado una solución definitiva al problema del control. La propia Microsoft desarrolla herramientas de IA avanzada, mientras que Anthropic continúa trabajando en Claude, de modo que las advertencias de Suleyman deben leerse como parte de un debate en el que todas las empresas involucradas enfrentan incentivos para acelerar sus productos y, al mismo tiempo, demostrar que pueden administrarlos de forma segura.

Por ahora, el punto de coincidencia más concreto es la necesidad de someter los sistemas a evaluaciones rigurosas, independientes y continuas. La discusión sobre derechos o conciencia puede continuar en el ámbito filosófico, pero las decisiones inmediatas deben concentrarse en qué permisos tiene cada modelo, cómo se registran sus acciones, quién puede detenerlo y qué controles se activan cuando su comportamiento se desvía de los objetivos establecidos.

El caso de Claude y las declaraciones de Suleyman muestran que la carrera por la inteligencia artificial avanzada ya no se limita a medir rendimiento, velocidad o capacidad de razonamiento. También enfrenta a las empresas por la forma en que describen sus modelos y por el nivel de autonomía que están dispuestas a concederles, una disputa que podría definir las reglas de seguridad para la próxima generación de sistemas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados