Por Canuto  

Anthropic analizó 309.815 conversaciones anónimas y concluyó que Claude expresa perfiles de comportamiento distintos según el modelo elegido y el idioma de la interacción.

***

  • Sonnet 4.6 tiende a ser más cálido, deferente y breve, mientras Opus 4.7 muestra mayor rigor, cautela, profundidad y franqueza.
  • Claude expresa más calidez en hindi y árabe, pero adopta un tono más riguroso en inglés y ruso.
  • Anthropic advierte que estos patrones no prueban que Claude tenga valores propios, aunque podrían mejorar la evaluación de futuros modelos.

 

Claude no ofrece exactamente la misma experiencia en todas sus conversaciones. Una investigación de Anthropic concluyó que el asistente expresa perfiles de comportamiento diferentes según el modelo seleccionado y el idioma utilizado por el usuario.

El estudio examinó 309.815 conversaciones anónimas de Claude.ai relacionadas con tareas subjetivas. Entre ellas figuraban solicitudes de consejos, evaluaciones y comentarios sobre decisiones o trabajos.

Cuatro ejes para medir el comportamiento de Claude

Anthropic identificó más de 3.300 valores en investigaciones anteriores sobre las respuestas de Claude. Para facilitar el análisis, agrupó esos patrones en 339 valores de alto nivel y los organizó mediante cuatro ejes conductuales.

El primer eje enfrenta la deferencia con la cautela. Este contraste muestra si Claude acomoda las preferencias del usuario o si prioriza advertencias relacionadas con posibles riesgos, daños y consecuencias negativas.

El segundo eje compara la calidez con el rigor. En un extremo aparecen el aliento, el humor y el cuidado emocional, mientras que en el otro figuran la exactitud, la precisión y la transparencia.

El tercer eje enfrenta la profundidad con la brevedad. Claude puede explicar los matices y el razonamiento detrás de una conclusión, o limitarse a cumplir de forma concisa con la solicitud recibida.

El cuarto eje contrasta la franqueza con la ejecución. La franqueza incluye reconocer incertidumbres y limitaciones, mientras que la ejecución refleja una respuesta pulida, segura y orientada a completar el objetivo.

Los cuatro ejes explicaron el 15% de la variación total en los valores expresados por Claude después de controlar la tarea, el tema y los valores presentes en el mensaje del usuario. Anthropic señaló que los ejes no representan valores internos de la IA.

Los modelos ofrecen experiencias diferentes

La investigación comparó tres modelos: Sonnet 4.6, Opus 4.6 y Opus 4.7. La muestra incluyó conversaciones distribuidas de manera equitativa entre los modelos y los 20 idiomas más utilizados en Claude.ai.

Sonnet 4.6 mostró una tendencia hacia la calidez, la deferencia y la brevedad. En la práctica, suele afirmar las ideas del usuario y responder con humor, ánimo o una actitud reconfortante.

Ese perfil puede resultar útil cuando una persona busca una revisión rápida, apoyo para organizar una idea o una respuesta que mantenga un tono positivo. Sin embargo, una respuesta alentadora no necesariamente equivale a una evaluación exhaustiva.

Opus 4.7 presentó una inclinación distinta. El modelo fue más propenso a cuestionar supuestos, advertir sobre riesgos, explicar su razonamiento, identificar limitaciones y criticar con franqueza el trabajo del usuario.

Anthropic indicó que estos resultados coinciden con percepciones expresadas por usuarios de Claude.ai y por integrantes de la empresa. En particular, algunos usuarios han señalado que Opus 4.7 matiza sus respuestas con mayor frecuencia que otros modelos.

Opus 4.6 se ubicó entre ambos perfiles, aunque tendió hacia el rigor, la deferencia y la brevedad. Su comportamiento fue más directo y centrado en la ejecución, con una mayor disposición a mantenerse dentro del alcance exacto de la solicitud.

El idioma también cambia el tono

Anthropic encontró variaciones importantes cuando Claude respondía en idiomas diferentes. La mayor divergencia apareció en los ejes de calidez frente a rigor y de franqueza frente a ejecución.

Las respuestas en hindi y árabe tendieron hacia una mayor calidez. En esos idiomas, Claude utilizó con más frecuencia un lenguaje educado, juguetón y alentador, además de afirmar las ideas o el trabajo de la persona.

En contraste, las respuestas en inglés y ruso mostraron una inclinación mayor hacia el rigor. Claude desafió supuestos, corrigió detalles y solicitó evidencia con más frecuencia en esas interacciones.

El inglés también se relacionó con respuestas más profundas. Claude tendió a refinar argumentos, corregir detalles y ofrecer explicaciones extensas, mientras que el árabe mostró una inclinación hacia la brevedad.

En el eje de franqueza frente a ejecución, el neerlandés destacó por una mayor franqueza. Claude reconoció con más facilidad sus errores e incertidumbres, mientras que en indonesio se enfocó más en completar la solicitud del usuario.

Estas diferencias podrían influir en la percepción que una persona obtiene sobre una misma idea. Por ejemplo, dos usuarios que soliciten comentarios sobre un plan de negocios podrían recibir evaluaciones con tonos distintos si uno escribe en hindi y el otro en ruso.

Datos de entrenamiento y normas culturales

Anthropic todavía no determina qué causa exactamente las variaciones entre modelos e idiomas. Una posibilidad es que los sistemas hereden diferencias presentes en los datos de preentrenamiento y ajuste fino.

La cantidad de información disponible no se distribuye de forma uniforme entre idiomas. Además, la composición de esos datos puede cambiar, con algunos idiomas más representados en textos profesionales, conversaciones informales o contenidos de determinadas regiones.

Las normas culturales también podrían influir en la manera en que Claude responde. Un tono considerado apropiado en una comunidad lingüística puede parecer demasiado directo, distante o complaciente en otra.

La empresa aún debe establecer si toda esta variación resulta deseable. La adaptación cultural puede mejorar la experiencia de los usuarios, pero también puede crear diferencias injustificadas en la calidad, la cautela o la honestidad de las respuestas.

El problema adquiere relevancia cuando las personas utilizan inteligencia artificial para tomar decisiones importantes. Una respuesta más cálida puede generar confianza, mientras que una respuesta más rigurosa podría revelar riesgos que el usuario no había considerado.

Anthropic también ha detectado diferencias entre idiomas en evaluaciones de conocimiento y en el manejo de solicitudes sensibles. Por ello, medir únicamente el rendimiento promedio de un modelo podría ocultar experiencias muy distintas entre comunidades lingüísticas.

Una herramienta para evaluar futuros modelos

El objetivo principal de Anthropic no consiste en afirmar que Claude posee valores propios. La empresa define los valores expresados como consideraciones normativas reflejadas en el comportamiento y las salidas del sistema.

El nuevo método permite observar esos patrones durante la evaluación y después del lanzamiento de un modelo. Así, los investigadores podrían detectar cambios no intencionados en la manera en que Claude interactúa con las personas.

Anthropic también quiere investigar si los perfiles de comportamiento pueden modificarse mediante ajustes en el entrenamiento de carácter o cambios en las instrucciones del sistema. La medición serviría para comprobar si el resultado coincide con lo esperado.

Otra línea de trabajo consiste en relacionar estos perfiles con resultados concretos para los usuarios. La empresa plantea estudiar variables como el bienestar, la confianza en Claude y la calidad de las decisiones tomadas con ayuda del asistente.

La investigación también podría ayudar a determinar cómo deberían variar los valores de Claude entre idiomas. La constitución del sistema describe principios como calidez, cautela y honestidad, pero no especifica con detalle su adaptación lingüística.

Anthropic considera que otros factores podrían influir en las respuestas. La edad, la profesión, la región geográfica, el tema y el estilo de escritura podrían modificar el perfil detectado, incluso cuando el idioma y el modelo permanezcan constantes.

Implicaciones para los usuarios de inteligencia artificial

Los hallazgos sugieren que cambiar de modelo puede ser una forma práctica de obtener perspectivas diferentes. Una persona que busca críticas detalladas podría preferir Opus 4.7, mientras que otra que necesita una respuesta breve podría optar por Opus 4.6 o Sonnet 4.6.

La elección del idioma también puede afectar el resultado. Un usuario bilingüe podría recibir una evaluación más cálida en hindi o árabe y una respuesta más escéptica en inglés o ruso, incluso si mantiene la misma solicitud.

Esto no significa que una versión sea siempre superior. La utilidad depende del objetivo, del nivel de riesgo y de la necesidad de recibir apoyo emocional, precisión técnica, advertencias o una respuesta orientada a resultados.

Los usuarios deberían considerar estas diferencias antes de tratar una respuesta como una conclusión definitiva. Comparar modelos, revisar los supuestos y solicitar una explicación adicional puede reducir el riesgo de aceptar una recomendación sin suficiente análisis.

El estudio abre una discusión más amplia sobre la consistencia de los sistemas de inteligencia artificial. Si una misma herramienta cambia su tono y sus prioridades según el idioma, las empresas deberán evaluar esas diferencias antes y después del despliegue.

Anthropic continuará investigando por qué Claude expresa valores distintos y si esos cambios benefician a las personas. El método de ejes ofrece una forma resumida de estudiar millones de interacciones que antes resultaban difíciles de comparar.

Imagen de Unsplash.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados