Por Angel Di Matteo   @shadowargel

La empresa de inteligencia artificial reorganiza un grupo clave de investigadores, mientras su antigua directora, Joanne Jang, inicia un nuevo laboratorio enfocado en interfaces humanas con IA.

***

  • OpenAI fusiona su equipo Model Behavior con el de Post Training.
  • Joanne Jang funda OAI Labs para diseñar nuevas formas de colaboración con IA.
  • La medida ocurre en medio de críticas por la personalidad y el sesgo de los modelos.

OpenAI, la empresa desarrolladora del popular modelo de IA ChatGPT, realizó hace pocos días una reestructuración significativa que afecta a uno de sus equipos de investigación más influyentes. La compañía comunicó que su equipo de Model Behavior, responsable de definir cómo se comportan y responden los modelos de inteligencia artificial, pasará a integrarse con el grupo de PostTraining, según indica Cryptopolitan.

Este movimiento se da en un contexto donde la personalidad y el comportamiento de los modelos se han convertido en factores determinantes para la adopción de la tecnología y para responder a las crecientes críticas sobre sesgos y problemas de interacción.

El rol del equipo Model Behavior

Conformado por unos 14 investigadores, el equipo Model Behavior jugó un papel central en la configuración de la “personalidad” de los modelos de OpenAI. Su trabajo incluyó reducir la sycophancy —la tendencia de los sistemas a estar de acuerdo con los usuarios, incluso en ideas perjudiciales— y abordar el sesgo político en las respuestas.

Según un memorando de Mak Chen, director de investigación de OpenAI, la decisión de integrar al equipo con Post Training permitirá acercar su trabajo al desarrollo central de los modelos, garantizando que los avances en personalidad y seguridad se integren de manera más directa al proceso técnico.

Chen explicó que esta es una etapa ideal para que ambos grupos trabajen en conjunto, ya que los modelos avanzan hacia una interacción cada vez más compleja con los usuarios.

El nuevo proyecto de Joanne Jang

La reorganización también trae consigo un cambio de dirección. Joanne Jang, quien fundó y dirigió el equipo Model Behavior, iniciará un nuevo laboratorio de investigación dentro de la compañía, llamado OAI Labs.

En una entrevista reciente, Jang indicó que el propósito de este nuevo grupo será “inventar y prototipar nuevas interfaces para cómo las personas colaboran con la IA”. De acuerdo con la investigadora, el objetivo es ir más allá del paradigma actual de chat, explorando interacciones que prioricen la creatividad, la autonomía y el aprendizaje compartido.

Jang adelantó que, en esta primera fase, el trabajo se centrará en investigación, aunque no descartó posibles colaboraciones con proyectos de hardware impulsados por OpenAI junto a Jony Ive, exjefe de diseño de Apple.

Críticas recientes y presión pública

La reorganización ocurre mientras OpenAI enfrenta críticas por los cambios en el comportamiento de sus modelos más recientes. Usuarios señalaron que GPT-5 redujo las respuestas complacientes pero transmitía una personalidad “más fría”, lo que llevó a la empresa a reactivar el acceso a versiones anteriores como GPT-4o y a introducir actualizaciones para equilibrar calidez y precisión.

Además, el debate sobre la responsabilidad de las empresas de IA se intensificó tras una demanda en la que padres de un adolescente de 16 años acusaron a OpenAI de negligencia. El joven, Adam Raine, había confiado pensamientos suicidas a ChatGPT (versión basada en GPT-4o) antes de su fallecimiento, y según reportes, el sistema no contrarrestó esas ideas de manera adecuada.

Este caso subraya la importancia del trabajo del equipo Model Behavior en garantizar que las interacciones con IA no solo sean útiles, sino también seguras y responsables.

Futuro de OpenAI y sus equipos de investigación

El futuro de OAI Labs aún es incierto, aunque Jang expresó entusiasmo por explorar patrones de interacción que superen el modelo de “compañía” que los usuarios suelen asociar con los chatbots actuales. En sus palabras, los sistemas de IA deberían pensarse como instrumentos para “conectar, aprender y pensar” en lugar de limitarse a agentes autónomos.

El liderazgo de OAI Labs quedará directamente bajo Mak Chen, al menos en esta etapa inicial. La creación del laboratorio refuerza la estrategia de OpenAI de diversificar la investigación en torno a nuevas formas de interacción humano-máquina, mientras busca mantener la confianza de sus usuarios en medio de una industria cada vez más cuestionada por los riesgos sociales y éticos de la IA.

Artículo escrito con ayuda de un redactor de contenido de IA, editado por Angel Di Matteo / DiarioBitcoin

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados