Google separa de DeepMind a su equipo de responsabilidad en inteligencia artificial

Google trasladará fuera de DeepMind a su equipo de responsabilidad de IA, una unidad de unas 90 personas que evalúa riesgos extremos y efectos psicológicos de sus chatbots. La decisión alimenta preocupaciones sobre independencia, acceso a investigadores y posible pérdida de talento.
***

• El equipo completará su traslado a la división de asuntos globales a principios de septiembre.
• Sus tareas incluyen evaluar riesgos químicos, biológicos, radiológicos y nucleares, además de efectos psicológicos de los chatbots.
• La reorganización ocurre mientras Google integra más estrechamente a DeepMind y modifica su estructura de liderazgo.

Google trasladará su equipo de responsabilidad en inteligencia artificial desde Google DeepMind hacia la división de asuntos globales, el área que gestiona las políticas públicas y el cabildeo de la compañía. La unidad, integrada por unas 90 personas, completará la transición a principios de septiembre, según informó The Wall Street Journal después de revisar un correo interno sobre el cambio. La decisión abre un debate sobre la independencia de los especialistas encargados de examinar los riesgos de los modelos de IA de Google.

El equipo analiza amenazas asociadas con materiales y conocimientos químicos, biológicos, radiológicos y nucleares, además de estudiar el comportamiento de los usuarios y los posibles efectos psicológicos de los chatbots. Estas funciones lo ubican en una zona sensible dentro del desarrollo de sistemas avanzados, porque conectan la investigación técnica con las consecuencias que los productos pueden tener fuera del laboratorio. Su traslado administrativo no modifica, al menos de forma anunciada, el alcance formal de esas responsabilidades.

Un cambio que inquieta aparte del equipo

Algunos empleados manifestaron preocupación por que la reasignación limite la autonomía de la unidad y reduzca su contacto cotidiano con los investigadores que desarrollan los modelos Gemini. La inquietud se concentra en la posibilidad de que un equipo dedicado a identificar problemas quede más distante de quienes diseñan y entrenan los sistemas evaluados. En organizaciones de IA, ese acceso puede ser decisivo para que las advertencias técnicas lleguen a tiempo a los responsables de producto.

Helen King, vicepresidenta de responsabilidad de Google DeepMind y responsable del equipo, intentó tranquilizar al personal mediante el correo interno. King escribió que la unidad conservaría su enfoque en asuntos emergentes y fronterizos de la responsabilidad en IA, mientras que la publicación de investigaciones externas seguiría siendo una actividad respaldada y considerada importante. La comunicación buscó presentar la reorganización como un ajuste estructural, no como un recorte de prioridades.

La ejecutiva también aseguró que el equipo mantendría el acceso a DeepMind, a su infraestructura informática y a sus actuales niveles de personal. Esa precisión resulta relevante porque la evaluación de modelos requiere capacidad de cómputo, colaboración con científicos y acceso a información sobre el comportamiento de los sistemas. Sin embargo, conservar recursos técnicos no necesariamente elimina las dudas internas sobre la línea de reporte y la influencia del grupo dentro de la empresa.

Un portavoz de Google defendió el cambio al señalar que numerosos equipos de toda la compañía trabajan en seguridad y responsabilidad de IA. Según la declaración, acercar esas unidades permitiría fortalecer su capacidad para influir en la seguridad de los modelos y productos de Google, una explicación que vincula la mudanza con una estrategia de coordinación interna. La empresa no presentó la medida como una reducción del trabajo de evaluación, sino como una concentración de capacidades.

La integración de DeepMind con Google

Google DeepMind nació en 2023 mediante la fusión de Google Brain y DeepMind, y desde su sede en Londres lidera la investigación de inteligencia artificial de Alphabet. La integración reunió equipos con trayectorias distintas bajo un laboratorio central, en un momento en que Google aceleraba el desarrollo de modelos capaces de competir en un mercado dominado por grandes plataformas tecnológicas. El nuevo traslado representa otra etapa de esa aproximación entre DeepMind y la estructura corporativa de Google.

El cambio del equipo de responsabilidad forma parte de una reorganización más amplia que también está llevando funciones de recursos humanos y políticas desde DeepMind hacia la organización central de Google. La transferencia de esas áreas sugiere que la compañía busca reducir duplicidades y administrar desde el centro actividades que antes permanecían más vinculadas al laboratorio. Para los empleados, no obstante, la eficiencia administrativa puede entrar en tensión con la cultura de investigación independiente.

La reestructuración coincide con una modificación en la dirección de DeepMind. Demis Hassabis, cofundador del laboratorio, dejó el puesto de director ejecutivo para asumir una nueva función como presidente de Google DeepMind y científico jefe, mientras Koray Kavukcuoglu tomó el mando de las operaciones diarias con el título de vicepresidente sénior. El cambio altera la distribución de responsabilidades en un laboratorio que ocupa un lugar estratégico dentro de la competencia de Alphabet por el liderazgo en IA.

Hassabis había sido una voz destacada en materia de gobernanza de la inteligencia artificial y defendió públicamente la necesidad de controles para los sistemas avanzados. A principios de este año pidió que Estados Unidos estableciera un organismo de estándares de IA inspirado en la Autoridad Reguladora de la Industria Financiera, el supervisor privado financiado por la industria que vigila Wall Street. Su propuesta contemplaba que los laboratorios de IA fronteriza sometieran sus modelos a evaluaciones de seguridad antes de lanzarlos.

Qué equipos permanecen dentro de DeepMind

El traslado no abarcará a todos los grupos relacionados con la seguridad de la inteligencia artificial. De acuerdo con la información publicada por el Journal, los equipos de DeepMind que trabajan en comportamiento de modelos, privacidad y seguridad permanecerán dentro del laboratorio, por lo que la reorganización separará distintas funciones que hasta ahora convivían bajo una misma estructura de investigación.

La diferencia entre esos equipos y la unidad de responsabilidad puede parecer administrativa, pero también tiene consecuencias sobre la forma de supervisar los modelos. El grupo trasladado examina riesgos emergentes y efectos sociales o psicológicos, mientras otros equipos se concentran en propiedades técnicas, privacidad y controles de seguridad. La división plantea la necesidad de coordinar hallazgos entre áreas que tendrán líneas organizativas distintas.

El acceso prometido a la infraestructura de DeepMind podría permitir que la unidad conserve herramientas esenciales para sus evaluaciones. Aun así, los empleados han planteado que la proximidad institucional facilita conversaciones informales con los investigadores y una comprensión más rápida de los cambios en los modelos. Si esa interacción disminuye, las preocupaciones no dependerían de la cantidad de personal, sino de la velocidad con que circula la información crítica.

En privado, algunos gerentes habrían reconocido durante discusiones internas que la reorganización conlleva un riesgo real de pérdida de talento hacia laboratorios rivales de IA. Antes de que el cambio entrara en vigor, varios integrantes del equipo de responsabilidad solicitaron incorporarse a grupos de investigación que permanecerán dentro de DeepMind, pero esas solicitudes fueron rechazadas, según el reporte. El episodio añade una dimensión laboral a un debate que hasta ahora se había presentado como una cuestión de estructura.

Implicaciones para la gobernanza de la IA

La responsabilidad de IA reúne actividades que van más allá de comprobar si un modelo responde correctamente a una pregunta. También implica evaluar usos maliciosos, impactos sobre las personas y riesgos que pueden aparecer cuando una herramienta se despliega a gran escala. Por eso, la ubicación de los equipos puede influir en la forma en que una empresa identifica, comunica y corrige problemas antes de poner un producto a disposición del público.

El traslado hacia asuntos globales podría acercar los análisis de responsabilidad a las conversaciones regulatorias y de política pública de Google. Esa proximidad puede facilitar que los hallazgos lleguen a quienes negocian normas o explican las prácticas de la compañía ante gobiernos, aunque también puede alimentar dudas sobre posibles conflictos entre supervisión técnica y objetivos corporativos. El balance dependerá de las garantías de independencia, transparencia y acceso que Google mantenga durante la transición.

La declaración de King indica que la investigación externa seguirá respaldada, un punto importante para una disciplina que necesita escrutinio más allá de las comunicaciones oficiales de las empresas. Publicar resultados puede permitir que académicos, reguladores y otras compañías comparen metodologías y detecten riesgos que no aparecen en las pruebas internas. Sin embargo, el compromiso deberá observarse en la práctica, especialmente después de que el equipo cambie de organización.

El caso también ilustra una tensión creciente en la industria tecnológica: los laboratorios necesitan integrarse con sus compañías matrices para distribuir productos rápidamente, pero la supervisión de esos productos requiere canales capaces de cuestionar decisiones comerciales. La reorganización de Google no demuestra por sí sola que la seguridad vaya a deteriorarse, aunque sí deja preguntas abiertas sobre quién tendrá la última palabra cuando una evaluación identifique un riesgo relevante.

La transición prevista para principios de septiembre ofrecerá los primeros indicios sobre cómo funcionará el nuevo esquema. El nivel de personal, el acceso a los investigadores de Gemini, la continuidad de las publicaciones y la retención de especialistas serán señales clave para medir si el cambio fortalece o debilita la responsabilidad de IA dentro de Google.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín