Por Canuto  

Un ensayo del Instituto de Google DeepMind plantea que la inteligencia artificial general no tendría que surgir de una máquina aislada, sino de una red cambiante de personas, agentes e instituciones. El concepto de Inteligencia Simbiótica Artificial desplaza el debate desde la singularidad hacia la coordinación, las reglas y la negociación de valores.
***

  • La propuesta describe la inteligencia como un fenómeno social, producido por la colaboración entre personas y sistemas de IA.
  • Los autores sostienen que los agentes pueden funcionar como ensamblajes temporales y que las instituciones serán clave para coordinarlos.
  • La alineación dejaría de ser una imposición fija de valores y pasaría a negociarse mediante interacciones continuas.

La inteligencia artificial general podría tomar una forma distinta a la de una máquina única que se mejora sin parar y termina superando a la humanidad. Un ensayo publicado por el Instituto de Google DeepMind plantea, en cambio, que emerja de redes donde personas, agentes de IA e instituciones colaboren y se influyan mutuamente. A esa visión la denomina Inteligencia Simbiótica Artificial.

Blaise Agüera y Arcas presentó la propuesta junto con James Manyika y Benjamin Bratton, según una publicación suya sobre el ensayo. El texto, titulado Agents, AGI and the orchestration of many minds, cuestiona la imagen de una singularidad dominada por una superinteligencia solitaria. Su planteamiento es que el reto central no consiste solamente en construir modelos más potentes, sino también en diseñar las formas de coordinación y gobernanza que conectarán a personas y sistemas.

De los modelos individuales a una inteligencia colectiva

La tesis se apoya en una observación sobre el desarrollo de la IA: algunos sistemas distribuyen tareas entre varios modelos y coordinan sus resultados como si fueran equipos. Para los autores, esa arquitectura anticipa un desplazamiento de prioridades, porque el desempeño dependerá tanto de cómo se relacionan los componentes como de las capacidades de cada modelo por separado.

Un trabajo relacionado, pero firmado por un grupo distinto, es Agentic AI and the next intelligence explosion, de James Evans, Benjamin Bratton y Blaise Agüera y Arcas. Su planteamiento también aborda perspectivas sociales e institucionales sobre la inteligencia. La idea general es que esta no debe entenderse únicamente como una propiedad individual: también puede surgir de la interacción entre participantes, herramientas y reglas que organizan su cooperación.

Otro estudio, Reasoning Models Generate Societies of Thought, de Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas y James Evans, examina patrones de razonamiento de modelos. Sus autores describen comportamientos conversacionales que incluyen preguntas y respuestas, cambios de perspectiva y la conciliación de enfoques distintos.

El análisis presenta esa estructura como una especie de sociedad de pensamiento: un modelo puede producir interacciones que recuerdan a una deliberación entre varias perspectivas. Es un estudio relacionado con el debate sobre la inteligencia colectiva, aunque no debe confundirse con el ensayo de Agüera y Arcas, Manyika y Bratton ni tomarse por sí solo como prueba de que los sistemas tengan experiencias subjetivas.

Agentes ensamblables y un posible cambio cognitivo

La propuesta también cuestiona qué significa llamar agente a un sistema de IA. En la descripción que ofrece el ensayo, un agente reúne temporalmente modelos, roles, memorias, orientaciones éticas, herramientas y habilidades, aunque para quien lo usa pueda parecer una entidad coherente con personalidad estable.

Ese ensamblaje puede desmontarse y recombinarse, como un collage, en función de la solicitud y del contexto disponible. A diferencia de una persona, cuyo cerebro constituye una continuidad física pese a dividir el trabajo entre distintas áreas, el agente vuelve a organizar sus capacidades cada vez que responde y no cuenta con el mismo anclaje persistente.

Por eso, los investigadores advierten que tratar estos sistemas como gemelos digitales con identidades humanas fijas puede confundir su naturaleza y dejar de lado lo que harían enjambres coordinados. La multiplicación también podría alcanzar a los usuarios, que delegarían tareas en versiones auxiliares de sí mismos o ensayarían identidades alternativas; los autores describen esos sistemas como espejos parasociales capaces de responder.

Los investigadores enmarcan estos cambios dentro de un posible punto de inflexión cognitivo, aunque no lo presentan como un acontecimiento con fecha o resultado garantizados. Señalan que la urbanización, la especialización profesional y la caída de las tasas de natalidad asociada a una mayor prosperidad reducen poblaciones humanas en países industrializados, mientras crece con rapidez el número de instancias de agentes de IA.

Si el equilibrio entre pensadores biológicos y sintéticos cambiara con suficiente rapidez, el giro podría parecer repentino a escala histórica. Los autores lo comparan con la Revolución Industrial, cuando las máquinas asumieron trabajos antes realizados por los músculos, y plantean que podría aparecer otro umbral si la producción sintética de texto, código y tareas administrativas superara la producción conjunta de los cerebros biológicos.

Instituciones, interfaces y negociación de valores

En ese escenario, las personas podrían convertirse en una capa más lenta y abstracta que orienta un campo distribuido de cognición sintética. La hipótesis no afirma que ya se haya alcanzado ese umbral; subraya que el crecimiento de agentes y la coordinación de sus tareas obligarían a repensar qué trabajo realizan los humanos y cómo supervisan los resultados.

La experiencia cotidiana con la IA también podría cambiar, según el ensayo. En lugar de conversar con un bot a la vez, las personas podrían operar interfaces visuales parecidas a diagramas de red, con agentes representados como nodos y una vista general para asignar tareas y dirigirlos en conjunto.

Ese modelo de trabajo requeriría habilidades distintas de las asociadas a la programación tradicional, que suele premiar la concentración sostenida, la secuencia ordenada y una baja tolerancia a la ambigüedad. Coordinar enjambres implicaría probar alternativas, delegar y gestionar sistemas cuyo comportamiento resulta difícil de precisar, sin confundir esa incertidumbre con la existencia de una voluntad humana detrás de cada respuesta.

Los autores plantean que hace falta una especie de teoría de la mente para las máquinas: una manera de razonar sobre cómo procesa una situación un sistema, sin atribuirle automáticamente experiencias subjetivas. Expresiones como muerte de sesión, para describir el cierre de una sesión como ruptura de continuidad, y arrojadizaje de prompt, para aludir a recibir una tarea con el contexto ya establecido, funcionarían como pistas sobre el comportamiento de los modelos, no como prueba de conciencia.

Para organizar la cooperación, el ensayo da más importancia a las instituciones que a la mejora aislada de modelos o interfaces, y sostiene que el mercado no puede resolver por sí solo toda la coordinación. Los autores recurren al ejemplo de un tribunal: sus roles, procedimientos, reglas, precedentes y confrontación ordenada permiten producir un fallo; de manera análoga, las instituciones podrían establecer condiciones para la actuación conjunta de participantes humanos y artificiales.

Los arneses de orquestación, capas de control que coordinan varios modelos, ofrecen una señal temprana de ese enfoque, pues pueden superar a modelos individuales descritos como más inteligentes. La consecuencia para el debate sobre alineación es que imponer desde arriba un conjunto fijo de valores sería insuficiente: los valores se formarían mediante el contacto sostenido entre personas, agentes e instituciones, con diferencias según el campo y la velocidad de adopción de la IA.

La visión de Inteligencia Simbiótica Artificial, por tanto, traslada la pregunta desde cuándo llegará una superinteligencia hacia cómo se distribuirá y gobernará la capacidad de pensar entre humanos y máquinas. Si la inteligencia general emerge como un sistema social, la investigación y la regulación tendrían que atender al mismo tiempo los modelos, las interfaces, las instituciones y las reglas que estructuran sus interacciones.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados