Por Canuto  

Robert O’Callahan, experto técnico de Google DeepMind en Nueva Zelanda, renunció porque considera excesivo el ritmo de avance de la IA y ve irresponsable perseguir pronto una inteligencia superinteligente.
***

  • O’Callahan trabajó en herramientas de diseño de chips que, según explicó, ayudan a reducir el costo y aumentar la velocidad de la inteligencia artificial.
  • El investigador describió como real, aunque incierto, el riesgo de la IA superinteligente y enumeró posibles daños sociales, económicos y de ciberseguridad.
  • Tras dejar Google DeepMind, dijo que buscará una labor «inequívocamente prohumana» y señaló que otros colegas comparten inquietudes, aunque rara vez las expresan en público.

Investigador de Google DeepMind renuncia y cuestiona la carrera hacia la superinteligencia

Una renuncia motivada por el ritmo de la IA

Robert O’Callahan, experto técnico de Google DeepMind en Nueva Zelanda, dejó la compañía al concluir que el ritmo actual de cambio de la inteligencia artificial es demasiado alto. El investigador sostiene que perseguir una inteligencia artificial superinteligente en un futuro cercano resulta «inherentemente irresponsable», una postura que vincula con los riesgos que atribuye al desarrollo acelerado de estos sistemas.

La salida tiene un componente personal y profesional: O’Callahan participó en el desarrollo de herramientas para diseñar chips que contribuyeron a hacer la IA más rápida y barata. Según explicó, esa labor ya no le parece justificable frente a las consecuencias que considera posibles, por lo que decidió apartarse de un trabajo que ayudaba a fortalecer la infraestructura tecnológica del sector.

En un texto sobre su decisión, el investigador no presenta el peligro de la superinteligencia como un desenlace seguro. Lo describe como «real pero incierto», una formulación que distingue entre reconocer un riesgo y afirmar que necesariamente ocurrirá una catástrofe, y que también explica por qué su crítica se concentra en la velocidad de la apuesta tecnológica.

La nota de The Decoder, fechada el 25 de septiembre de 2026, presenta la renuncia como otro caso de un investigador de Google que abandona su puesto por preocupación ante los riesgos de la IA. O’Callahan dijo que ahora quiere dedicarse a un trabajo «inequívocamente prohumano», sin especificar en el material citado qué proyecto o institución podría ocupar ese lugar.

Las preocupaciones que enumera el investigador

O’Callahan advierte que el impacto de la IA no se limitaría a la posibilidad de que surja un sistema superinteligente. Entre los riesgos que menciona están la rendición cognitiva, la psicosis y la soledad inducidas por la IA, además de la concentración del poder, la disrupción económica y las amenazas de ciberseguridad.

La variedad de esas alertas reúne problemas de naturaleza distinta: algunos se refieren a la relación de las personas con sistemas automatizados, mientras otros apuntan a efectos colectivos sobre la economía, la seguridad y la distribución de influencia. El investigador los presenta como motivos para reconsiderar la velocidad del desarrollo, aunque el material no aporta mediciones ni proyecciones cuantitativas sobre la probabilidad o la magnitud de cada riesgo.

El concepto de rendición cognitiva alude, en la advertencia de O’Callahan, a la posibilidad de que las personas cedan a sistemas de IA tareas de razonamiento o juicio. La fuente también recoge sus inquietudes sobre psicosis y soledad inducidas por la tecnología, pero no describe casos concretos ni establece que esos efectos se produzcan de manera generalizada.

Su advertencia sobre el poder concentrado y la disrupción económica amplía el debate más allá de la seguridad técnica de los modelos. O’Callahan apuesta a que los daños de la IA superarán sus beneficios, una valoración personal que expresa la gravedad de su preocupación, pero que no constituye por sí misma una conclusión demostrada sobre el balance futuro de la tecnología.

La tensión entre acelerar la tecnología y limitar sus daños

La renuncia expone una contradicción que el propio investigador enfrenta en su trayectoria: contribuyó con herramientas que abaratan y aceleran la IA y ahora afirma que no puede justificar esa contribución. Su caso pone sobre la mesa una discusión sobre la responsabilidad de quienes construyen componentes e infraestructura que permiten ampliar las capacidades de los sistemas.

El material no afirma que las herramientas de diseño de chips desarrolladas por O’Callahan hayan causado por sí mismas alguno de los daños que enumera. Su argumento es más amplio: al haber trabajado en tecnologías que facilitan el avance de la IA, siente que su participación dejó de ser compatible con su evaluación de los riesgos y con el rumbo que toma el sector.

El investigador también asegura que muchos de sus colegas en DeepMind comparten inquietudes similares, aunque rara vez las expresan públicamente. Esa observación es su testimonio sobre el clima interno, no una declaración oficial de la empresa ni una confirmación independiente de que exista una posición común entre los trabajadores.

La distinción importa porque el debate combina evaluaciones técnicas, desacuerdos sobre escenarios futuros y decisiones personales sobre qué proyectos apoyar. O’Callahan no sostiene que todos los investigadores deban abandonar sus empleos, pero su salida muestra que, para él, seguir contribuyendo al desarrollo acelerado ya no resulta aceptable.

Un debate más amplio sobre catastrofismo y respuestas

O’Callahan enlazó el libro If Anyone Builds It, de Eliezer Yudkowsky y Nate Soares, sin respaldar la afirmación de sus autores de que crear una IA superinteligente conducirá inevitablemente a una catástrofe. Esa salvedad evita equiparar su preocupación con una predicción determinista: considera serio el riesgo, pero no afirma que el peor escenario sea inevitable.

La nota sitúa a Yudkowsky y Soares en el ámbito del altruismo efectivo, un movimiento que ha recibido críticas por priorizar la caridad frente a la redistribución. Ese señalamiento forma parte del contexto político e intelectual que rodea algunas discusiones sobre riesgos de IA, pero no demuestra por sí solo que las advertencias técnicas de los autores sean correctas o incorrectas.

Axios informó que un memorando de la Casa Blanca describe al movimiento como un grupo marginal de tipo sectario y señala al CEO de Anthropic, Dario Amodei, como la cara del «catastrofismo» en IA. Esa caracterización atribuida al memorando refleja una disputa sobre cómo presentar a quienes alertan sobre riesgos extremos, y no debe confundirse con una evaluación independiente de las preocupaciones expuestas por O’Callahan.

Por ahora, la información disponible no detalla qué trabajo emprenderá el investigador ni plantea una propuesta concreta para regular o frenar el desarrollo de la IA. Su renuncia deja planteada una pregunta central: cómo equilibrar los beneficios que promete una tecnología de rápida evolución con riesgos que, en su opinión, son suficientemente serios como para cambiar de rumbo antes de que la superinteligencia llegue a existir.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados