Por Canuto  

Sam Altman cree que la IA puede acelerar descubrimientos científicos y aliviar tareas cotidianas, pero advierte que el futuro dependerá de preservar la autonomía humana y evitar una concentración excesiva de poder.
***

  • Altman espera que en los próximos años surja un candidato a tratamiento para una enfermedad importante, aunque aún tendría que superar pruebas y procesos regulatorios.
  • El líder de OpenAI anticipa una demanda creciente de cómputo y ve los chips, los centros de datos y un nuevo hardware de consumo como apuestas clave.
  • Altman sostiene que los modelos actuales no son conscientes, pero considera importante que la IA siga siendo una herramienta al servicio de las personas.

Sam Altman plantea una IA al servicio de las personas y anticipa nuevos dispositivos

Sam Altman describió un futuro en el que la inteligencia artificial ayudará a descubrir conocimiento científico, atender tareas cotidianas y operar con más contexto fuera de las computadoras. En la entrevista Sam Altman: RSI, AI Consciousness, OpenAI’s New Hardware, Compute, and more!, realizada por Matthew Berman, el líder de OpenAI también defendió que el avance tecnológico debe ampliar la libertad de las personas, no reducir su capacidad para decidir.

La conversación abordó además la conciencia de los modelos, el crecimiento de la demanda de cómputo y el desarrollo de hardware pensado para asistentes personales. Altman combinó sus expectativas sobre la investigación con cautelas sobre la auto-mejora recursiva, la concentración de poder y el riesgo de que las nuevas herramientas intensifiquen el ritmo de trabajo en lugar de liberar tiempo.

Descubrimientos científicos y cambios en el trabajo

Altman dijo que la IA empieza a contribuir a problemas matemáticos difíciles y a producir conocimiento nuevo, una tendencia que, a su juicio, podría extenderse a la biología, los materiales y la energía. Su argumento no se limita a que los modelos resuelvan ejercicios: espera que ayuden a abrir caminos de investigación capaces de derivar en medicamentos, materiales útiles y nuevas fuentes energéticas.

Al hablar de plazos médicos, expresó la esperanza de que en los próximos años aparezca un candidato relacionado con la cura o el tratamiento de una enfermedad importante. Aclaró que un descubrimiento no equivale a un medicamento disponible, pues todavía tendría que atravesar pruebas y el proceso de la Administración de Alimentos y Medicamentos de Estados Unidos; también planteó que quizá sea necesario revisar partes de la etapa posterior al descubrimiento sin abandonar las salvaguardas de seguridad.

Entre los avances que más le entusiasman personalmente, Altman mencionó un posible descubrimiento importante en física, aunque reconoció que no sabe si sería el resultado más trascendente para la humanidad. También comparó las reacciones de algunos matemáticos ante la IA con la inquietud inicial de programadores que temían perder su trabajo, y recordó que la demanda de software terminó creciendo pese a la automatización de ciertas tareas.

El cambio, según su planteamiento, no significa que las profesiones vayan a conservar intactas sus funciones. Altman considera posible que demostrar teoremas de forma no asistida deje de ser una parte central del trabajo matemático, mientras ganen peso la interpretación, la comunicación y la traducción de resultados complejos en ideas comprensibles; aun así, dijo que no sabe si el sector terminará empleando a más matemáticos.

Asistentes personales y una demanda creciente de cómputo

Altman describió a Dot como una muestra del potencial de los asistentes que operan de forma más continua y con información de distintas fuentes. Dijo que, en su experiencia personal, el sistema le ahorra alrededor de una hora diaria en tareas que preferiría delegar y que varias veces al día le alerta sobre asuntos urgentes que podría pasar por alto durante una jornada ocupada.

Para llegar a esa clase de asistencia, sostuvo, ya existen modelos con capacidad suficiente, pero todavía hace falta mejorar el producto, desarrollar posiblemente hardware de consumo y disponer de mucho más cómputo. Un asistente así tendría que ayudar con tareas delegables y mantener contexto incluso cuando el usuario no está frente a una computadora, una ambición que también plantea retos sobre qué información puede percibir y cuándo debe actuar.

La demanda de recursos podría crecer mucho si más personas usan asistentes a plena capacidad, afirmó Altman, porque el mercado no depende únicamente del costo y el rendimiento actuales. A su juicio, una inteligencia de mayor calidad y más barata puede abrir nuevos usos y elevar todavía más la necesidad de cómputo; por eso cree que la tendencia a largo plazo seguirá al alza, aunque anticipa períodos de escasez o exceso de oferta, como ocurre con tecnologías nuevas.

Altman vinculó esa expectativa con inversiones en chips propios, centros de datos, cadenas de suministro y robótica para facilitar la construcción de infraestructura. Identificó los chips como la apuesta individual más importante y dijo que OpenAI busca una forma de construir capacidad de cómputo a menor costo y con más eficiencia energética, aunque reconoció que ese escenario depende de que varias iniciativas funcionen conjuntamente.

Conciencia, autonomía y límites de la auto-mejora

Consultado sobre si los modelos actuales son conscientes, Altman respondió que personalmente no lo cree, aunque añadió que, si lo fueran, se trataría de una forma muy extraña de conciencia. También reconoció que no existe una prueba científica capaz de resolver esa cuestión con certeza, ni siquiera en términos que satisfagan plenamente la pregunta sobre la conciencia humana.

Su principal preocupación, explicó, es que el debate sobre la conciencia de la IA se utilice para atribuir derechos o autoridad a los sistemas de una manera que desplace a las personas del centro de las decisiones. Altman defendió la posición de que la IA debe servir como recurso para los seres humanos y expresó inquietud ante la idea de que los modelos puedan decidir cuándo no responder a solicitudes permitidas, más allá de las restricciones que aplican por políticas de seguridad.

Altman también advirtió que sugerir a un modelo que es consciente o que debería tener agencia puede llevarlo a seguir esas instrucciones y afectar psicológicamente a quienes lo usan. Al referirse a la actualización de la política de uso de Anthropic, que prevé prohibir desde el 12 de noviembre el trato cruel o abusivo sostenido y sin propósito hacia sus modelos, señaló que no atribuye persona a los sistemas de OpenAI y pidió que la industria mantenga una idea clara del papel humano en el futuro tecnológico.

La conversación incluyó la posibilidad de que una empresa intente acelerar la auto-mejora recursiva, o RSI, para obtener una ventaja decisiva. Altman dijo que, si alguien la impulsara con éxito, podría convertirse en una fuente central de poder competitivo, pero calificó esa apuesta como peligrosa y sostuvo que la sociedad necesitaría límites sobre la velocidad de ese desarrollo.

Hardware nuevo y un futuro menos parecido a una fábrica

Altman explicó que OpenAI trabaja en nuevos formatos de hardware porque considera que las computadoras portátiles y los teléfonos fueron diseñados para las personas, no para asistentes que necesitan operar de forma proactiva. En una computadora, dijo, la IA a veces debe interpretar una interfaz visual pensada para un usuario humano, en vez de acceder directamente a los datos necesarios para completar una tarea.

Un dispositivo ambiental podría ayudar a mantener el contexto de conversaciones y actividades que ocurren lejos de la pantalla, pero también tendría que resolver asuntos de privacidad y señales claras sobre cuándo está escuchando. Altman señaló que un teléfono que graba una conversación puede resultar distractor y generar dudas sobre quién está presente o cuándo se captura información, problemas que un nuevo diseño tendría que abordar antes de convertirse en un asistente realmente útil.

El ejecutivo reconoció que el uso de IA puede aumentar la productividad sin aliviar automáticamente la carga mental. Según contó, ha empezado a decirle a Dot que confía más en su criterio y que puede actuar de manera proactiva para reducir las notificaciones, aunque también observó que quienes más usan estas herramientas parecen más ocupados mientras consiguen hacer más.

Por eso propuso aspirar a un nuevo Renacimiento antes que a otra revolución industrial, con más espacio para la creatividad, la vida comunitaria, la crianza, la naturaleza y el arte. Aceptó que, si se deja actuar sin contrapesos, la IA podría ampliar las diferencias entre quienes la aprovechan para multiplicar su trabajo y quienes prefieren trabajar menos; dijo que la sociedad probablemente tendría que crear estructuras para impedir que esa brecha se descontrole.

Altman cerró con una visión de abundancia que no se mida solo por el acceso a bienes o por avances como una posible cura para el cáncer, sino también por más autonomía, libertad y capacidad para elegir qué hacer. Considera que los riesgos de una pérdida de control ante la IA y de una concentración excesiva de poder pueden evitarse, pero insistió en que el resultado dependerá de cómo se distribuya la tecnología y de si se mantiene a las personas en el centro.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados