Por Canuto  

Greg Brockman, cofundador y CTO de OpenAI, expuso una visión amplia sobre la inteligencia artificial general, sus riesgos, sus beneficios potenciales y la necesidad de diseñar desde ahora las condiciones políticas, técnicas y culturales que definirán su impacto sobre la humanidad.
***

  • Brockman sostuvo que la AGI podría ser la tecnología más transformadora jamás creada, pero insistió en que su desarrollo debe guiarse por seguridad y gobernanza.
  • El directivo explicó por qué OpenAI combinó investigación, seguridad y política pública, y defendió la creación de OpenAI LP para reunir recursos sin abandonar su misión.
  • También abordó GPT-2, la escalabilidad del aprendizaje profundo, los límites del lenguaje, la regulación, la carrera por la AGI y un futuro lleno de bots difíciles de distinguir de humanos.

Greg Brockman, cofundador y director de tecnología de OpenAI, presentó una visión ambiciosa sobre la inteligencia artificial general, o AGI, como una fuerza capaz de redefinir la economía, la ciencia y la vida cotidiana.

Durante la conversación Greg Brockman: OpenAI and AGI, publicada por MindVoice Production en una entrevista conducida por Lex Fridman, el ejecutivo repasó tanto la promesa de esta tecnología como los riesgos de desarrollarla sin suficientes salvaguardas.

El intercambio no se centró en un producto puntual ni en una novedad comercial. Más bien, funcionó como una radiografía de cómo OpenAI entiende la trayectoria de la IA, desde los modelos de lenguaje hasta la posibilidad de sistemas con capacidades comparables a las humanas.

Para Brockman, el punto clave no es solo si la AGI llegará, sino bajo qué condiciones emergerá. En su opinión, el margen real de acción consiste en definir las “condiciones iniciales” que moldearán la tecnología durante décadas.

Esa tesis atraviesa toda su argumentación. Así como Internet heredó la cultura abierta de sus orígenes académicos, Brockman cree que la AGI también podría heredar rasgos fundacionales que luego influyan de manera profunda en su despliegue global.

Una visión de la inteligencia como sistema escalable

Brockman explicó que una de sus motivaciones intelectuales siempre ha sido construir cosas con alto apalancamiento. Comparó las matemáticas y la programación como formas de pensar intensamente sobre un problema, codificar una solución y dejarla en “la biblioteca de la humanidad”.

En ese marco, sostuvo que el mundo digital ofrece una ventaja excepcional sobre el físico: la velocidad de iteración. Un solo individuo, dijo, puede crear software capaz de impactar a escala planetaria, algo mucho más difícil cuando se trata de mover átomos en el mundo material.

También defendió la idea de ver a los seres humanos como sistemas de procesamiento de información. A su juicio, esa aproximación describe bastante bien muchas de nuestras capacidades y ayuda a entender por qué computadoras e Internet han sido innovaciones tan transformadoras.

Desde ahí dio un paso más y sugirió que la civilización puede entenderse como una forma de inteligencia colectiva. Puso como ejemplo a la economía y a las empresas, que operan como sistemas emergentes con una “voluntad” propia, más allá de los objetivos individuales de cada persona involucrada.

Para ilustrarlo, evocó la “psicohistoria” de Isaac Asimov y la noción de que grandes agregados de agentes podrían volverse predecibles a escala macro. Esa intuición también conecta con su visión de la innovación tecnológica como una ola histórica sobre la cual distintos actores apenas ajustan la cronología.

En su lectura, si Albert Einstein no hubiese existido, alguien más habría llegado a la relatividad. Quizás habría tomado otros 20 años, pero la verdad subyacente no se habría perdido para siempre.

Esa idea lo llevó a una conclusión estratégica. Si casi nadie puede inventar algo que la humanidad no hubiese descubierto de todos modos, entonces la palanca más importante consiste en influir en las reglas y valores con los que nace una tecnología.

OpenAI y la apuesta por fijar las condiciones iniciales de la AGI

Brockman señaló que esa lógica es central en la visión de OpenAI. Si la AGI va a existir en algún momento, la pregunta decisiva no es solo quién la construye, sino cómo se orienta para que su impacto sea más positivo que negativo.

Cuando se le preguntó qué haría si ya existiera un sistema de AGI poderoso, respondió que la primera consulta sería cómo asegurarse de que todo “salga bien”. No habló de delegar ciegamente el juicio moral a la máquina, sino de usar su perspectiva como un insumo adicional.

Comparó ese escenario con el período posterior a la creación de las armas nucleares. En ambos casos, dijo, surge de inmediato una cuestión de orden mundial y de supervivencia como especie, aunque con la AGI aparecería también un enorme potencial constructivo.

Ese lado positivo, remarcó, suele recibir menos atención de la que merece. Imaginó sistemas capaces de leer toda la literatura científica, diseñar curas para enfermedades, resolver problemas sociales complejos y hasta crear robots biodegradables para limpiar desechos oceánicos.

Según Brockman, muchas personas se quedan atrapadas en los escenarios negativos porque es más fácil detectar cómo algo puede salir mal que describir de manera convincente cómo podría salir muy bien. Crear exige acertar en muchas variables; destruir, solo equivocarse en una.

Por eso defendió que OpenAI hable tanto de riesgos como de beneficios. Para él, no existe contradicción entre advertir peligros y al mismo tiempo intentar construir sistemas avanzados, siempre que la organización incorpore la seguridad y la gobernanza desde el inicio.

Las tres patas de OpenAI: capacidades, seguridad y política

Para responder a quienes creen que alinear una AGI con valores humanos puede ser un problema insoluble, Brockman describió la estructura de OpenAI en tres grandes áreas. La primera es capacidades, enfocada en empujar los límites técnicos de lo que los sistemas pueden hacer.

La segunda es seguridad, dedicada a mecanismos técnicos que ayuden a alinear los sistemas con preferencias humanas. La tercera es política, orientada a responder una pregunta más incómoda: de quiénes serían esos valores y cómo se gobernaría su aplicación.

Sobre la alineación técnica, dijo que mucha gente se detiene demasiado pronto al observar que los humanos ni siquiera pueden escribir con precisión sus propias preferencias. Sin embargo, argumentó que ya existen sistemas que aprenden patrones que no pueden especificarse manualmente.

Usó como ejemplo el reconocimiento de imágenes. Resulta muy difícil redactar reglas exhaustivas para distinguir un gato de un perro, pero los modelos pueden aprender esa distinción a partir de datos.

Brockman afirmó que OpenAI ha visto señales alentadoras de que los sistemas pueden aprender preferencias humanas desde ejemplos y retroalimentación. En ese sentido, comparó el problema con la formación de un niño, que absorbe valores mediante datos sociales, ejemplos y correcciones.

Al mismo tiempo, admitió que eso no resuelve la pregunta política. Las ideas de bien, orden social y convivencia difieren entre países y culturas, por lo que la gobernanza de una AGI no puede reducirse a un único marco moral simple.

El reto, dijo, es imaginar un mundo en el que Estados Unidos, China, Rusia y cientos de otros países puedan coexistir junto a sistemas muy poderosos sin que la experiencia humana pierda sentido. A su juicio, no hay respuestas listas para eso.

Por qué OpenAI creó OpenAI LP y cómo intenta blindar su misión

Brockman recordó que OpenAI nació en 2015, cuando el grupo empezó a pensar que la AGI podría ser posible antes de lo que muchos creían. Esa percepción cambió por completo la escala del problema y de los recursos necesarios para afrontarlo.

Según explicó, en los primeros años la organización pasó de una intuición general a una realidad más dura: desarrollar AGI requeriría reunir muchos más recursos de los que un esquema puramente sin fines de lucro podía captar. Habló de la necesidad de levantar “muchos miles de millones de dólares”.

Esa necesidad llevó a crear OpenAI LP, una entidad con fines de lucro limitados y controlada por la estructura sin fines de lucro original. La lógica, según Brockman, fue diseñar un vehículo capaz de atraer capital sin renunciar a la misión de beneficiar a toda la humanidad.

Destacó que el retorno para inversionistas está topado. Si la AGI llegara a crear un valor económico enorme, el excedente no quedaría concentrado en accionistas o empleados, sino que pertenecería legalmente a la entidad sin fines de lucro para cumplir su misión.

Brockman insistió en que el verdadero deber fiduciario de OpenAI no es maximizar ganancias, sino obedecer su carta fundacional. Esa carta, añadió, fue trabajada durante alrededor de 1 año, precisamente para minimizar conflictos entre incentivos económicos y objetivos de largo plazo.

También reconoció la tensión interna de intentar ser, al mismo tiempo, un actor competitivo y una entidad abierta a que otro construya la AGI si lo hace de forma segura y beneficiosa. En su visión, el objetivo real no es que OpenAI gane la carrera, sino que el resultado global sea bueno para el mundo.

Sobre la cultura interna, dijo que la carta y la misión deben materializarse en la práctica diaria. Aseguró que los empleados tienen espacio para cuestionar decisiones, advertir desvíos y hablar directamente con líderes como él mismo o Sam Altman.

GPT-2, desinformación y un futuro lleno de agentes artificiales

Uno de los pasajes más concretos de la conversación giró en torno a GPT-2. Brockman defendió la decisión de no liberar inicialmente el modelo completo, al considerar que representaba un caso de prueba para introducir la idea de “divulgación responsable” en inteligencia artificial.

Explicó que GPT-2 no surgió de una nueva arquitectura revolucionaria, sino de escalar un modelo anterior liberado en junio del año previo. Al aumentar drásticamente la escala, el sistema empezó a producir prosa coherente de una forma que antes no se había visto.

El punto crucial, añadió, es que si hoy un modelo puede parecer apenas una curiosidad académica, versiones futuras multiplicadas por 10, 100 o 1.000 podrían tener capacidades sustancialmente más delicadas. Por eso creyó necesario empezar a dibujar una línea de cautela antes de llegar a ese estadio.

Entre los riesgos mencionó la generación de noticias falsas, contenido abusivo y mensajes políticos fabricados a gran escala. También observó que estos modelos absorben sesgos y material ofensivo de Internet, ya que su entrenamiento se nutre de enormes volúmenes de texto disponible en línea.

Al mismo tiempo, reconoció usos positivos obvios. Citó aplicaciones creativas, como asistir a autores de ciencia ficción, además de otras posibilidades en procesamiento de lenguaje natural que podrían enriquecer la producción y exploración de ideas.

Cuando la charla derivó hacia un futuro de bots cada vez más convincentes, Brockman planteó una posición fuerte. A su juicio, intentar distinguir siempre entre humano y robot a través del contenido será una batalla perdida.

Como analogía mencionó la evolución de los CAPTCHA. Lo que antes servía para separar humanos de máquinas se ha vuelto cada vez más difícil incluso para personas, señal de que ese criterio técnico se degrada a medida que mejora la IA.

Frente a ese panorama, sugirió que la autenticación del origen podría importar más que la autenticación del contenido. Habló de identidades digitales enlazadas con personas reales y de redes de reputación como posibles mecanismos para navegar un entorno saturado de agentes automáticos.

No obstante, marcó una línea roja. Lo realmente inaceptable, dijo, sería la decepción deliberada, es decir, sistemas que finjan ser humanos sin transparencia y manipulen a las personas ocultando su verdadera naturaleza.

Escala, razonamiento y el largo camino hacia una inteligencia general

Brockman defendió con claridad la tesis de que la IA moderna ha avanzado gracias a la combinación de ideas algorítmicas y escala computacional. No redujo el progreso al cómputo puro, pero sí sostuvo que los métodos verdaderamente prometedores son los que mejoran al recibir más datos y más capacidad de cálculo.

En ese marco describió tres propiedades del aprendizaje profundo que, en su opinión, lo vuelven una base esperanzadora para la AGI: generalidad, competencia y escalabilidad. Con pocas herramientas, dijo, ya ha servido para resolver tareas muy diversas.

También remarcó que sistemas mayores, con más datos y más cómputo, suelen funcionar mejor. Para Brockman, esa pauta histórica ofrece una señal potente de que se está ante un paradigma con potencial real de transformarse en algo mucho más general.

Aun así, descartó la idea de que simplemente escalar GPT-2 bastaría para alcanzar razonamiento pleno. Según explicó, la forma en que los humanos piensan parece implicar un uso variable de cómputo, refinando respuestas paso a paso, algo que no encaja del todo con una sola pasada hacia adelante.

Por eso adelantó que OpenAI estaba lanzando un equipo de razonamiento junto a Ilya Sutskever. El objetivo sería explorar cómo lograr que redes neuronales realicen procesos más cercanos al razonamiento formal, con pruebas como demostración de teoremas, programación y análisis de seguridad de código.

Su intuición es que los modelos de lenguaje ya han llegado más lejos de lo que muchos esperaban. Aun sin cuerpo físico ni experiencia directa del mundo, muestran nociones parciales sobre objetos, fuego, humo y relaciones del entorno, aunque todavía cometan errores evidentes.

También defendió el valor de la investigación en pequeña escala. Si bien una parte creciente del progreso requiere clústeres masivos, cree que aún existe espacio para que investigadores con menos recursos descubran ideas nuevas que luego brillen al escalarse.

Como ejemplo citó avances como los GAN y los VAE, nacidos sin infraestructuras monstruosas. Sin embargo, advirtió que algunos comportamientos cualitativamente nuevos solo aparecen cuando se empuja un algoritmo varias órdenes de magnitud más allá de sus pruebas iniciales.

Dota, simulación, regulación y especulación sobre conciencia

Otro bloque importante de la conversación repasó el trabajo de OpenAI con Dota. Brockman explicó que eligieron ese videojuego por su complejidad, su dinámica continua y la dificultad de programar bots efectivos con reglas fijas, a diferencia de juegos como ajedrez o Go.

El método central fue self-play, donde dos agentes que no saben nada compiten entre sí y mejoran progresivamente. Esa idea, señaló, permitió primero avanzar en partidas 1 contra 1 y luego escalar hacia el formato completo de 5 contra 5.

Describió a esos agentes como una inteligencia casi “insectoide”. No razonan como un humano ni aprenden cálculo, pero se adaptan muy bien a su entorno y logran responder a situaciones que no habían visto, incluso cuando juegan contra estilos humanos distintos a los bots con los que entrenaron.

El despliegue técnico fue colosal. Brockman habló de cerca de 100.000 núcleos de CPU, cientos de GPU y el equivalente a cientos de años de experiencia acumulada por cada día real de entrenamiento.

Respecto al evento competitivo, reconoció que OpenAI no logró vencer a los mejores equipos del mundo en la modalidad 5 contra 5 en aquella presentación pública. Aun así, subrayó que las partidas fueron reñidas y que dos semanas después el bot ya tenía una tasa de victoria de 80% frente a la versión que jugó en ese escenario.

En política pública, Brockman sostuvo que el papel del gobierno es indispensable, aunque no en forma de regulación prematura. Su recomendación en ese momento era priorizar la medición, la alfabetización institucional y el entendimiento del ritmo al que avanza la tecnología.

Para sistemas de IA estrecha, como vehículos autónomos, opinó que reguladores sectoriales existentes ya deben intervenir. Para AGI, en cambio, creyó necesario evitar sofocar un campo naciente antes de comprender mejor sus implicaciones reales.

La conversación incluso derivó hacia simulación y conciencia. Brockman dijo no tener una opinión firme sobre si vivimos en una simulación, pero sí defendió que la simulación puede ser más poderosa de lo que muchos creen, como mostró el caso de Dactyl, entrenado en un entorno simulado y transferido a un robot físico.

Sobre si una IA necesita cuerpo o conciencia para acercarse a la inteligencia general, su respuesta pragmática fue que probablemente no. GPT-2, recordó, ya desmintió parte de la idea de que sin experiencia corporal no puede emerger ningún entendimiento útil.

En el plano más especulativo, admitió que no está claro cómo medir conciencia en sistemas artificiales. Cerró con una nota deliberadamente humana y optimista al afirmar que espera que algún día exista amor entre humanos e inteligencias artificiales, una respuesta que selló la entrevista con tono casi filosófico.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados