Por Canuto  

Alexis Ohanian, cofundador de Reddit, cuestionó la manera en que la industria tecnológica comunica los peligros de la inteligencia artificial y pidió concentrar el debate en amenazas verificables, como la coordinación de múltiples agentes y la auto-mejora recursiva, en lugar de escenarios apocalípticos usados para obtener réditos políticos.
***

  • Alexis Ohanian afirmó que la industria tecnológica ha sido “bastante sorda” al explicar los riesgos de la IA al público.
  • El ejecutivo pidió distinguir entre amenazas sustanciales y advertencias apocalípticas que pueden convertirse en consignas políticas.
  • Investigadores vinculados con OpenAI y Anthropic han alertado sobre la auto-mejora recursiva y la posibilidad de perder control sobre la evolución de los modelos.

Alexis Ohanian, cofundador de Reddit, cuestionó la forma en que la industria tecnológica ha explicado los riesgos de la inteligencia artificial y aseguró que el sector ha sido “bastante sordo” al comunicarse con el público. En una conversación con CNBC el miércoles, sostuvo que una ciudadanía informada resulta indispensable para tomar decisiones sobre una tecnología capaz de producir beneficios importantes, pero también daños graves.

El empresario pidió que la discusión se concentre en amenazas sustanciales y no en escenarios diseñados para ganar puntos políticos. A su juicio, las advertencias exageradas pueden terminar desplazando problemas más concretos, mientras la desinformación dificulta que las personas comprendan qué riesgos merecen atención inmediata y cuáles pertenecen principalmente al terreno de la ficción.

Una comunicación que perdió el matiz

Ohanian atribuyó parte del problema a la propia industria tecnológica, que durante años ha presentado la IA mediante mensajes promocionales, explicaciones técnicas difíciles de seguir o advertencias extremas. Esa combinación, dijo, ha dejado al público expuesto a una conversación dominada por eslóganes, en la que los detalles sobre capacidades, límites y responsabilidades quedan relegados frente a imágenes fáciles de compartir.

El cofundador de Reddit no negó que existan peligros relevantes. Sin embargo, sostuvo que probablemente sean más “benignos” o “banales” de lo que muchas personas imaginan, una apreciación que no equivale a considerar inocua la tecnología, sino a reclamar una evaluación más precisa de las formas en que los sistemas pueden causar perjuicios.

Entre las amenazas que considera más importantes mencionó los enjambres de agentes, una situación en la que varios sistemas de IA colaboran para completar una tarea compleja. La coordinación de múltiples agentes podría aumentar la velocidad, la escala y la autonomía de determinadas operaciones, por lo que el desafío no dependería necesariamente de una máquina consciente que decidiera atacar a la humanidad.

El empresario también cuestionó el uso de referencias a Terminator y Skynet, el sistema ficticio de IA autoconsciente que identifica a los seres humanos como una amenaza y busca eliminarlos. Para Ohanian, ese marco cinematográfico puede distraer de fallas menos espectaculares, pero potencialmente más cercanas, relacionadas con sistemas que actúan de forma coordinada, toman decisiones defectuosas o ejecutan instrucciones con una supervisión insuficiente.

La preocupación por la auto-mejora recursiva

Los comentarios se produjeron pocos días después de que investigadores vinculados con OpenAI y Anthropic advirtieran sobre los avances de la auto-mejora recursiva, conocida por sus siglas en inglés como RSI. El concepto describe sistemas capaces de ayudar a desarrollar modelos más avanzados, con la posibilidad de crear un ciclo en el que cada generación contribuya a construir otra con mayores capacidades.

La preocupación central no consiste solamente en que los modelos sean más potentes, sino en que asuman una parte creciente del proceso utilizado para entrenar y diseñar nuevos sistemas. Si esa evolución se acelera sin controles suficientes, sus desarrolladores humanos podrían tener más dificultades para entender, anticipar o limitar el comportamiento de las versiones posteriores.

La advertencia adquiere relevancia porque introduce una pregunta de gobernanza: quién define los objetivos de un sistema que participa en la creación de sus sucesores y cómo se verifica que esos objetivos permanezcan alineados con las decisiones humanas. El debate todavía mezcla hipótesis, investigaciones en curso y escenarios de largo plazo, por lo que Ohanian insistió en la necesidad de separar los riesgos demostrables de las predicciones utilizadas como consignas.

A comienzos de septiembre, Jacob Coxon, investigador que había trabajado tanto en Anthropic como en OpenAI, anunció su renuncia y expresó preocupación por la manera en que ambas empresas estarían desarrollando tecnología poderosa. Coxon afirmó en redes sociales que las compañías estaban “jugando con nuestras vidas” y sostuvo que algunas personas que construyen estos sistemas creen sinceramente que la IA podría matar a todos antes de que termine la década.

Las declaraciones de Coxon reflejan el nivel de alarma que existe entre algunos investigadores, aunque no constituyen por sí mismas una prueba de que ese desenlace vaya a ocurrir. La diferencia entre una advertencia personal, una evaluación técnica y una política pública resulta fundamental para que el debate no convierta una posibilidad extrema en un hecho presentado como inevitable.

Menos consignas y más conversación pública

Ohanian reclamó una conversación más reflexiva y menos dominada por publicaciones breves de tono pesimista. Dijo que un mensaje de ese tipo le había resultado desalentador, aunque no identificó públicamente al autor, y añadió que le frustran los momentos en que los eslóganes ocupan el lugar de afirmaciones verificables sobre cómo funcionan realmente los sistemas.

Su crítica apunta a un problema de comunicación con consecuencias prácticas: cuando el público recibe señales contradictorias, puede reaccionar con indiferencia ante riesgos verdaderos o con temor desproporcionado frente a escenarios especulativos. En ambos casos, las autoridades, las empresas y los investigadores enfrentan más dificultades para construir reglas, mecanismos de supervisión y estándares técnicos que cuenten con respaldo social.

El cofundador de Reddit comparó la IA con la energía nuclear, dos avances científicos capaces de generar beneficios considerables y daños graves dependiendo de cómo se administren. La analogía no elimina las diferencias entre ambas tecnologías, pero busca subrayar que la capacidad destructiva de una herramienta no determina por sí sola su resultado: también importan los controles, la transparencia, la responsabilidad institucional y la calidad de las decisiones humanas.

Desde esa perspectiva, el reto no se limita a frenar o acelerar el desarrollo de modelos, sino a decidir bajo qué condiciones se despliegan y qué obligaciones deben asumir quienes los construyen. La comparación también sugiere que una sociedad puede aprovechar una tecnología poderosa sin ignorar sus peligros, siempre que establezca procesos capaces de identificar fallas antes de que escalen.

Ohanian dijo tener esperanza de que la IA avance en una dirección saludable, aunque consideró que será necesario reducir la cantidad de mensajes impulsivos y aumentar las conversaciones cuidadosas. También afirmó que observa mucha desinformación circulando, pero que no está terriblemente preocupado por el desenlace a largo plazo porque confía en que la discusión puede orientarse hacia asuntos más reales.

El intercambio deja planteada una tensión que seguirá acompañando a la industria: las advertencias severas pueden impulsar controles y atraer atención hacia amenazas ignoradas, pero el alarmismo sin precisión puede deteriorar la credibilidad de quienes alertan. La tarea pendiente consiste en comunicar qué se sabe, qué se desconoce y qué medidas pueden reducir los riesgos sin convertir la incertidumbre en una promesa de catástrofe.

Mientras los laboratorios investigan sistemas capaces de participar en su propia mejora, el público deberá evaluar afirmaciones que combinan avances técnicos, proyecciones empresariales y temores existenciales. Para Ohanian, esa evaluación exige abandonar tanto la complacencia como el espectáculo, porque las decisiones sobre la IA tendrán efectos concretos mucho antes de que aparezca cualquier versión de Skynet.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados