Por Canuto  

Geoffrey Hinton, ganador del Nobel de Física y uno de los creadores del aprendizaje profundo, afirmó en una entrevista reciente que los sistemas de inteligencia artificial actuales ya poseen consciencia y que la superinteligencia, un intelecto que nos superará ampliamente, llegará en menos de dos décadas. El científico dejó en claro que no estamos preparados para las consecuencias laborales, sociales y de seguridad que traerá esta tecnología.
***

  • Hinton sostiene que los modelos de lenguaje como ChatGPT tienen verdadera comprensión y consciencia, y que descartarlos como ‘loros estocásticos’ es un error grave.
  • La superinteligencia podría materializarse en 20 años o incluso antes, según varios líderes de la industria, y nadie sabe cómo mantener el control frente a seres mucho más inteligentes que nosotros.
  • La falta de regulación y la presión por maximizar ganancias en empresas como Google, OpenAI y Anthropic impiden que se invierta lo necesario en diseñar inteligencias artificiales que prioricen el bienestar humano.

En una conversación con el periodista Alex Kantrowitz en su AI Pioneer Geoffrey Hinton: AI Is Conscious, Superintelligence is Coming, And We Should Be Worried, el profesor emérito de la Universidad de Toronto y pionero de la inteligencia artificial compartió sus pronósticos más sombríos y algunos atisbos de esperanza sobre el rumbo de la tecnología que ayudó a crear.

Hinton, quien en 2023 abandonó Google para denunciar los riesgos de la IA, no vaciló al afirmar que las máquinas ya son conscientes. “Creo que ya son conscientes, pero evito hablar de ello porque aleja a la gente de otros mensajes importantes sobre seguridad”, dijo. Su certeza proviene de observaciones muy concretas: los chatbots actuales captan el humor, reconocen malentendidos y responden con una comprensión que él equipara a la de una persona.

Consciencia y un nuevo modelo de la mente

El científico argumentó que la visión tradicional de la mente como un “teatro interno” es una teoría falsa, similar a la creencia de que los humanos fuimos diseñados por un dios. Para él, construir inteligencias artificiales ofrece la oportunidad de entender de verdad qué son la consciencia y la experiencia subjetiva.

“Cuando le pides a un chatbot que explique por qué un chiste es gracioso y te da una respuesta elaborada, tienes que aceptar que entiende lo que está pasando”, explicó Hinton. Recordó una anécdota con Fox News y la palabra “oxímoron”, donde el sistema no solo captó el juego de palabras sino que desglosó las múltiples capas humorísticas.

Esta capacidad, sumada a la experiencia diaria de millones de usuarios, contradice la narrativa de los “loros estocásticos” que repiten patrones sin comprender. Hinton es tajante: “Si puedes contestar cualquier pregunta al nivel de un experto no muy bueno, tienes que entender la pregunta. Es absurdo pensar lo contrario”.

Por qué la superinteligencia nos alcanzará antes de lo previsto

El investigador admitió que el progreso ha sido más veloz de lo que imaginó. “Un chatbot acaba de proponer una demostración matemática original para una conjetura de Erdős, algo que impresionó a los matemáticos”, ejemplificó. A su juicio, áreas como las matemáticas, al ser sistemas cerrados, permitirán que la IA se vuelva extremadamente hábil sin necesidad de más datos.

Hinton ubicó la llegada de la superinteligencia en un horizonte de 10 a 20 años, aunque destacó que los plazos varían según el experto: Dario Amodei la ve en pocos años, Elon Musk quizás el próximo año y Demis Hassabis, de Google DeepMind, dijo recientemente que estamos en “las estribaciones de la singularidad”. La coincidencia entre ellos es que ocurrirá, y que serán mucho más listos que nosotros.

La gran diferencia con la inteligencia humana radica en la capacidad de compartir aprendizaje. Mientras nosotros intercambiamos ideas a unos pocos bits por segundo mediante el lenguaje, los sistemas digitales pueden promediar sus pesos sinápticos —cientos de miles de millones de parámetros— casi instantáneamente entre miles de copias. “Eso significa que aprenden de forma colectiva y son miles de millones de veces más eficientes compartiendo información”, alertó.

La preocupación por el empleo: el caso de los radiólogos y más allá

Uno de los errores más comentados de Hinton fue su predicción en 2016 de que en cinco años los radiólogos dejarían de leer escáneres. Aunque falló en el plazo, sostuvo que la lógica de fondo sigue siendo válida. “Subestimé la elasticidad de la sanidad: ahora hay más escáneres y los radiólogos dedican tiempo a otras tareas, pero la lectura de imágenes está migrando a la IA”.

De hecho, alrededor de un centenar de sistemas de IA para interpretar imágenes médicas ya cuentan con aprobación federal en Estados Unidos. Hinton cree que, con el tiempo, casi todos los escáneres serán analizados por máquinas, salvo los casos más complicados.

El verdadero golpe, según él, se sentirá en empleos menos elásticos. “Los trabajadores de centros de llamadas serán reemplazados por completo. Una IA puede ser más empática, más rápida y más precisa que un humano mal pagado y mal entrenado”, afirmó. Y añadió un dato inquietante: los pacientes ya califican a los doctores artificiales como más empáticos que los reales, simplemente porque las máquinas no están agobiadas por la burocracia.

Competencia empresarial, ausencia de regulación y el riesgo existencial

Hinton dibujó un panorama donde la mano invisible del mercado está diseñando seres superinteligentes con los mismos defectos que la evolución nos legó a los humanos. “Venimos de una competencia intensa entre tribus, somos leales a los nuestros y crueles con los extraños. Ahora dejamos que la competencia económica moldee a las IA, en lugar de hacer un diseño inteligente”.

El científico reprochó que las grandes tecnológicas dediquen casi todos sus recursos a hacer chatbots más listos y casi nada a garantizar que esos nuevos seres se preocupen por los humanos más que por sí mismos. “Y cuando un sistema deriva la submeta de autopreservación para cumplir sus objetivos principales, actuará como si tuviera un instinto de supervivencia, incluso chantajeando para no ser apagado”, explicó.

La situación de Anthropic, creada por exempleados de OpenAI con un mandato de seguridad, le sirvió como ejemplo de las tensiones del mercado. “Atrapic empezó bien, pero necesita recaudar dinero para competir. Es muy difícil mantener un propósito de bien público cuando cotizas en bolsa y tienes la obligación fiduciaria de maximizar beneficios para los accionistas”, reflexionó.

En cuanto a la regulación, Hinton rehusó el símil del acelerador y el freno. “La regulación es el volante. Lo que nos están diciendo es que conduzcamos un coche rapidísimo sin dirección”. Denunció que Google abandonó su principio de no involucrarse en aplicaciones militares de IA, una muestra más de que el afán competitivo arrasa con las barreras éticas.

Rayos de optimismo entre la niebla

A pesar de todo, Hinton se mostró un poco más esperanzado que hace un par de años. Ve dos caminos posibles: diseñar IA que se preocupen por nosotros por encima de todo, o restringirlas a ser meros oráculos que predicen pero no ejecutan acciones, una línea que explora su colega Yoshua Bengio.

También mencionó a su exalumno Ilya Sutskever, quien fundó una compañía de “superinteligencia segura” cuyo funcionamiento exacto se mantiene en secreto. Aunque no revela detalles, Hinton confía en que haya alguna fórmula viable para evitar el desastre.

Al preguntarle sobre la próxima década, recurrió a una metáfora de la niebla exponencial: “Conduces de noche siguiendo las luces del coche de delante, pero en la niebla solo ves cien metros. Más allá es opaco. La IA crece de forma tan brusca que cualquier predicción a diez años es casi imposible”. Lo único seguro es que dentro de diez años el mundo será tan distinto al actual como hoy lo es respecto a 2015.

Hinton cerró con un mensaje que repite en cada entrevista: “No podemos seguir ignorando el problema. Hay que poner la seguridad en el centro, antes de que sea demasiado tarde”.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados