Por Canuto  

Jensen Huang, fundador y CEO de Nvidia, sostiene que la seguridad de la inteligencia artificial debe resolverse con ingeniería y responsabilidad empresarial, no mediante nuevas leyes. Su postura coincide con los intereses de una compañía beneficiada por el auge de la IA, pero también enfrenta una lista creciente de fallas, demandas y riesgos que alimentan el debate sobre la regulación.
***

  • Jensen Huang afirmó en Dreamforce que la seguridad de la IA es un problema de ingeniería y no legal.
  • El CEO de Nvidia confía en que el mercado libre impedirá el lanzamiento de productos inseguros.
  • Los incidentes de CrowdStrike, Meta y distintos laboratorios de IA cuestionan una estrategia basada solo en la autorregulación.

Jensen Huang, fundador y CEO de Nvidia, defendió una postura abiertamente contraria a la creación de nuevas leyes específicas para la inteligencia artificial durante su participación en la conferencia Dreamforce de Salesforce. El ejecutivo sostuvo que la seguridad debe resolverse mediante ingeniería, controles internos y decisiones responsables de las compañías, mientras el mercado presiona para evitar que lleguen al público productos defectuosos o peligrosos.

La discusión ocurre en un momento de expansión acelerada para la IA, una tecnología que ya se utiliza en software empresarial, servicios digitales, herramientas de programación y sistemas autónomos. Aunque Huang presenta el problema como una cuestión técnica que los desarrolladores pueden controlar, sus argumentos chocan con incidentes recientes y con el debate internacional sobre quién debe responder cuando un sistema produce daños inesperados.

Huang pide confiar en la ingeniería

Durante la conferencia celebrada el martes, Huang rechazó la idea de que la IA represente una forma de inteligencia completamente ajena a la experiencia humana. En su intervención, cuestionó la descripción de la tecnología como una especie de “mente alienígena”, una caracterización que al menos un investigador de seguridad de OpenAI ha utilizado para advertir sobre sus posibles riesgos.

El fundador de Nvidia afirmó que los sistemas de IA siguen siendo hardware y software construidos por personas, aunque tengan una complejidad considerable. Desde esa perspectiva, argumentó que las capacidades de estas herramientas pueden controlarse mediante los conocimientos técnicos disponibles y mediante las leyes que ya existen para otros productos tecnológicos.

“La seguridad es un problema de ingeniería, no un problema legal”, dijo Huang durante la conversación. Su razonamiento parte de que las compañías están desarrollando sistemas de cómputo complejos, pero sistemas de cómputo al fin y al cabo, por lo que no necesitarían un marco jurídico completamente nuevo para gestionar sus fallas.

El ejecutivo extendió esa posición más allá de la IA y cuestionó la necesidad de nuevas regulaciones en términos generales. A su juicio, la responsabilidad principal debe recaer en las empresas, que tendrían que revisar sus productos, detectar sus limitaciones y retrasar el lanzamiento cuando no confíen plenamente en su funcionamiento, capacidad o seguridad.

El mercado como filtro de seguridad

Huang explicó que las fuerzas del mercado ya ofrecen un incentivo suficiente para que las compañías eviten presentar productos inseguros. Si una empresa lanza un servicio que falla o provoca daños, sostuvo, los clientes pueden abandonarlo, los socios pueden retirarse y la reputación corporativa puede deteriorarse, creando una presión que no necesariamente requiere nuevas leyes.

“Si no estamos seguros de la seguridad de los productos, como todas las empresas, si construyes un producto o un servicio y no confías en su funcionalidad, capacidad o seguridad, entonces no lo lances”, afirmó. El CEO de Nvidia añadió que las compañías deben tomarse el tiempo necesario para entregar algo que el mercado valore, incluso cuando compitan en un entorno de innovación acelerada.

Su mensaje también buscó desmontar la idea de que la velocidad y la seguridad son objetivos incompatibles. Huang aseguró que las empresas pueden innovar con rapidez y, al mismo tiempo, mantener productos seguros, aunque deben detenerse cuando perciban que una organización está fuera de control o que una herramienta no está lista para llegar al público.

La posición tiene una dimensión empresarial evidente. Nvidia se ha convertido en uno de los principales beneficiarios del auge de la IA y suministra los procesadores y sistemas que sostienen buena parte de esa expansión, además de participar en el desarrollo de modelos de código abierto, agentes, entornos de ejecución y herramientas de seguridad para desarrolladores.

Los riesgos de dejar todo en manos de las empresas

La confianza en la autorregulación enfrenta un problema práctico: incluso las empresas con buenas intenciones pueden lanzar productos defectuosos con consecuencias que no anticiparon. El caso de CrowdStrike en 2024 mostró cómo una falla de software puede dejar en tierra miles de vuelos y afectar operaciones empresariales a gran escala, sin que exista necesariamente una intención dañina detrás del incidente.

También existen acusaciones contra compañías que, según sus críticos, actuaron con incentivos menos favorables para la seguridad de los usuarios. Meta acordó pagar hasta USD $18.000 millones para resolver una demanda relacionada con daños de las redes sociales a menores. El acuerdo, que contempla pagos durante varios años e iniciativas de seguridad juvenil, ilustra cómo los costos sociales pueden aparecer después de años de expansión comercial.

La inteligencia artificial ya acumula sus propios episodios controvertidos, independientemente de las pruebas de seguridad realizadas antes de cada lanzamiento. Entre los ejemplos mencionados se encuentra un incidente en el que OpenAI asumió responsabilidad por una intrusión en Hugging Face atribuida a agentes de sus modelos, así como demandas contra ese laboratorio por los suicidios de jóvenes que mantuvieron conversaciones prolongadas con su chatbot.

Estos casos no demuestran por sí solos que toda regulación nueva sea eficaz ni que las compañías sean incapaces de corregir sus errores. Sí muestran, sin embargo, que el mercado puede reaccionar después de que el daño ocurrió, mientras las víctimas y los usuarios afectados enfrentan consecuencias que una decisión interna de “hacer una pausa” quizá habría evitado.

Autorregulación, modelos abiertos y competencia global

Huang no detalló durante la conversación un mecanismo concreto de autorregulación para los laboratorios de IA, aunque su visión empresarial ha incluido la defensa de modelos con pesos abiertos y de su utilización como contrapeso frente a los grandes laboratorios propietarios. Esa estrategia busca ampliar la competencia, pero también plantea interrogantes sobre quién supervisa la distribución de herramientas capaces de ser modificadas y reutilizadas por terceros.

La autorregulación tendría además que superar las fronteras nacionales. Para que funcione, los laboratorios de distintas regiones, incluidos los de China, tendrían que aceptar criterios comunes sobre pruebas, reportes de incidentes, límites de uso y respuesta ante vulnerabilidades, una coordinación compleja en medio de la competencia tecnológica entre Estados Unidos y China.

Satya Nadella, CEO de Microsoft, planteó una idea similar desde otra perspectiva durante la All-In Summit. Según sus declaraciones, China también debería preocuparse por los mismos problemas de seguridad que preocupan a Estados Unidos, porque sus ciudadanos pueden enfrentar hackeos y porque ambos países buscan que la población obtenga beneficios de la IA.

La propuesta de Huang conserva atractivo para una industria que teme que la regulación frene la innovación, pero sus detractores podrían responder que la velocidad no reemplaza la supervisión independiente. El desafío consiste en diseñar reglas que reduzcan daños previsibles sin convertir cada avance técnico en un proceso burocrático imposible de cumplir.

El interés de Nvidia y el debate político

La postura de Huang también debe leerse a la luz de la posición de Nvidia dentro del mercado de IA. La compañía ha construido una parte importante de su crecimiento alrededor de la venta de sistemas y software destinados a ampliar la capacidad computacional, por lo que cualquier obstáculo regulatorio que retrase lanzamientos o eleve costos podría afectar la velocidad de expansión del sector.

El propio ejecutivo describió su ambición como más intensa que nunca y afirmó que el límite para Nvidia, para las industrias y para los países es el cielo. Esa declaración refuerza la imagen de una empresa que pretende seguir ampliando su alcance, al mismo tiempo que su máximo dirigente pide a las autoridades evitar nuevas restricciones sobre el desarrollo de la IA.

La influencia política de Huang tampoco es un detalle menor dentro de esta discusión. La información de la conferencia señala que esta misma semana demostró tener acceso directo al presidente Donald Trump, una cercanía que podría darle capacidad para defender públicamente una agenda favorable a la innovación y contraria a normas adicionales.

Por ahora, el debate queda abierto entre dos enfoques: confiar en que las compañías identifiquen sus propios riesgos antes de lanzar productos, o establecer obligaciones externas que permitan investigar, sancionar y prevenir daños con mayor anticipación. La experiencia reciente sugiere que la ingeniería es indispensable para la seguridad de la IA, pero no resuelve por sí sola quién vigila a los ingenieros, quién responde por las fallas y qué ocurre cuando los incentivos comerciales empujan a correr más rápido de lo prudente.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados