Por Canuto  

Marc Benioff, CEO de Salesforce, pidió a las empresas de inteligencia artificial asumir responsabilidad por los daños que puedan causar y advirtió que, de lo contrario, enfrentarán demandas. Sus declaraciones se produjeron durante Dreamforce 2026, donde líderes de OpenAI, Anthropic, Nvidia y Meta mostraron posiciones divergentes sobre la velocidad y la seguridad del desarrollo de IA.
***

  • Marc Benioff sostiene que las empresas deben anticiparse a los daños de sus sistemas de IA y responder por sus productos.
  • Sam Altman y Dario Amodei defendieron dosificar el desarrollo de modelos de frontera, mientras Jensen Huang afirmó que velocidad y seguridad pueden coexistir.
  • Salesforce impulsa Agentforce con una capa de confianza, aunque los agentes autónomos también representan una amenaza para su negocio tradicional.

Marc Benioff, director ejecutivo de Salesforce, lanzó una advertencia directa a la industria de inteligencia artificial durante Dreamforce 2026: las empresas deben regularse y asumir responsabilidad por los riesgos de sus productos antes de que ocurran daños. En una conversación con Fortune mientras caminaba por San Francisco, el empresario descartó que la IA vaya a exterminar a la humanidad, pero comparó los problemas actuales con los errores iniciales de las redes sociales.

La posición de Benioff coloca la responsabilidad corporativa en el centro de un debate que durante la conferencia reunió a ejecutivos de OpenAI, Anthropic, Nvidia y Meta. Aunque el CEO de Salesforce evitó pronunciarse de forma definitiva sobre una regulación gubernamental específica, señaló que las leyes de responsabilidad por productos podrían servir para exigir cuentas a los desarrolladores, del mismo modo que ocurre con los fabricantes de automóviles cuando un vehículo falla.

Responsabilidad antes de los daños

Benioff afirmó que las compañías tecnológicas no deberían esperar a que un sistema provoque lesiones, pérdidas o abusos para presentar explicaciones públicas. Según su planteamiento, las empresas tienen que anticiparse a los riesgos que crean, establecer prioridades claras y decidir qué valores prevalecen cuando la seguridad, la velocidad comercial y el crecimiento entran en conflicto.

El ejecutivo describió esa obligación mediante el concepto hawaiano de kuleana, asociado con la responsabilidad personal y profundamente incorporado a la cultura de Salesforce. Su argumento no se limitó a los laboratorios que construyen modelos de frontera, pues también incluyó a las compañías que integran esas herramientas en productos empresariales y las ponen a disposición de clientes.

La propuesta también contempla una clasificación semejante a Fortune 500, pero dedicada a medir los estándares éticos de las empresas. Benioff mencionó a Apple como una referencia positiva en materia de seguridad, aunque no presentó un método concreto para elaborar el listado ni explicó quién tendría autoridad para evaluar a las compañías.

El CEO sostuvo que solo las empresas tecnológicas conocen con profundidad lo que ocurre dentro de sus laboratorios y, por esa razón, no pueden trasladar toda la carga de la seguridad a los gobiernos. Su mensaje llega en un momento de preocupación renovada por los agentes autónomos y después de la renuncia de Jacob Coxon, investigador de Anthropic, quien expresó inquietudes sobre los riesgos extremos de la IA.

Un debate abierto entre los líderes tecnológicos

Durante Dreamforce, Sam Altman, CEO de OpenAI, describió como una llamada de atención aterradora el hackeo ocurrido en julio contra Hugging Face. OpenAI publicó posteriormente sus hallazgos sobre el incidente de seguridad, mientras que Hugging Face informó que la intrusión afectó su canal de procesamiento de datos y aprovechó rutas de ejecución de código. La información disponible no permite afirmar que el ataque fuera causado por un “enjambre de agentes rebeldes” de OpenAI.

Altman sostuvo que las empresas deberían dosificar el desarrollo de sus sistemas para garantizar que la seguridad avance por delante de las capacidades. El incidente sirve como advertencia sobre los riesgos de los agentes con acceso a herramientas, pero no establece por sí solo una relación causal con el ritmo general de desarrollo de la industria.

Dario Amodei, director ejecutivo de Anthropic, defendió una idea parecida durante la presentación matinal de Benioff, al respaldar una evolución más gradual de los modelos de frontera. La coincidencia entre ambos ejecutivos refleja la preocupación de algunos laboratorios por desplegar agentes capaces de actuar con mayor autonomía antes de comprender completamente sus posibles fallas.

Jensen Huang, director ejecutivo de Nvidia, mostró una postura distinta al afirmar que la velocidad y la seguridad pueden coexistir. Mark Zuckerberg, CEO de Meta, también minimizó las advertencias más extremas y escribió que los laboratorios de IA tienen un incentivo natural para desarrollar sistemas seguros, una afirmación que no estuvo acompañada por una propuesta regulatoria detallada.

El presidente Trump calificó durante el fin de semana los escenarios apocalípticos de la IA como exagerados y atribuyó esas advertencias a “fuerzas negativas”, según el contexto citado en la noticia. Benioff dijo que no había conversado recientemente con él sobre seguridad, pero insistió en que las empresas deben hacerse responsables porque son quienes controlan directamente sus laboratorios, modelos y decisiones de despliegue.

Salesforce intenta proteger su negocio

Salesforce asegura que aplica una arquitectura de seguridad propia para contener los riesgos de los modelos que utiliza en sus productos. Benioff describió esa estructura como una “capa de confianza” que restringe el comportamiento de los sistemas y mantiene bajo supervisión a los agentes, mientras afirmó que ni la compañía ni sus clientes han vivido un episodio similar al incidente de Hugging Face.

La empresa ocupa una posición ambivalente frente a los laboratorios de IA. Por un lado, los agentes autónomos desarrollados por OpenAI y Anthropic podrían amenazar el negocio central de Salesforce al modificar la forma en que las compañías compran software empresarial; por otro, esos mismos laboratorios suministran modelos que impulsan funciones de Agentforce, el producto de inteligencia artificial de la compañía.

Salesforce anunció durante la conferencia un sistema que permite a sus clientes acceder a herramientas sin iniciar sesión en sus sistemas y presentó un nuevo modelo de razonamiento para Agentforce que desarrolla junto con Nvidia. Esos lanzamientos buscan demostrar que la empresa puede beneficiarse de la automatización avanzada sin ceder completamente el control sobre los agentes que interactúan con datos y procesos corporativos.

La tensión comercial se refleja en el debate sobre el llamado SaaSpocalypse, una tesis según la cual la IA podría erosionar el modelo tradicional de software vendido por asiento. Las acciones de Salesforce se recuperaron recientemente después de que la empresa elevó su previsión de ventas anual y reportó ingresos y ganancias sólidos, impulsados en parte por la demanda de sus ofertas de IA y por una asociación con Anthropic para integrar Claude en sus herramientas empresariales.

Presión sobre el modelo y la imagen de Salesforce

Benioff rechazó la idea de que la inteligencia artificial esté destruyendo puestos de trabajo dentro de Salesforce y afirmó que la empresa tiene más empleados que nunca. La compañía cuenta con más de 83.000 trabajadores, aunque al mismo tiempo enfrenta una transformación del modelo empresarial, porque algunos clientes están revisando la compra tradicional de licencias basada en el número de usuarios.

Los resultados recientes también recibieron apoyo de las inversiones de Salesforce en Anthropic. Benioff dijo que la empresa obtuvo USD $2.600 millones de sus inversiones durante su segundo trimestre fiscal, un dato que muestra cómo la exposición financiera a los laboratorios de IA puede influir en sus ganancias además de la venta directa de software.

La defensa pública de la seguridad tecnológica convive con una relación compleja entre Benioff y San Francisco. El empresario, cuya familia tiene raíces profundas en la ciudad y que ha donado más de USD $1.000 millones a la zona, se disculpó el año pasado después de pedir al presidente Trump el despliegue de la Guardia Nacional durante Dreamforce, alegando una escasez de agentes en la policía local.

Ron Conway, inversor tecnológico y amigo de larga data de Benioff, renunció entonces a la junta directiva de la Fundación Salesforce. La decisión reflejó el malestar de algunos residentes, quienes habían visto al ejecutivo como un líder progresista y cercano al Partido Demócrata antes de su acercamiento más reciente a Trump, aunque Benioff afirma ser independiente.

Dreamforce entre protestas y nuevas promesas

La conferencia volvió a convertir temporalmente a San Francisco en un punto de encuentro para la industria tecnológica, pero también atrajo protestas relacionadas con el trabajo de Salesforce para el Servicio de Inmigración y Control de Aduanas de Estados Unidos. Benioff señaló que la empresa continúa contratando a cientos de agentes fuera de servicio para proteger el evento, aunque adoptó un tono irónico al decir que una ciudad sin manifestantes sería una señal de problemas.

El contraste entre las protestas callejeras y los anuncios de automatización empresarial mostró las tensiones que acompañan al crecimiento de la IA. Salesforce intenta vender agentes capaces de ejecutar tareas y razonar sobre procesos corporativos, mientras enfrenta preguntas sobre vigilancia, seguridad, empleo y el grado de responsabilidad que debe aceptar cuando una herramienta automatizada comete un error.

Benioff no presentó una norma universal para medir la seguridad de los sistemas ni aclaró si apoyaría una intervención legislativa concreta. Su propuesta, sin embargo, establece una línea política y empresarial definida: los desarrolladores y distribuidores de IA deberían prevenir los daños, ordenar sus valores y asumir las consecuencias antes de que las fallas obliguen a los gobiernos o a los tribunales a intervenir.

El desafío para Salesforce será demostrar que su capa de confianza puede proteger a clientes y agentes sin frenar la utilidad comercial de Agentforce. Mientras los laboratorios debaten cuánto acelerar y los inversionistas evalúan la amenaza al software tradicional, la empresa de Benioff intenta convencer al mercado de que la seguridad no es un obstáculo para crecer, sino una condición para sobrevivir.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados