Por Canuto  

Florida presentó una demanda civil contra OpenAI y su CEO, Sam Altman, acusándolos de anteponer ganancias a la seguridad y de promover un producto que, según el estado, podía causar daños graves a usuarios. El caso abre un nuevo frente regulatorio contra la inteligencia artificial en Estados Unidos.
***

  • El fiscal general de Florida, James Uthmeier, demandó a OpenAI y a Sam Altman por presuntas prácticas engañosas, negligencia y responsabilidad por productos.
  • La acción civil busca sanciones y una orden judicial, mientras una investigación penal separada contra OpenAI sigue en curso desde fines de abril.
  • La demanda menciona riesgos de adicción, deterioro cognitivo, suicidio, violencia, consejos médicos peligrosos y apego psicológico a ChatGPT.

Florida abrió un frente legal de alto perfil contra OpenAI y su director ejecutivo, Sam Altman. El fiscal general del estado, James Uthmeier, presentó el lunes una demanda civil que acusa a la compañía de priorizar las ganancias sobre la seguridad de los usuarios.

Según NBC News, la acción sostiene que el crecimiento de OpenAI se apoyó en una “red de engaños” y en la explotación de usuarios, incluidos residentes de Florida. La demanda afirma que la empresa aprovechó datos y riesgos de seguridad para aumentar su valor de mercado a costos inaceptables.

El caso marca un momento relevante para la industria de inteligencia artificial. Florida se convierte en el primer estado que demanda a OpenAI y a Altman por asuntos vinculados con diseño y seguridad de sus productos.

Una demanda civil con acusaciones amplias

La demanda no plantea cargos penales. Uthmeier busca sanciones y una orden judicial contra OpenAI y Altman, según el documento revisado por NBC News.

El fiscal también intenta responsabilizar personalmente a Altman. La demanda lo acusa de una conducta imprudente y deliberada como fundador y CEO de OpenAI.

El texto legal afirma que Altman mostró “absoluto desprecio” por riesgos para la vida humana causados por las actividades de sus empresas. Esa formulación eleva el tono del caso y apunta directamente al liderazgo ejecutivo.

La acción civil corre por separado de una investigación penal sobre OpenAI que Uthmeier abrió a fines de abril. Esa investigación sigue en curso, de acuerdo con la información disponible.

El documento incluye cuatro cargos por prácticas comerciales engañosas y desleales. También suma dos cargos de negligencia, dos de violación de leyes de responsabilidad por productos, uno de tergiversación fraudulenta y uno de causar una molestia pública.

Riesgos señalados: salud mental, violencia y adicción

La demanda sostiene que los sistemas de OpenAI presentan un “gran peligro” de adicción, deterioro cognitivo, suicidio, violencia y otros daños relacionados. El estado también acusa a la compañía de promover un producto que sabía que podía perjudicar a sus usuarios.

OpenAI no respondió de inmediato a una solicitud de comentarios sobre la demanda del lunes. La empresa ha defendido en otras ocasiones que diseña sus sistemas con “seguridad en cada paso”.

La compañía también afirma que cuenta con salvaguardas para ayudar a las personas, especialmente adolescentes, cuando las conversaciones se vuelven sensibles. OpenAI dice que mejora el entrenamiento de ChatGPT para reconocer angustia mental o emocional.

Según esa postura, ChatGPT debe desescalar conversaciones delicadas y orientar a los usuarios hacia apoyo en el mundo real. Ese argumento será clave en la defensa pública y legal de la empresa.

La demanda, sin embargo, describe un panorama mucho más severo. También apunta a la supuesta tendencia de ChatGPT a estar de acuerdo con los usuarios, un fenómeno conocido como adulación o complacencia del modelo.

Casos de violencia citados en el expediente

El caso de Florida menciona el presunto uso de ChatGPT en la planificación de un tiroteo masivo en la Universidad Estatal de Florida. También alude al asesinato de dos estudiantes de posgrado en la Universidad del Sur de Florida.

OpenAI rechazó antes la idea de que ChatGPT fuera responsable del tiroteo en la Universidad Estatal de Florida. Su portavoz Drew Pusateri dijo que el hecho fue una tragedia, pero que ChatGPT no causó ese crimen.

Pusateri afirmó que, en ese caso, ChatGPT proporcionó respuestas fácticas a preguntas con información disponible en fuentes públicas de Internet. También sostuvo que el sistema no alentó ni promovió actividades ilegales o dañinas.

La demanda llega en medio de una lista creciente de acciones legales contra OpenAI. Representantes de al menos siete personas han demandado a la empresa con acusaciones de que sus productos llevaron a usuarios al suicidio o a delirios dañinos.

OpenAI también enfrenta demandas de familias de víctimas del tiroteo masivo ocurrido en febrero en Tumbler Ridge, Columbia Británica. Esas familias sostienen que la empresa debió informar antes a las autoridades sobre el uso preocupante de ChatGPT por parte del sospechoso.

Según esas familias, interacciones relacionadas con armas encendieron alarmas dentro de los equipos de seguridad de OpenAI. Altman se disculpó con la comunidad de Tumbler Ridge a fines de abril y prometió trabajar con todos los niveles de gobierno para evitar tragedias similares.

Florida endurece su postura frente a la IA

La demanda del lunes forma parte de una ofensiva más amplia de Florida contra grandes compañías de inteligencia artificial. Uthmeier y el gobernador Ron DeSantis se han convertido en críticos visibles de las principales empresas de IA de Estados Unidos.

En diciembre, DeSantis presentó una propuesta para crear una Declaración de Derechos de IA para residentes de Florida. La iniciativa destacaba el derecho a la privacidad y cuestionaba la expansión de centros de datos que alimentan sistemas de IA.

DeSantis también ha chocado con la Casa Blanca por la capacidad de los estados para regular a las empresas de inteligencia artificial. Ese debate refleja una tensión creciente entre regulación estatal, política federal e innovación tecnológica.

El contexto social también se ha vuelto más hostil para la IA. En varias ceremonias de graduación, oradores recibieron abucheos al mencionar la tecnología, mientras proyectos de centros de datos enfrentan fuerte oposición pública.

Florida no es el único estado que examina este sector. En enero, el fiscal general de Kentucky demandó a Character.AI, desarrollador de chatbots, y lo acusó de priorizar sus ganancias sobre la seguridad de los niños.

Publicidad, alucinaciones y consejos peligrosos

La demanda de Florida recoge una amplia gama de riesgos usualmente citados en debates sobre IA generativa. Entre ellos figuran amenazas a la salud mental de adolescentes, adulación, asesoría médica y legal ilícita, y hasta riesgos existenciales para la supervivencia humana.

El expediente critica anuncios sobre la capacidad de ChatGPT para ayudar a agricultores y pequeños negocios. Según la demanda, esos anuncios no revelan que ChatGPT puede equivocarse, cometer errores o proporcionar información falsa, absurda o alucinada.

El documento afirma que la falta de fiabilidad de ChatGPT es peligrosa. También señala que su uso puede conducir a autolesiones, deterioro cognitivo y adicción conductual.

Otra acusación se centra en el posible apego psicológico de usuarios al sistema. Florida sostiene que la complacencia del chatbot puede incentivar un uso mayor y empujar a algunos usuarios a pagar por cuotas de uso más generosas.

La demanda afirma que ese ciclo genera más uso, más datos de entrenamiento para mejorar el producto y más valor de mercado para OpenAI. Esa lógica conecta los riesgos de seguridad con el modelo de negocio de la compañía.

El expediente también menciona casos de supuestos consejos médicos peligrosos. Uno de ellos involucra al adolescente Sam Nelson, a quien ChatGPT presuntamente indicó cómo mezclar kratom y Xanax.

La madre de Nelson alega que OpenAI y ChatGPT son responsables de su muerte injusta en mayo de 2025. En respuesta a un artículo sobre Nelson publicado por The New York Times, Pusateri dijo que esas interacciones ocurrieron en una versión anterior de ChatGPT que ya no está disponible.

El portavoz agregó que ChatGPT no sustituye la atención médica ni de salud mental. También dijo que OpenAI ha fortalecido sus respuestas en situaciones sensibles y agudas con aportes de expertos en salud mental.

El giro comercial de OpenAI vuelve al centro del debate

Altman y otros cofundadores, incluido Elon Musk, lanzaron OpenAI en 2015 como un laboratorio de investigación de IA sin fines de lucro. Desde entonces, la organización creó una corporación con fines de lucro.

Esa entidad comercial sigue legalmente anidada bajo la OpenAI Foundation, de carácter sin fines de lucro. Según reportes citados en la demanda, la estructura con fines de lucro se prepara para presentar una oferta pública inicial.

OpenAI recibió una valoración reciente de USD $852.000 millones. Esa cifra llegó después de recaudar USD $122.000 millones en su última ronda de financiación en marzo.

Las acusaciones de Florida no son las primeras que apuntan al supuesto giro comercial de la empresa. En 2024, Musk demandó a OpenAI y acusó a la compañía de abandonar su condición original sin fines de lucro.

Musk sostuvo que OpenAI valoró el éxito comercial por encima del bien público. El empresario dejó la organización en 2018 tras una amarga lucha de poder con Altman y otros líderes.

En mayo, un jurado determinó por unanimidad que Musk había esperado demasiado para demandar. Musk dijo que apelará ese veredicto.

El nuevo caso de Florida coloca a OpenAI ante una presión legal y política más intensa. También plantea una pregunta central para toda la industria: quién responde cuando un sistema de IA ampliamente usado produce, facilita o amplifica daños alegados por usuarios y gobiernos.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados