Por Canuto  

Sam Altman contactó directamente al gobernador de California, Gavin Newsom, durante las negociaciones finales de un proyecto que impondría nuevas obligaciones a los creadores de chatbots usados por menores. La iniciativa SB 1119, aprobada por la Legislatura estatal, permitiría demandas por presuntos daños, exigiría verificación de edad y limitaría contenidos y publicidad dirigidos a jóvenes.
***

  • Sam Altman habría llamado directamente a Gavin Newsom para expresar sus preocupaciones sobre la SB 1119.
  • El proyecto permitiría demandar a desarrolladores de chatbots y establecería controles sobre edad, contenidos y publicidad.
  • OpenAI respaldó públicamente la iniciativa después de participar en negociaciones que modificaron su alcance.

La llamada durante las negociaciones finales

Sam Altman, director ejecutivo de OpenAI, se comunicó directamente con Gavin Newsom durante la ronda final de negociaciones sobre un proyecto de ley californiano dedicado a la seguridad de los menores que utilizan chatbots de inteligencia artificial. Cuatro personas familiarizadas con las conversaciones, entre ellas una con conocimiento directo y tres vinculadas a las negociaciones con OpenAI, dijeron que el contacto ocurrió la semana previa a la aprobación legislativa del lunes por la noche.

Las fuentes, que solicitaron anonimato para describir conversaciones privadas, señalaron que Altman tenía reservas sobre el posible impacto de la SB 1119 en OpenAI. Dos participantes en las conversaciones afirmaron que Ann O’Leary, vicepresidenta de política global de la compañía, les comunicó que el ejecutivo había llamado al gobernador para plantearle sus inquietudes, aunque no se conocieron públicamente todos los detalles del intercambio.

La oficina de Newsom no confirmó ni negó la llamada, pero su portavoz, Bob Salladay, afirmó que el gobernador había interactuado y escuchado a decenas de partes interesadas sobre el tema. OpenAI, por su parte, declinó hacer comentarios sobre las conversaciones, por lo que la existencia del contacto se mantiene respaldada por los testimonios de las personas involucradas y no por una confirmación directa de las dos partes.

El episodio ilustra la intensidad del cabildeo alrededor de una propuesta que busca crear uno de los marcos estatales más amplios de Estados Unidos para regular los servicios de conversación basados en IA cuando sus usuarios son niños y adolescentes. También muestra cómo las empresas tecnológicas intentan influir en la redacción de normas mientras buscan preservar funciones que consideran importantes para educación, asistencia y seguridad.

Qué cambiaría la SB 1119

La SB 1119 permitiría que las familias y el estado presenten demandas contra los creadores de chatbots por presuntos daños causados a menores. El proyecto también establecería obligaciones de verificación de edad, limitaría la exposición de los jóvenes a contenido inapropiado y regularía la publicidad dirigida a ese público, con un alcance que sus impulsores consideran excepcional dentro del país.

El texto fue promovido por el senador estatal Steve Padilla y las asambleístas Buffy Wicks y Rebecca Bauer-Kahan. Antes de su aprobación, los negociadores incorporaron cambios el viernes por la noche para precisar en qué circunstancias los modelos de IA podrían recordar conversaciones anteriores y para reducir los casos en que las familias tendrían derecho a demandar a los desarrolladores.

La función de memoria se convirtió en uno de los puntos más delicados del debate, porque puede mejorar la continuidad de una conversación, pero también plantea preguntas sobre privacidad, dependencia emocional y el manejo de información personal de los menores. En un artículo publicado después de la aprobación, O’Leary elogió a los autores por intentar preservar el acceso a funciones educativas y a herramientas relevantes para la seguridad, incluido el uso responsable de la memoria de ChatGPT.

Bauer-Kahan había explicado previamente que las negociaciones incluyeron a representantes de la industria tecnológica y a grupos dedicados a la protección infantil. Tras la votación de la Asamblea del lunes por la noche, Wicks describió la iniciativa como uno de los proyectos históricos más agresivos de la nación, mientras Bauer-Kahan sostuvo que la medida salvaría vidas, declaraciones que reflejan la urgencia con que sus promotores presentan el problema.

El cambio de postura de OpenAI

La intervención de Altman ocurre mientras OpenAI enfrenta una creciente presión pública y legal relacionada con la seguridad de ChatGPT. La compañía encara demandas que alegan que el chatbot contribuyó a suicidios de adolescentes, aunque esas acusaciones forman parte de procesos legales y no equivalen por sí mismas a conclusiones judiciales definitivas sobre responsabilidad.

Al mismo tiempo, laboratorios rivales de inteligencia artificial buscan disputar la posición que OpenAI ocupó durante buena parte de la expansión comercial de los chatbots. En ese contexto, las salvaguardas para menores dejaron de ser únicamente una cuestión de diseño de producto y pasaron a convertirse también en un asunto de reputación, riesgo jurídico y competencia estratégica.

OpenAI había optado inicialmente por impulsar su propia medida electoral en California sobre seguridad infantil, pero después cedió a la Legislatura estatal la tarea de redactar las reglas. Más recientemente, presentó ChatGPT for Teens con salvaguardas propias y, poco después de la aprobación legislativa, expresó públicamente su respaldo a la SB 1119, una secuencia que contrasta con las preocupaciones planteadas durante las negociaciones privadas.

Defensores de la seguridad infantil sostienen que las compañías tecnológicas intentaron reducir el alcance del proyecto y limitar la forma en que podría aplicarse. Nichole Rocha, quien representa a organizaciones como Children Now y Omidyar Network, afirmó que las empresas trabajaron para debilitar el derecho de las familias a demandar y buscaron eliminar cualquier prohibición sobre la memoria de los chatbots, mientras la industria defendía usos responsables de esa función.

El próximo paso para California

La Legislatura de California aprobó el proyecto el lunes por la noche, pero la medida todavía requiere una decisión de Newsom, quien deberá firmarla o vetarla. Consultado sobre la legislación de seguridad en línea para niños, el gobernador dijo que los límites propuestos para chatbots y redes sociales habían quedado en lugares realmente notables, y añadió que California debía continuar liderando en esta área.

Newsom también aludió a las maniobras políticas detrás de la propuesta sin revelar quién participó en cada conversación. Según el gobernador, en el futuro podrían conocerse más detalles sobre el arte de negociar, las llamadas entre actores y la manera en que estas disputas terminan movilizando a funcionarios y grupos de interés.

El debate deja planteada una tensión difícil de resolver: una regulación estricta puede elevar los costos de cumplimiento y exponer a los desarrolladores a más litigios, pero la ausencia de reglas específicas también puede trasladar los riesgos a las familias. La SB 1119 intenta actuar sobre ambos frentes mediante obligaciones preventivas y una vía legal para reclamar por daños, aunque sus modificaciones muestran que el equilibrio todavía depende de definiciones técnicas y jurídicas.

La gestión de Altman confirma que la industria participa en la política pública tanto mediante posiciones abiertas como a través de contactos reservados con quienes redactan o aprueban las normas. Ninguna otra gran empresa tecnológica había adoptado hasta entonces una postura pública sobre la medida, de acuerdo con el reporte, mientras California se prepara para decidir si convierte esta propuesta en un precedente nacional para la seguridad infantil en sistemas de IA.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados