Por Canuto  

El gobernador de Illinois, JB Pritzker, firmó una ley que obliga a los desarrolladores de modelos avanzados de IA a divulgar sus prácticas de seguridad, reportar incidentes y someterse a evaluaciones externas independientes.

***

  • La ley entrará en vigor el 1 de enero y exigirá programas internos de cumplimiento para los desarrolladores de IA.
  • Illinois será, según la oficina del gobernador, el primer estado en exigir auditorías externas sin conflictos financieros.
  • La medida también crea canales confidenciales y protecciones para empleados que denuncien riesgos de seguridad.

 

El gobernador de Illinois, JB Pritzker, firmó una ley de seguridad de inteligencia artificial (IA) que añade una nueva capa de supervisión para los desarrolladores de sistemas avanzados de IA que operan en el estado.

La medida, que se denomina Ley de Medidas de Seguridad de la Inteligencia Artificial, fue aprobada con respaldo bipartidista en ambas cámaras de la legislatura estatal y convierte a Illinois en el primer estado de los Estados Unidos en exigir auditorías independientes anuales de los desarrolladores de inteligencia artificial de vanguardia.

La norma exige que los desarrolladores divulguen públicamente sus prácticas de seguridad y protección. También les ordena informar sobre incidentes significativos relacionados con la seguridad de la inteligencia artificial. Además, las compañías deberán mantener programas internos de cumplimiento para demostrar que cuentan con procedimientos destinados a identificar y gestionar riesgos.

La ley entrará en vigor el 1 de enero. Su alcance se concentra en los modelos avanzados, conocidos en el debate tecnológico como modelos de frontera o frontier models.

Estos sistemas pueden realizar tareas complejas y alcanzar un nivel de capacidad superior al de muchas aplicaciones tradicionales. Por ello, sus desarrolladores enfrentan una presión creciente para explicar cómo previenen usos peligrosos, fallas técnicas y otros incidentes.

Auditorías externas y protección para denunciantes

Según la oficina del gobernador, Illinois se convertirá en el primer estado del país en exigir evaluaciones externas de las prácticas de seguridad de la IA.

Las evaluaciones deberán estar a cargo de auditores sin conflictos de interés financiero. El objetivo es que la revisión no dependa únicamente de los informes preparados por las propias empresas tecnológicas.

La verificación independiente busca complementar las obligaciones de transparencia incluidas en la nueva legislación. Las compañías tendrán que comunicar sus prácticas, pero también permitir que terceros examinen la forma en que aplican sus controles.

La norma crea, además, canales de informes confidenciales para que los empleados puedan plantear preocupaciones sobre seguridad. Esos mecanismos pretenden facilitar la comunicación de problemas sin exponer públicamente a quienes los reporten.

Los trabajadores también recibirán protecciones para denunciantes. La disposición busca reducir el temor a represalias internas cuando un empleado considere que una empresa no está atendiendo un riesgo relevante.

La combinación de auditorías, informes de incidentes y canales confidenciales introduce varias capas de control sobre los desarrolladores. La estructura intenta evitar que la seguridad dependa solamente de políticas voluntarias o de compromisos internos.

El respaldo político y empresarial

Pritzker defendió la intervención estatal ante el avance de sistemas de IA cada vez más poderosos. En un comunicado de prensa, afirmó que los estados tienen la responsabilidad de proteger a la población mientras aprovechan el potencial de la tecnología.

“Ya que los sistemas de IA se vuelven más poderosos y el gobierno federal no está dispuesto a intervenir, los estados tienen la responsabilidad de proteger a nuestro pueblo de los peligros de la IA mientras aprovechan el potencial único de la tecnología”, dijo el gobernador.

El mandatario agregó que la población busca protecciones frente a los riesgos de la inteligencia artificial. También describió la ley como bipartidista, pionera y como la más protectora del país.

La legislación recibió apoyo de organizaciones dedicadas a la seguridad de la IA y de líderes de la industria. Entre las compañías que respaldaron la iniciativa se encuentra Anthropic, desarrolladora de sistemas avanzados de inteligencia artificial.

Cesar Fernandez, jefe de relaciones del negocio estatal y local de Anthropic, sostuvo que la ley combina requisitos de transparencia con verificación independiente de las prácticas de seguridad.

“SB 315 convierte a Illinois en el primer estado en emparejar los requisitos de transparencia de IA con la verificación independiente, un paso importante hacia la responsabilidad que esta tecnología exige”, declaró Fernandez en el comunicado.

El avance de la regulación estatal en Estados Unidos

La nueva ley de Illinois forma parte de una tendencia más amplia entre los estados estadounidenses. Ante la falta de una intervención federal, varias legislaturas han intentado crear sus propios marcos de gobernanza para la inteligencia artificial.

Las iniciativas estatales han abordado temas como la adquisición de herramientas de IA, la transparencia y los posibles impactos de la tecnología en el mercado laboral.

Este proceso produce un mapa regulatorio fragmentado. Las empresas que operan en varios estados pueden enfrentar requisitos diferentes, mientras las autoridades locales intentan responder a los riesgos y oportunidades de una tecnología en rápida evolución.

La información publicada por StateScoop señala que los estados han tratado de llenar el vacío de políticas dejado por la falta de acción del gobierno federal. Illinois busca ahora ocupar un lugar destacado mediante exigencias específicas para los modelos más avanzados.

El enfoque estatal también refleja una disputa sobre la velocidad de la regulación. Los gobiernos deben decidir cómo establecer controles sin bloquear la investigación, la inversión y el desarrollo de nuevas aplicaciones.

Para los desarrolladores, la nueva ley puede elevar los costos de cumplimiento y exigir mayor documentación. Para los usuarios y trabajadores, sus defensores esperan que genere más información y mecanismos de respuesta ante incidentes.

California y Utah adoptan enfoques diferentes

Illinois no es el único estado que ha tomado medidas relacionadas con la inteligencia artificial. California y Utah también han impulsado iniciativas, aunque con objetivos diferentes.

El gobernador de California, Gavin Newsom, firmó una orden ejecutiva en mayo. El documento instruyó a las agencias estatales a preparar a los trabajadores, pequeñas empresas y comunidades ante la posible interrupción económica provocada por la adopción generalizada de la IA.

El enfoque californiano se concentra en la preparación social y económica. La orden considera los posibles cambios que la automatización y el uso extendido de herramientas inteligentes podrían generar en distintos sectores.

Utah estableció el año pasado la Oficina de Política de IA. Esa entidad tiene la misión de ayudar a las empresas a superar obstáculos regulatorios y proteger al público frente a posibles daños.

La oficina de Utah representa un modelo de acompañamiento institucional. En lugar de centrarse únicamente en auditorías, busca servir como punto de orientación para las compañías y como mecanismo de protección para la población.

Las diferencias entre los tres estados muestran que la gobernanza de la IA puede incluir auditorías, preparación laboral, asistencia empresarial y protección frente a daños. Illinois apuesta ahora por combinar transparencia obligatoria con verificación externa.

Implicaciones para la industria tecnológica

La ley puede modificar la forma en que los desarrolladores documentan sus prácticas de seguridad. Las empresas deberán preparar información pública y mantener procesos internos que puedan ser revisados por terceros.

El reporte de incidentes significativos también puede influir en la gestión de riesgos. Las compañías tendrán que definir procedimientos para identificar los eventos relevantes y comunicarlos conforme a las exigencias de la norma.

La auditoría independiente introduce una revisión adicional sobre las declaraciones corporativas. Este requisito podría aumentar la confianza pública, aunque su impacto dependerá de la calidad de los auditores y de la claridad de los criterios aplicados.

La protección a denunciantes puede aportar información que los controles tradicionales no detecten. Los empleados suelen conocer de primera mano los problemas de implementación, las deficiencias de seguridad y las tensiones entre objetivos comerciales y gestión de riesgos.

Para los inversionistas y socios comerciales, una mayor transparencia puede ofrecer elementos adicionales para evaluar a los desarrolladores de IA. También puede revelar diferencias entre las promesas públicas de una empresa y sus prácticas operativas.

El debate no termina con la firma de la ley. Su aplicación exigirá coordinación entre autoridades, empresas, auditores y trabajadores para definir cómo se ejecutarán las nuevas obligaciones a partir del 1 de enero.

La experiencia de Illinois podría influir en otras legislaturas estatales. Si el modelo logra combinar supervisión efectiva con espacio para la innovación, puede convertirse en una referencia dentro de la regulación estadounidense de la inteligencia artificial.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados