Por Canuto  

Anthropic retiró silenciosamente de su sitio varios compromisos voluntarios de seguridad y transparencia pactados durante la administración Biden, aunque después aseguró que mantiene esas promesas.

***

  • La empresa eliminó referencias a la gestión de riesgos, los sesgos y la discriminación en sistemas de inteligencia artificial.
  • Los compromisos de 2023 no eran legalmente vinculantes y fueron adoptados junto con OpenAI, Google, Microsoft, Meta e Inflection.
  • Anthropic afirmó que sus prácticas continúan alineadas con esas promesas, en medio del nuevo enfoque de gobernanza impulsado por Donald Trump.

 

Anthropic eliminó silenciosamente de su sitio web varios compromisos voluntarios que había asumido junto con la administración de Joe Biden en 2023. El acuerdo buscaba impulsar una inteligencia artificial segura, confiable y más transparente.

Las referencias desaparecieron la semana pasada del centro de transparencia de la compañía. The Midas Project, un grupo de vigilancia especializado en inteligencia artificial, identificó los cambios y los difundió públicamente.

Entre los compromisos retirados estaban las promesas de compartir información sobre la gestión de riesgos de IA con la industria y el gobierno. También figuraban investigaciones sobre sesgos y discriminación en los sistemas de inteligencia artificial.

Anthropic no habría anunciado previamente la modificación de su sitio. La empresa tampoco respondió de inmediato a una solicitud de comentarios realizada por TechCrunch, según informó ese medio.

Otros compromisos vinculados con la administración Biden todavía permanecen publicados. Entre ellos se encuentran las medidas relacionadas con la reducción del abuso sexual basado en imágenes generadas por inteligencia artificial.

Qué incluía el acuerdo de 2023

Anthropic, OpenAI, Google, Microsoft, Meta e Inflection anunciaron en julio de 2023 que aceptarían una serie de compromisos de seguridad propuestos por la administración Biden. El pacto buscaba mostrar que la industria podía adoptar controles comunes antes de una regulación más amplia.

Las empresas se comprometieron a realizar pruebas internas y externas de seguridad antes de lanzar sus sistemas de IA. Esa evaluación debía ayudar a detectar fallas potencialmente peligrosas antes de que los productos llegaran al público.

El acuerdo también contemplaba inversiones en ciberseguridad para proteger datos y modelos sensibles. Además, las compañías prometieron desarrollar métodos capaces de identificar o marcar contenido generado por inteligencia artificial.

Estos compromisos no tenían fuerza legal obligatoria. Sin embargo, su importancia política estaba en que establecían prioridades públicas para una industria que avanzaba con rapidez y que todavía carecía de reglas federales exhaustivas.

La empresa ya aplicaba muchas de las prácticas incluidas en el acuerdo antes de anunciarlo. Aun así, la adhesión pública permitía comparar las políticas de los principales laboratorios y evaluar su evolución ante nuevos riesgos.

El cambio político y la respuesta de Anthropic

La administración Biden presentó esos compromisos antes de su Orden Ejecutiva de IA, que entró en vigor varios meses después. La medida instruyó al Instituto Nacional de Estándares y Tecnología a elaborar una guía para identificar y corregir fallas en los modelos.

La guía también abordaba problemas como los sesgos algorítmicos. Sus críticos, aliados del presidente Donald Trump, consideraron que los requisitos de informes podían resultar gravosos y obligar a las empresas a revelar secretos comerciales.

En enero, Trump derogó la Orden Ejecutiva de IA de Biden. Poco después firmó otra orden que instruyó a las agencias federales a promover una inteligencia artificial “libre de sesgos ideológicos”, orientada al florecimiento humano, la competitividad económica y la seguridad nacional.

La nueva orden no mencionó la lucha contra la discriminación en la inteligencia artificial. Ese principio había ocupado un lugar central en la iniciativa de Biden y forma parte de los compromisos que desaparecieron de algunas páginas públicas de Anthropic.

The Midas Project señaló que las promesas originales no indicaban una fecha de vencimiento ni estaban condicionadas a la afiliación política del presidente en funciones. En noviembre, después de las elecciones, varias empresas de IA confirmaron que sus compromisos no habían cambiado.

Una tendencia que también alcanza a OpenAI

Anthropic no es la única compañía que modificó sus políticas públicas desde la llegada de Trump a la Casa Blanca. OpenAI anunció recientemente que adoptaría una postura de “libertad intelectual” incluso frente a temas desafiantes o controvertidos.

La empresa también dijo que trabajaría para garantizar que sus sistemas no censuraran determinados puntos de vista. Sus cambios se produjeron mientras asesores de Silicon Valley cercanos a Trump cuestionaban las limitaciones aplicadas por algunos chatbots.

OpenAI eliminó además una página de su sitio que expresaba el compromiso de la startup con la diversidad, la equidad y la inclusión. La administración Trump ha criticado esos programas, lo que llevó a varias empresas a eliminarlos o reestructurarlos de manera considerable.

Marc Andreessen, David Sacks y Elon Musk, entre otros asesores de Trump sobre inteligencia artificial, han acusado a compañías como Google y OpenAI de practicar censura de IA. Sus argumentos se enfocan en las respuestas restringidas que ofrecen algunos chatbots sobre determinados puntos de vista.

Los laboratorios de IA han negado que sus cambios de política respondan directamente a presiones políticas. Al mismo tiempo, OpenAI y Anthropic han obtenido o están en proceso de obtener contratos gubernamentales, un factor que vuelve más relevante la discusión sobre sus compromisos públicos.

La aclaración posterior de Anthropic

Varias horas después de la publicación del reporte, Anthropic envió una declaración a TechCrunch. La compañía afirmó: “Seguimos comprometidos con los compromisos voluntarios de IA establecidos bajo la administración de Biden”.

La empresa agregó que el progreso y las acciones específicas continúan reflejándose en su centro de transparencia. La declaración busca diferenciar una reorganización de contenidos web de un abandono formal de las promesas anunciadas en 2023.

Anthropic también reconoció que la presentación de la información podía generar confusión. Por esa razón, anunció que agregaría una sección con referencias directas a los lugares donde su progreso se alinea con los compromisos.

La aclaración no detalló por qué se retiraron originalmente las referencias a los riesgos, los sesgos y la discriminación. Tampoco precisó cuándo aparecerá la nueva sección ni qué documentos incluirá.

El episodio muestra la tensión entre las políticas públicas de las empresas de IA y el entorno político en Washington. Aunque los compromisos no sean legalmente vinculantes, su eliminación, reorganización o reafirmación puede influir en la confianza de usuarios, gobiernos e inversionistas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados