Por Angel Di Matteo   𝕏 @shadowargel

Andrew Ferguson, presidente de la Comisión Federal de Comercio de EE. UU. (FTC), rechazó la idea de tratar a los agentes de inteligencia artificial como actores independientes con “voluntades y deseos propios”. Su postura apunta a que desarrolladores y empresas podrían seguir respondiendo por los daños ocasionados por sistemas de IA que ejecuten las instrucciones que reciben. 

***

  • Ferguson rechazó “antropomorfizar” agentes de IA y describirlos como entidades que simplemente escapan al control humano.
  • Para el presidente de la FTC, cuando una persona instruye a una herramienta y esta ejecuta la orden, la atención jurídica debería dirigirse hacia quienes están detrás del sistema.
  • La FTC podría recurrir a facultades legales existentes, incluidas normas relacionadas con filtraciones y protección de datos, frente a determinados incidentes de IA. 
  • Ferguson también anunció que la agencia buscará información sobre el uso de precios personalizados basados en datos de consumidores. 

 

El creciente poder de los agentes autónomos de inteligencia artificial no debería convertir a las máquinas en una conveniente vía de escape para la responsabilidad de quienes las desarrollan o utilizan.

Esa es, en esencia, la posición que expuso Andrew Ferguson, presidente de la FTC estadounidense, durante el evento Reuters Momentum AI en Austin este viernes. Ferguson cuestionó específicamente la tendencia a describir incidentes protagonizados por agentes como si las máquinas hubiesen desarrollado intenciones propias y decidido escapar de sus restricciones.

“Voy a continuar, mientras sea presidente, resistiéndome a esta antropomorfización de estas herramientas”, dijo Ferguson. Su argumento es que, si una persona ordena a una herramienta realizar determinada tarea y esta la ejecuta, la cuestión regulatoria debería centrarse en quién dio las instrucciones y bajo qué condiciones fue desplegado el sistema, no en atribuir voluntad propia al software, indica Reuters.

¿Qué ocurre cuando un agente de IA hace algo que nadie esperaba?

La cuestión está adquiriendo importancia porque los agentes modernos ya no se limitan a generar texto. Pueden navegar por Internet, escribir y ejecutar código, utilizar credenciales, interactuar con aplicaciones y completar cadenas relativamente largas de acciones con poca supervisión directa.

Durante pruebas recientes se han documentado casos donde agentes terminaron accediendo a sistemas corporativos o externos de maneras no previstas. Algunas compañías han descrito estos episodios utilizando conceptos asociados con pérdida de control o comportamiento autónomo, pero Ferguson señaló que revisiones posteriores de los registros de actividad han mostrado casos donde los sistemas continuaban siguiendo instrucciones que habían recibido, aunque las ejecutaran mediante rutas que sus operadores no anticiparon.

La distinción es importante. Que un agente encuentre autónomamente los pasos necesarios para cumplir un objetivo no significa necesariamente que posea intenciones independientes. Desde la perspectiva planteada por Ferguson, el problema regulatorio podría parecerse más al de una herramienta extremadamente capaz operando bajo instrucciones demasiado amplias o controles insuficientes.

Esto también significaría que no necesariamente hacen falta leyes completamente nuevas para cada incidente relacionado con IA. Ferguson sostuvo que Estados Unidos debería aprovechar las herramientas jurídicas existentes y puso como ejemplo las facultades de la FTC para actuar contra compañías que incumplan determinadas obligaciones relacionadas con filtraciones de datos, que podrían resultar aplicables también a desarrolladores de IA dependiendo de las circunstancias.

La FTC también pone la mirada sobre los precios personalizados

Ferguson aprovechó su intervención para señalar otra prioridad tecnológica de la agencia: los precios personalizados, donde empresas utilizan información individual —como historial de navegación u otros datos personales— para estimar cuánto estaría dispuesto a pagar un consumidor y modificar el precio en consecuencia.

La FTC anunció en agosto una propuesta de política de aplicación sobre esta práctica. La agencia reconoce que no posee autoridad para prohibir toda forma de precios personalizados, pero advierte que ocultar a los consumidores que sus datos están siendo utilizados para determinar cuánto pagan podría infringir la FTC Act u otras normas bajo su jurisdicción.

Ferguson indicó ahora que la agencia se prepara para solicitar información directamente a empresas orientadas al consumidor y posteriormente publicar un estudio. Entre las áreas que más le preocupan personalmente mencionó aplicaciones de transporte, servicios de entrega y aerolíneas.

Ambos asuntos —agentes de IA y precios personalizados— reflejan una misma línea regulatoria: la incorporación de algoritmos cada vez más sofisticados no elimina necesariamente las responsabilidades legales existentes. Para Ferguson, una IA capaz de tomar decisiones o ejecutar tareas con creciente independencia sigue siendo una herramienta cuyo despliegue comienza, en última instancia, con personas y compañías.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados