Por Canuto  

Sullivan & Cromwell, uno de los bufetes más reconocidos de Wall Street, reconoció ante un juez federal de Nueva York que presentó un escrito con errores generados por inteligencia artificial. El episodio reabre el debate sobre los riesgos de usar IA en tareas legales de alto impacto, especialmente en un caso que además roza una investigación multimillonaria vinculada con bitcoin y presuntas estafas internacionales.

***

  • Sullivan & Cromwell admitió que una presentación judicial incluyó citas inexactas y errores atribuidos a alucinaciones de IA.
  • El escrito estaba relacionado con el caso Prince Group, cuyos presuntos vínculos criminales también aparecen en una acción para decomisar casi USD $9.000 millones en bitcoin.
  • El bufete dijo que sus políticas internas para supervisar el uso de IA no se siguieron y abrió una revisión de lo ocurrido.

 

El bufete Sullivan & Cromwell, una de las firmas legales más influyentes de Wall Street, pidió disculpas ante un juez federal de Nueva York tras reconocer que un escrito presentado en tribunales contenía errores vinculados con alucinaciones de inteligencia artificial. El incidente afectó una presentación del 9 de abril dentro de un caso de alto perfil relacionado con Prince Group.

La admisión llegó por medio de una carta enviada por Andrew Dietderich, codirector del grupo global de reestructuración del bufete, al juez federal Martin Glenn, del Tribunal de Quiebras de Estados Unidos para el Distrito Sur de Nueva York. En ese documento, el abogado asumió responsabilidad por una serie de fallas que incluían citas incorrectas, referencias erróneas al código de quiebras estadounidense y resúmenes inexactos de conclusiones tomadas de otros casos.

Dietderich escribió que la firma lamentaba profundamente lo ocurrido y sostuvo que tanto él como el despacho eran plenamente conscientes de su obligación de garantizar la exactitud de cada presentación judicial. También indicó que la firma presentó luego una versión corregida del escrito ante el tribunal.

El caso vuelve a poner bajo la lupa el uso de sistemas de IA en entornos profesionales de alto riesgo. En el ámbito legal, los abogados no tienen prohibido apoyarse en estas herramientas, pero sí están éticamente obligados a verificar la precisión de cualquier documento que entreguen al tribunal.

Qué falló en la presentación legal

Los errores fueron detectados por Boies Schiller Flexner, otro bufete que también trabajaba en el caso. Sullivan & Cromwell agradeció a esa firma por haber señalado el problema. Dietderich afirmó que incluso llamó directamente a sus pares para darles las gracias y disculparse por lo ocurrido.

Según la información reportada por la prensa internacional, el documento cuestionado contenía alrededor de 40 citas incorrectas y otros errores. Parte de esas fallas habrían surgido por alucinaciones de IA, mientras que otras parecen haber estado relacionadas total o parcialmente con errores manuales durante la preparación del texto.

La firma aseguró que cuenta con políticas internas amplias y requisitos de formación para regular el uso de herramientas de IA en el trabajo legal. Sin embargo, reconoció que en esta ocasión esos protocolos no se siguieron como correspondía. Además, un segundo proceso de revisión tampoco detectó las citas inexactas generadas por IA.

La carta presentada ante el juez no precisó qué programa de inteligencia artificial se utilizó, qué abogados redactaron el documento ni si se aplicaron medidas disciplinarias internas. Aun así, el bufete informó que adoptó medidas correctivas inmediatas y que realiza una revisión completa de las circunstancias que llevaron al error.

Un problema creciente para el sector legal

El episodio no es aislado. La expansión de herramientas de IA generativa ha acelerado su adopción en despachos, bancos, consultoras y medios, pero también ha multiplicado los casos en los que estos sistemas inventan fuentes, distorsionan precedentes o presentan información inexistente con apariencia de certeza.

Cointelegraph señaló que una base de datos administrada por el tecnólogo jurídico Damien Charlotin ha registrado 1.334 incidentes de alucinaciones de IA en presentaciones judiciales en todo el mundo, incluidos más de 900 en Estados Unidos. De acuerdo con ese seguimiento, la mayoría de los casos involucra citas falsas, aunque en ocasiones también se han detectado argumentos jurídicos generados por IA.

Sullivan & Cromwell no es un despacho menor ni periférico. Es una de las firmas más reconocidas del sector corporativo estadounidense, emplea a más de 900 abogados y figura entre los mayores bufetes del país por ingresos. También representó al exchange FTX en su proceso de quiebra, lo que le da una visibilidad especial dentro del ecosistema financiero y cripto.

Lo ocurrido refuerza una preocupación central para los reguladores y para los operadores del sistema judicial: la IA puede mejorar la productividad, pero no sustituye la responsabilidad profesional. Cuando la supervisión humana falla, el costo reputacional y procesal puede ser inmediato.

El caso Prince Group y su arista cripto

La presentación defectuosa estaba vinculada con la representación que hace Sullivan & Cromwell de unos liquidadores designados por autoridades legales en las Islas Vírgenes Británicas. Esos liquidadores están implicados en acciones contra Prince Group, empresa propiedad del empresario nacido en China Chen Zhi.

El trasfondo del caso añade una dimensión especialmente sensible. El año pasado, fiscales de Estados Unidos acusaron a Chen de fraude electrónico y lavado de dinero. Según las autoridades, el empresario dirigió la operación de Prince Group de complejos de estafa con trabajo forzoso en Camboya, los cuales habrían robado miles de millones de dólares a víctimas en Estados Unidos y en otras partes del mundo.

Prince Group negó entonces cualquier conducta indebida. En una declaración citada por la cobertura original, la empresa calificó las acusaciones como infundadas y rechazó que Chen hubiera cometido irregularidades.

En paralelo, fiscales estadounidenses impulsaron otra acción judicial para confiscar casi USD $9.000 millones en bitcoin que, según sostienen las autoridades, representarían ganancias derivadas de la actividad criminal de Prince Group. Esa cifra convierte el proceso en uno de los episodios con exposición cripto más relevantes entre los mencionados en esta disputa.

La cobertura también señala que Chen fue arrestado a comienzos de este año en Camboya y extraditado a China a solicitud de las autoridades chinas. Aunque la controversia sobre el uso de IA en la corte es un asunto procesal distinto, su aparición dentro de un expediente de esta magnitud eleva el impacto público del error.

Implicaciones para IA, finanzas y cumplimiento

Para lectores del ecosistema tecnológico y financiero, el caso resume un choque que ya se ve en otras industrias. Las herramientas de IA prometen ahorrar tiempo en tareas repetitivas, búsqueda documental y redacción preliminar. Pero cuando se usan sin verificación estricta, pueden introducir errores que pasan de ser un simple problema técnico a un riesgo legal y reputacional.

En mercados donde confluyen criptoactivos, litigios transfronterizos y supervisión regulatoria, la precisión documental es crítica. Un error en una cita judicial, una referencia normativa o un resumen de jurisprudencia puede afectar estrategias procesales, decisiones de cumplimiento y hasta percepciones del mercado si el caso tiene exposición mediática.

Sullivan & Cromwell indicó que ahora evalúa si se justifican mejoras adicionales en sus procesos internos de formación y revisión. Esa revisión probablemente será observada de cerca por otras firmas y por equipos de cumplimiento que hoy intentan integrar IA en flujos de trabajo sin deteriorar los controles humanos.

La lección central es simple, aunque incómoda para la industria: la automatización no elimina la responsabilidad. En entornos como los tribunales, donde cada cita puede alterar el peso de un argumento, delegar demasiado en una herramienta probabilística puede terminar costando mucho más que el tiempo que prometía ahorrar.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados