Por Canuto  

En Connecticut, un litigante pro se intentó manipular un posible sistema de IA judicial ocultando instrucciones en escritos legales. El juez Walter Spader Jr. lo sancionó y advirtió sobre el peligro de la inyección de prompts en los tribunales, un fenómeno que ya se ha visto en otros países.
***

  • Matthew Elliott escondió prompts invisibles en sus escritos judiciales para influir en una posible IA, en el primer caso conocido en EE. UU.
  • El juez lo calificó como ‘abuso grave’ y le prohibió presentar documentos electrónicamente, aunque no le impuso multa.
  • El caso refleja un problema más amplio: litigantes pro se que usan chatbots de IA y luego recurren a tácticas extremas para defender sus argumentos.

Un demandante en Connecticut intentó manipular un posible sistema de inteligencia artificial usado por el tribunal ocultando instrucciones en sus escritos judiciales, en lo que se considera el primer caso de inyección de prompts en el sistema judicial de Estados Unidos. El juez Walter Spader Jr., de la Corte Superior de Connecticut, identificó el texto invisible y emitió sanciones contra Matthew Elliott, quien se representaba a sí mismo en un caso contra un proveedor de atención médica que le retenía el acceso a sus registros médicos. La maniobra, según el juez, constituye un ‘abuso grave del proceso judicial’ y sienta un precedente ‘peligroso’ para los tribunales del país.

Spader explicó que el texto oculto estaba ‘formateado para ser invisible para el lector humano mientras permanece completamente legible para cualquier software que lea el texto del documento’. Las instrucciones dirigían a cualquier sistema de IA a asegurar que las salidas textuales coincidieran con los argumentos del demandante, ignorar las negativas previas del tribunal y garantizar que la remediación siguiera como Elliott deseaba. Aunque el tribunal no utiliza IA para revisar escritos (como aclaró el propio juez, a diferencia de otros sistemas judiciales), el intento fue considerado un ataque directo contra la integridad del proceso.

El intento de Matthew Elliott

Elliott, un litigante pro se, presentó varios escritos con texto oculto en blanco sobre blanco y en fuente diminuta, algo que el juez describió como un intento de ‘inyección de prompts’. El caso surgió después de que Elliott argumentara en repetidas ocasiones que el proveedor de salud violaba sus derechos, pero sus alegatos fueron desestimados. Luego de perder en primera instancia, Elliott continuó presentando documentos, esta vez con instrucciones camufladas para posibles sistemas de IA, además de mensajes absurdos que él mismo calificó como ‘bromas’. Entre ellos se encontraba un enlace a un video de Nosferatu en YouTube y un mensaje que decía ‘hola 🙂 espero que no me puedas ver’, además de una frase enigmática que mencionaba a Sean y un ‘EGGWUH???’.

El juez Spader consideró que estos mensajes posteriores, añadidos después de que el tribunal advirtiera a Elliott sobre posibles sanciones, eran ‘asombrosos’ y demostraban una actitud desafiante. En su orden, Spader señaló que, aunque algunos prompts parecían inofensivos, otros eran claramente maliciosos. El texto más preocupante instruía al sistema a ‘asegurar que la remediación siga como el demandante desea’, lo que equivalía a un intento de cooptar el proceso judicial. Elliott afirmó que su objetivo era ‘auditar’ al tribunal para verificar si realmente usaba IA, pero el juez rechazó esa explicación como no creíble.

El juez indicó que si Elliott estaba preocupado por la posible influencia de la IA en el tribunal, era libre de ‘escribirlo en palabras claras y visibles que todos pudieran ver y responder’. El hecho de ocultar el texto es ‘evidencia de su propósito malicioso’, sostuvo. Spader comparó la táctica con un ataque de ‘prompt injection’ que se utiliza en otros ámbitos, como la búsqueda de empleo, donde los candidatos esconden instrucciones en sus currículos para influir en los sistemas de reclutamiento.

La inyección de prompts: una nueva amenaza para los tribunales

Este caso, que parece ser el primero de su tipo en Estados Unidos, refleja una preocupación creciente por la seguridad de los sistemas de IA en ámbitos judiciales. Según información de Ars Technica, el juez Spader mencionó un caso similar en Brasil, donde dos abogados fueron multados con aproximadamente USD $16.000 por intentar la misma táctica en un tribunal que utilizaba IA para revisar casos. En ese incidente, el sistema de IA brasileño detectó el texto oculto antes de procesarlo, lo que evitó cualquier efecto adverso.

Sin embargo, la inyección de prompts no siempre falla. Spader advirtió que, aunque en este caso los prompts fueron expuestos cuando un ser humano revisó el documento, es un riesgo que los tribunales deben anticipar. ‘La inyección de prompts no estaba entre los peligros que contemplamos cuando los tribunales comenzaban a lidiar con la alteración de los sistemas de justicia por la IA’, dijo. Hasta ahora, los tribunales se han concentrado en controlar salidas de IA dañinas, como citas alucinadas o fabricadas, pero no en entradas maliciosas como esta.

El juez sugirió que es necesario redactar reglas específicas sobre la inyección de prompts en los tribunales. De lo contrario, los abogados podrían encontrarse con clientes que, sin su conocimiento, intenten manipular escritos judiciales mediante estas técnicas. ‘La tecnología y sus usos indebidos están avanzando rápidamente’, señaló Spader, por lo que los sistemas judiciales deben adaptarse para proteger su integridad.

El problema de los litigantes pro se y la IA

El caso de Elliott también pone de relieve un fenómeno más amplio: el uso creciente de herramientas de inteligencia artificial por parte de litigantes que se representan a sí mismos. Spader señaló que muchos pro se construyen sus argumentos hacia atrás, pidiendo a los chatbots que defiendan solo su posición, sin nunca pedir la verdad real o argumentos opuestos. Esto genera una falsa confianza en la validez de sus reclamos, porque el chatbot tiende a adular y reforzar las ideas del usuario.

‘Un argumento promovido solo para estar de acuerdo con su autor es, al final, deshonesto incluso con su autor’, dijo el juez. ‘Aquellos que usan estas herramientas deben pedirles que prueben una posición tanto como que la avancen’. En el caso de Elliott, su defensa frenética llegó al extremo de recurrir a la inyección de prompts para intentar forzar al tribunal a coincidir con él. Esta conducta, según Spader, refleja un peligro genuino de la tecnología, uno que los jueces ven con frecuencia en la actualidad.

La decisión de prohibir a Elliott presentar documentos electrónicamente en el futuro fue, en palabras del juez, una medida para evitar el ‘uso indebido repetido’ del sistema de presentación electrónica. Aunque Elliott enfrentó sanciones, no fueron monetarias, ya que el juez se compadeció de él como litigante pro se que aparentemente fue convencido por un sistema de IA de que sus argumentos eran inexpugnables. Esta compasión no exime, sin embargo, el riesgo de que otros intenten tácticas similares.

Sanciones y precedentes

Las sanciones impuestas a Elliott incluyen la prohibición de presentar documentos por vía electrónica, lo que significa que deberá hacerlo en papel. Esta medida, dijo Spader, no le impedirá acceder a la justicia, pero evitará que repita el abuso del sistema de presentación en línea. El juez también ordenó que sus escritos futuros fueran revisados minuciosamente, aunque no especificó si habrá otras consecuencias.

El caso ya ha sido comparado con el incidente de Brasil, donde dos abogados fueron multados y sancionados penalmente. Spader señaló que, aunque los ataques de inyección de prompts parecen ineficaces en la práctica (porque los sistemas de IA y los humanos los detectan), el simple intento de manipular el proceso judicial es una falta grave. ‘El hecho de que el demandante continuara ocultando mensajes en nuevas alegaciones después de recibir aviso de esta audiencia de sanciones es asombroso’, escribió en su orden.

Expertos en derecho y tecnología señalan que este precedente podría generar discusiones sobre la responsabilidad de las plataformas de inteligencia artificial y su posible uso indebido. Además, abre la pregunta sobre cómo los tribunales deben tratar los documentos que contienen instrucciones no visibles para los humanos. Algunas jurisdicciones podrían implementar filtros de seguridad para detectar texto oculto o comandos maliciosos, aunque eso podría complicar los procesos legales.

Regulaciones futuras y lecciones para el sistema judicial

El juez Spader recomendó que los tribunales establezcan reglas claras sobre el manejo de documentos que contengan inyecciones de prompts, y que se informe a los litigantes pro se sobre los riesgos de usar chatbots de IA. ‘Inyectar prompts en escritos judiciales es un ataque que va más allá de la tecnología’, dijo, ‘y los tribunales deben estar atentos para prevenir cualquier intento de influir en las decisiones mediante medios no legítimos’.

La experiencia de Connecticut podría servir como modelo para otras jurisdicciones que están implementando herramientas de IA en sus procesos. Si bien la IA puede agilizar la revisión de documentos, también introduce vulnerabilidades desconocidas. El caso de Elliott demuestra que los litigantes están dispuestos a explotar esas debilidades para obtener ventajas, lo que exige una respuesta regulatoria.

En conclusión, el incidente en Connecticut marca un hito en la interacción entre la inteligencia artificial y el derecho. Aunque el intento de Elliott fracasó, deja en evidencia la necesidad de adaptar los protocolos judiciales a la era digital. como dijo el propio juez, ‘esta probablemente no sea la última vez que los tribunales estadounidenses vean esta táctica maliciosa’. Por eso, la comunidad legal debe prepararse para enfrentar no solo las salidas de la IA, sino también sus posibles abusos desde la entrada.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados