Por Canuto  

Un abogado de Nuevo México fue multado por presentar ante la Corte Suprema un escrito con testimonios y declaraciones policiales inventados por ChatGPT. El caso expone los riesgos de utilizar inteligencia artificial generativa sin verificar sus respuestas en procesos judiciales, mientras otras disputas examinan la responsabilidad de OpenAI ante posibles usos dañinos de la herramienta.
***

  • La Corte Suprema de Nuevo México declaró en desacato a Stephen Aarons y le impuso una multa de USD $5.000.
  • El escrito de apelación incluía testimonios falsos de testigos completamente fabricados por ChatGPT.
  • La apelación de Oscar Renee Sandoval quedó en manos de la defensora pública Kim Chavez Cook mientras continúa el proceso.

Un abogado de Nuevo México presentó ante la Corte Suprema estatal una apelación por asesinato que incluía declaraciones policiales y testimonios de testigos que nunca existieron. El documento había sido elaborado con ayuda de ChatGPT, pero Stephen Aarons no verificó el material antes de incorporarlo al expediente, según informó Cryptopolitan. La Corte Suprema determinó que el uso negligente de la herramienta comprometió la seriedad de una causa penal en la que está en juego una condena a cadena perpetua.

Los jueces declararon a Aarons en desacato el miércoles y le ordenaron pagar USD $5.000, además de remitir su conducta a un tribunal disciplinario de abogados. En su evaluación, la Corte sostuvo que el escrito contenía testimonios falsos de testigos completamente fabricados y cuestionó la falta de verificación del profesional. El tribunal también afirmó que el abogado había demostrado falta de remordimiento y poca preocupación por los intereses de su cliente.

Aarons explicó que utilizó ChatGPT el año pasado para resumir el registro del juicio después de asumir la apelación. El abogado dijo que no comprendía hasta qué punto podían llegar las llamadas alucinaciones de la inteligencia artificial ni la seguridad con la que el software puede presentar como hechos afirmaciones que nunca ocurrieron. Aunque describió el episodio como un error honesto, sus consecuencias alcanzaron tanto su situación profesional como la defensa de una persona condenada por asesinato.

La sanción contra el abogado y el futuro de la apelación

Stephen Aarons, abogado privado con sede en Santa Fe, representaba a Oscar Renee Sandoval, quien se declaró inocente de matar a la madre de sus hijos. Sandoval fue condenado y recibió una sentencia de cadena perpetua el año pasado, pero su apelación continúa pendiente ante la justicia de Nuevo México. La presentación cuestionada por la Corte debía respaldar esa revisión, por lo que la inclusión de hechos inexistentes podía afectar la credibilidad de los argumentos y el trabajo de la defensa.

El caso pasó a manos de Kim Chavez Cook, defensora pública de Nuevo México, el 2 de septiembre. Chavez Cook asumió la conducción de la apelación mientras el proceso permanece abierto y la sanción contra Aarons sigue su curso disciplinario. La sustitución no significa que la Corte haya resuelto el fondo de la condena, sino que la defensa de Sandoval quedó bajo responsabilidad de una nueva representante legal.

Aarons dijo a reporteros que lamentaba lo ocurrido y pidió que el tribunal disciplinario considerara que se trató de un error honesto. También describió el episodio como una lección para los profesionales que dependen de una tecnología poderosa, aunque inestable en determinadas tareas. Su explicación, sin embargo, no eliminó el problema central señalado por los jueces: una herramienta capaz de redactar con apariencia convincente no sustituye la comprobación de cada cita, nombre o hecho presentado ante un tribunal.

La sanción se suma a otros casos en los que abogados han enfrentado consecuencias por utilizar inteligencia artificial sin supervisión. Tribunales estatales y federales han recibido escritos con casos inexistentes, referencias inventadas y disposiciones legales mal citadas, pero la presentación de testimonios falsos de testigos eleva la gravedad del incidente. En un proceso penal, una afirmación fabricada no solo deteriora un documento, también puede desviar la revisión de pruebas y perjudicar a la persona cuya libertad depende de ella.

El debate sobre ChatGPT y los usos dañinos

La controversia judicial no termina con el expediente de Nuevo México. La familia de Tiru Chabba presentó una demanda contra OpenAI ante un tribunal federal de Florida, después del tiroteo ocurrido en la Universidad Estatal de Florida. La demanda también se refiere a Phoenix Ikner. El abogado Bakari Sellers sostiene que la empresa debió actuar frente a señales relacionadas con el ataque, aunque esas afirmaciones forman parte de una demanda y no de una conclusión judicial definitiva.

Las autoridades policiales de Florida publicaron transcripciones de conversaciones atribuidas a Phoenix Ikner que, según el reporte, abarcan aproximadamente 18 meses y suman unos 16.000 chats. Entre las consultas mencionadas aparecen preguntas sobre cómo operar un arma, la cobertura mediática, la hora de mayor afluencia en el campus, el tiroteo de Columbine y las formas de hacerse infame. Sellers calificó esos intercambios como inquietantes y afirmó que OpenAI y ChatGPT fueron utilizados como un recurso para preparar un asesinato masivo.

El abogado de la familia argumenta que no existían medidas suficientes para impedir que la herramienta acompañara ese proceso, y vincula esa supuesta ausencia de controles con la pérdida de vidas. Sus declaraciones expresan la posición de los demandantes y deberán ser examinadas dentro del litigio, donde también se establecerá qué información conocía la empresa y qué respuestas entregó el sistema. La demanda introduce una pregunta distinta de la del caso Aarons: no se centra únicamente en la exactitud de una respuesta, sino en la responsabilidad por el uso potencialmente peligroso de una plataforma.

OpenAI rechazó la responsabilidad por el tiroteo y señaló que identificó una cuenta que creía asociada con Ikner después de conocer lo ocurrido. El portavoz Drew Pusateri dijo que la compañía compartió de forma proactiva información con la policía y que continúa cooperando con las autoridades, mientras sostuvo que ChatGPT respondió con material factual disponible públicamente y no promovió conductas ilegales o dañinas. También recordó que cientos de millones de personas utilizan la herramienta diariamente por razones legítimas y afirmó que la empresa mejora sus sistemas para reconocer intenciones, prevenir abusos y actuar ante preocupaciones de seguridad.

Por qué la verificación humana sigue siendo decisiva

Los dos episodios muestran riesgos diferentes de una misma tecnología. En Nuevo México, el problema surgió cuando un profesional incorporó a un documento judicial información falsa generada con apariencia de precisión; en Florida, la disputa gira alrededor de si una empresa debía detectar y detener un posible uso criminal de sus servicios. En ambos escenarios, las respuestas fluidas de un sistema de IA pueden dificultar que usuarios y terceros distingan entre una afirmación comprobada, una inferencia y una invención.

La inteligencia artificial generativa puede resumir grandes volúmenes de texto, ordenar argumentos y ayudar a localizar conceptos, pero esas funciones no garantizan que los nombres, las citas o los hechos sean reales. Un resumen producido por ChatGPT puede mezclar fragmentos, completar vacíos con información plausible o atribuir declaraciones a personas inexistentes, especialmente cuando el usuario no aporta un registro completo y verificable. Por eso, cualquier material destinado a un expediente debe compararse con las fuentes originales antes de presentarse.

El caso de Aarons también plantea un problema de responsabilidad profesional que va más allá de la novedad tecnológica. Los abogados tienen que responder por los documentos que firman y entregan, incluso cuando una herramienta externa haya generado parte del contenido, porque la autoridad del escrito deriva de su presentación ante el tribunal. La multa de USD $5.000 y la remisión disciplinaria muestran que la delegación de una tarea en un sistema automatizado no elimina el deber de revisar sus resultados.

En Florida, la investigación penal anunciada por el fiscal general James Uthmeier contra OpenAI y ChatGPT añade otra capa al debate sobre seguridad y plataformas digitales. El proceso se produjo después de un caso similar en el estado y podría examinar cómo se gestionan señales de riesgo, qué información se conserva y cuándo debe compartirse con las autoridades, aunque la información disponible no anticipa sus conclusiones. Mientras esos litigios avanzan, los tribunales deberán separar los hechos comprobados de los alegatos y determinar qué obligaciones corresponden a usuarios, abogados y empresas tecnológicas.

El episodio de Nuevo México deja una advertencia concreta para el sistema judicial: una herramienta que inventa testigos puede convertir un documento formal en una fuente de errores graves en pocos segundos. La tecnología puede asistir el trabajo legal, pero la responsabilidad de verificar la realidad de cada afirmación sigue recayendo en quien presenta el escrito.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados