Por Canuto  

Los renombrados autores de ciencia ficción Charles Stross y John Scalzi han alzado la voz contra el uso de la inteligencia artificial en la literatura, calificando a las empresas de IA de ‘escoria absoluta’ y advirtiendo sobre la piratería de contenido protegido por derechos de autor. Su denuncia refleja un creciente malestar en la industria editorial.
***

  • Charles Stross califica a las empresas de IA de “escoria absoluta” y participa en una demanda colectiva contra Anthropic por piratería de libros electrónicos.
  • John Scalzi advierte que la IA entrenada con material protegido podría dejar en la indefensión a los nuevos escritores, sin un historial previo que demuestre su autoría.
  • Ambos autores rechazan la integración de asistentes de IA en programas como Word y Docs, y recomiendan a los escritores evitar cualquier uso de IA en su proceso creativo.

Los autores alzan la voz contra la IA

En un fin de semana que marcó un punto de inflexión en el debate sobre la inteligencia artificial, dos de los autores más reconocidos del género de ciencia ficción emitieron duras críticas contra el uso de modelos de lenguaje. Según un artículo de The Register, Charles Stross y John Scalzi expresaron su preocupación por el robo de contenido protegido por derechos de autor y el impacto en su profesión.

Stross, autor de la serie Laundry Files, escribió en su blog que “no quiero ni necesito un modelo de lenguaje para escribir mi ficción”. Añadió que escribir es un placer que no pagaría por perder.

También reveló que forma parte de una demanda colectiva contra la empresa de IA Anthropic por piratería de libros electrónicos. “No es una exageración”, afirmó, “soy una de las partes en el acuerdo de la demanda colectiva”.

En el mismo texto, Stross mencionó que su servidor ha sido atacado por botnets chinas y de otros países que extraen datos para entrenar LLM. “Están robando material con derechos de autor para entrenar un LLM que está destinado a competir por ingresos con los autores de las obras que robaron”, escribió.

Quienes hacen esto, dijo, “no son diferentes de un ladrón que te roba un día y luego viene a venderte tus cosas de nuevo a la mañana siguiente”. En un tono cáustico, añadió: “Hace tiempo, en el siglo XVIII, solíamos ahorcar a personas así, y Sam Altman me hace cuestionar la sabiduría de haber detenido eso”.

El rechazo de Stross a los LLM

Stross, conocido por su serie Laundry Files, ha sido particularmente vehemente en su oposición a la IA generativa. En su blog, calificó a las empresas de IA como “escoria absoluta” y las acusó de robar material protegido para entrenar sus modelos.

El autor también criticó la estrategia de estas empresas de ajustar sus modelos para hacerlos “lo más adictivos posible”, con el fin de maximizar ingresos futuros a través de ventas de tokens. “No son diferentes de un ladrón que te roba un día y luego viene a venderte tus cosas de nuevo a la mañana siguiente”, reiteró.

Stross mencionó que su servidor ha sufrido ataques constantes de botnets que extraen datos para entrenar LLM, lo que afecta el rendimiento de su blog. “Mi servidor es viejo y débil y periódicamente es asediado por botnets chinos y extranjeros”, escribió.

El autor también reflexionó sobre el peligro de que un escritor alimente un esquema de historia a un LLM. “Si estuviera lo suficientemente loco como para alimentar el esquema de una historia a ChatGPT o Claude, sería solo mi propia culpa si el próximo modelo fuera entrenado en mi esquema”, dijo.

Pese a todo, Stross admitió que podría ver utilidad en herramientas locales de IA que funcionen sin conexión a la nube. “Me gustaría tener una herramienta que digiera un manuscrito y derive una línea de tiempo escena por escena”, explicó.

Scalzi y la controversia de la novela retirada

John Scalzi, autor de Old Man’s War y Redshirts, también se pronunció el viernes pasado. Comentó la reciente retirada de una novela debut muy esperada por temores de que hubiera sido escrita con IA. “El problema parece no ser que el material ‘IA’ no sea copyrightable, sino que la ‘IA’ está entrenada en material con derechos de autor”, escribió.

Scalzi señaló que la prosa generada a partir de esos modelos podría ser impugnada por los titulares originales de los derechos. Esto crea una situación injusta para los nuevos escritores, que no tienen un cuerpo de trabajo anterior a la llegada de ChatGPT.

El autor predice que los editores buscarán signos de uso de IA, aunque las herramientas de detección son poco fiables. “Lo cual es injusto”, afirmó, “especialmente cuando los creadores de las herramientas que los escritores utilizan están apresuradamente introduciendo herramientas de IA en los programas de los que dependemos”.

Scalzi fue directo en su condena: “No, Microsoft, no quiero que Copilot ‘me ayude a escribir’ en Word, y no, Google, no quiero que Gemini ‘me ayude a escribir’ en Google Docs”. Aseguró que estas herramientas “están dificultando la vida de todos los escritores”.

Advirtió que el uso de IA en cualquier parte del proceso editorial podría manchar la reputación de un autor. “Si uso arte de portada ‘IA’, inmediatamente levantaré preguntas sobre qué más en el libro es ‘IA'”, explicó.

El problema del copyright y la procedencia

La preocupación central de ambos autores es la falta de claridad sobre la procedencia del contenido generado por IA. Stross planteó que si un escritor usara un LLM para desarrollar una idea, el modelo podría reproducirla para otros. “Sería solo mi propia culpa y de nadie más si el próximo modelo de la empresa en cuestión fue entrenado en mi esquema”, reflexionó.

Scalzi, por su parte, recomendó a los autores evitar la IA en toda la cadena de producción. “No usen edición ‘IA’, no usen arte ‘IA’, no usen traducción ‘IA’, no usen ‘IA’ en nada que ponga en disputa si su trabajo es realmente suyo”, escribió.

El autor de Redshirts también mencionó que tiene cláusulas en sus contratos que exigen que cada aspecto de la producción de sus libros sea realizado por humanos. “No es solo porque quiero honrar el trabajo y la contribución humana, sino porque estoy protegiendo mi propia reputación”, aclaró.

Stross incluso comparó a las empresas de IA con ladrones del siglo XVIII. “Hace tiempo solíamos ahorcar a personas así”, dijo, refiriéndose a Sam Altman y otros líderes de la industria.

La crítica a la procedencia subraya un problema legal emergente: si la IA se entrena con obras protegidas, los resultados podrían ser impugnados por los titulares de derechos. Esto afecta tanto a autores establecidos como emergentes.

Impacto en nuevos escritores

Scalzi expresó su preocupación por los escritores noveles, quienes podrían ser los más perjudicados por la falta de un historial que demuestre su originalidad. “Las herramientas de detección de IA son notoriamente poco confiables”, dijo, y espera que los editores busquen señales de uso de IA, lo que puede generar acusaciones infundadas.

El autor predice que esto desfavorecerá a los nuevos talentos, quienes no tienen un corpus de trabajo previo a ChatGPT. “Es especialmente injusto cuando los creadores de las herramientas que los escritores utilizan están apresuradamente introduciendo herramientas de ‘IA’ en los programas”, añadió.

Stross también se refirió a la presión sobre los escritores para adoptar la IA, pero insistió en que “cualquier autor serio debería evitar los LLM como la plaga”. La incertidumbre sobre la autoría puede llevar a disputas legales y dañar la relación de confianza con los editores.

La situación es particularmente delicada para los autores que dependen de contratos tradicionales, donde la originalidad es un requisito. Scalzi aconsejó a los escritores “no incorporar ‘IA’ en ninguna parte de su proceso de publicación”.

Ni Stross ni Scalzi mencionaron el caso de George R.R. Martin, quien escribe en una PC sin internet y con el procesador de texto WordStar. Este ejemplo podría convertirse en una prueba de autenticidad en el futuro.

La crítica a Microsoft y Google

Scalzi dirigió su crítica directamente a Microsoft y Google, acusándolos de imponer herramientas de IA en programas de escritura. “No, Microsoft, no quiero que Copilot ‘me ayude a escribir’ en Word”, declaró, y lo mismo para Gemini en Google Docs.

El autor considera que la sola presencia de estos asistentes es preocupante desde el punto de vista de la procedencia. “El mero hecho de que estas ‘IA’ estén merodeando alrededor de mi escritura es suficientemente malo”, dijo.

Stross compartió una opinión similar, señalando que las empresas de IA ajustan sus modelos para hacerlos más adictivos y así maximizar ingresos futuros. “Están robando material con derechos de autor para entrenar un LLM que está destinado a competir por ingresos con los autores”, escribió.

Este rechazo no es solo personal; es una advertencia sobre el impacto de la tecnología en la industria editorial. Los autores temen que la integración de IA en herramientas comunes normalice el robo de contenido.

Scalzi aconsejó a los autores ser cautelosos incluso con el arte de portada, porque podría manchar el libro completo. “Cada otro aspecto del libro está implícitamente manchado con el mismo pincel ‘IA'”, explicó.

La propuesta de herramientas locales

A pesar de su rechazo a los LLM comerciales, Stross admitió que podría haber usos legítimos. “Puedo ver algunas circunstancias donde ser capaz de entrenar un modelo local en mi trabajo podría ser útil para mí”, escribió.

El autor imagina una herramienta que funcione enteramente en su propio hardware, sin servicio en la nube y sin que “granujas robando derechos de autor hagan dinero”. Esta herramienta podría digerir un manuscrito y derivar una línea de tiempo escena por escena.

También le gustaría mapear la aparición de cada protagonista y personaje menor, y ver un mapa de calor de distribución de nombres. “Tal herramienta sería útil para mí de la misma manera que un corrector ortográfico es útil”, dijo.

Sin embargo, aclaró que el valor de esa herramienta es menor que el de un cerebro bien entrenado. “No es un sustituto para hacer el trabajo duro”, enfatizó.

Esta propuesta muestra una postura matizada: rechazar el abuso, pero aceptar la tecnología como apoyo. Stross busca soluciones que respeten los derechos de autor y la autonomía del escritor.

El uso creativo de LLM en la ficción

Stross también encontró un uso creativo de los LLM: como dispositivo narrativo en su obra. Compartió un extracto de una ópera espacial que está editando, donde se describe un LLM que tradujo el material y se disculpa por posibles alucinaciones.

El texto dice: “Los eventos descritos en este relato han sido traducidos a su idioma desde el material original utilizando un modelo de lenguaje grande no sapiencial”. Esta ironía refleja su actitud hacia la IA: como un elemento ficticio, no como un reemplazo de la creatividad humana.

El autor ya había mencionado en su blog que no quiere que un LLM escriba su ficción, pero sí podría inspirarse en ellos para construir tramas. Este uso satírico demuestra que la IA puede ser un objeto de crítica literaria.

Stross concluyó que tales herramientas son útiles como soporte de decisión, no como sustituto del trabajo. “El valor es considerablemente menor que el de un cerebro bien entrenado”, insistió.

En medio de la controversia, los autores encuentran maneras de integrar la tecnología sin ceder su autonomía. Su creatividad sigue siendo el centro de su trabajo.

El curioso caso de George R.R. Martin

Ni Stross ni Scalzi mencionaron en sus escritos el hecho de que George R.R. Martin, autor de Canción de Hielo y Fuego, escribe en una PC sin conexión a internet que ejecuta DOS y el procesador de texto WordStar. Este detalle fue destacado en el artículo original de The Register como una anécdota reveladora.

Quizás, en un mundo donde la IA es omnipresente, tales configuraciones retro podrían convertirse en una prueba de autenticidad. Los borradores y las historias de revisiones en un sistema aislado demostrarían que las palabras son realmente del autor.

Scalzi y Stross no se refirieron directamente a Martin, pero la mención en el artículo sugiere que la tecnología antigua podría ser un refugio para los escritores. La ausencia de conexión a internet elimina el riesgo de acceso no autorizado a sus obras.

Esta curiosidad añade una capa de humor a la crítica: mientras las grandes tecnológicas impulsan la IA, algunos autores optan por la tecnología más básica para proteger su trabajo. La ironía no pasa desapercibida.

En definitiva, la denuncia de Stross y Scalzi resalta una tensión fundamental entre innovación y propiedad intelectual. La comunidad literaria observa con expectativa cómo se resolverán estos desafíos legales y éticos.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados