Entrevista: La Inteligencia Artificial generativa en la literatura: ¿Aliada o enemiga? ¿Desde dónde debemos pararnos los escritores, editores y académicos frente a esta nueva tecnología?

Con el avance de la IA en sectores del mundo editorial (en toda la cadena de producción), la preocupación de los lectores, escritores e incluso, editores; crece en la medida que estas herramientas—si bien, para algunos, beneficiosas—; no están reglamentadas y rompen, de modo tajante, el concepto de «propiedad intelectual» y «autor».

De pronto, dos conceptos que parecían estar agotados en el plano de los estudios literarios y del conjunto, empieza a tambalear poniendo en jaque diversas posturas y decisiones al respecto.

Desde este debate, me planteo, tanto como bibliotecóloga como autora y editora, ¿hacia dónde tenemos que enfocar la atención en estas polémicas?

Julián Contreras, autor, editor de Petricor ediciones y estudiante avanzado en Letras, nos complace con algunas de sus conjeturas respecto a esta temática tan polarizada.

M: ¿Es la IA un autor propiamente dicho?

J: Depende de lo que entendamos por autor. Citando a Michel Foucault, un autor es una «función» vinculada a ciertos tipos de texto. Si leemos un poema, presuponemos que hay un autor. Si recibimos un ticket, no nos preguntamos por el autor, aunque el documento tenga un destinatario, que podríamos ser nosotros al comprar o consumir algo.

Hasta ahora, toda nuestra idea de literatura se basa en que todo texto al alcance de la mano ha sido producido por la actividad humana. La existencia de ChatGPT nos obliga a replantear esto.

La IA es, si tuviese que definirla en mis palabras, un sistema automatizado de reorganización y reproducción de material discursivo. Si la autoría es el rol en el que una inteligencia utiliza el lenguaje para producir un texto de manera singular, con esta definición «al aire», tendríamos que decir que sí. Es un autor porque ejerce esa función, pero esto depende, repito, que la definición que estemos manejando. Ahora, definir el carácter jurídico de esta figura, y si es capaz de detentar derechos y responsabilidades en el marco de la ley, es otra cosa. ¿Podría ser una persona no humana a la que corresponda derechos de autor e incluso, si lo llevamos más lejos, regalías? Eso lo determinarán los juristas.

M: ¿Qué dicen los académicos sobre la figura del autor en relación a la IA? ¿Sería correcto dominarla «colaborador» fantasma, así como en la actualidad existen, los escritores fantasmas? ¿O este concepto es incorrecto?

J: No advierto un enfoque autorcéntrico en los estudios sobre IA que he podido leer, sino una preocupación por investigar cómo las inteligencias artificiales pueden contribuir a la mejora de la escritura creativa y académica, sobre todo en etapa escolar. Hay una perspectiva más pedagógica que contrasta con nuestros prejuicios «apocalípticos» sobre lo que significa el uso de la IA. Hay un consenso general de que funciona más como una ayuda que como un sustituto de la función autor llevada a cabo por un ser humano. La palabra «colaborador» es problemática, porque todavía no concebimos la posibilidad de compartir una coautoría con ChatGPT en una publicación.

Tendríamos que pensar en un enfoque distinto, incluso menos autorcéntrico, aunque sea la figura del autor la que parezca amenazada. Un enfoque como el de Kenneth Goldsmith, que defiende la idea de una escritura no creativa, donde es legítimo y hasta deseable la no originalidad.

M: Si ya IA trabaja con información recabada dentro de las bases de datos de los metabuscadores e incluso de las propias por los usuarios, ¿podemos decir que solo son una mezcla de ideas recicladas?

Técnicamente, si consideramos que el cerebro humano es un procesador orgánico cuyas emisiones discursivas dependen de un conjunto de datos del entorno natural y social recabadas a través de sus sentidos, impresiones e interacciones con el medio ambiente, entonces todo el tiempo nos alimentamos de ideas recicladas de manera regular. Por ejemplo, nuestro orden social depende, justamente, de nuestra capacidad para reutilizar ideas (justicia, igualdad, respeto) a través del aprendizaje. La discusión sobre hasta qué punto ciertas nociones (como el bien) son innatas a nuestra especie es un punto y aparte.

Propongo este ejemplo porque noto que condenamos a las IA por «reciclar ideas» cuando el homo sapiens lo ha hecho de las más diversas formas: plagio, intertextualidad, cita, reescrituras, reversiones, remakes… Nos escandalizamos por ChatGPT, y no sin razón, pero si lo pensamos en frío, estas cuestiones teóricas han atravesado las artes verbales durante siglos e incluso han incidido en otros ámbitos.

Un caso no literario es el de las religiones del imperio romano, que se apropiaban de los dioses de las civilizaciones vecinas alternándolos con sus propios cultos. Por ahora, la raza humana ocupa el puesto número uno en el arte del reciclaje.

M: En los últimos días, en redes sociales, ha salido una fuerte polémica por el uso de la IA en la industria editorial, en especial para traducciones y portadas, ¿qué recaudos deberían tomar las editoriales, editores o escritores? ¿Es necesario agregar el uso de la IA en los contratos?

La idea de recaudo me sugiere que los profesionales deberían tomar precauciones «para prevenirse de una situación». La era de los recaudos, si existió, fue muy breve. Ahora deberíamos pensar en cómo llevar adelante un proceso de normativización del uso de las IA. Esto, al menos en la práctica, terminará dependiendo más del criterio de cada editor y autor que de un organismo regulador.

El ámbito de las traducciones es una esfera aparte. La traducción es un proceso que no se puede automatizar y que requiere sí o sí supervisión humana. Porque es una etapa donde se toman decisiones importantes que direccionan el sentido de la traducción. Basta echar un vistazo a la historia del doblaje en las producciones audiovisuales. ¿Hay que traducir el significado de todos los enunciados al pie de la letra, o hay otros aspectos que debo considerar antes de traducir ciertos refranes, chistes o palabras intraducibles?

Cada sello editorial deliberará en la medida de su ética si colocar en la parte de legales una advertencia que incluya la mención a una IA.

M: En estos casos, ¿hablamos de falta de ética de los profesionales de la edición o el uso discriminado es por causas de ajuste del personal? ¿Qué costos reales tiene utilizar esta herramienta?

El que no ha tenido escrúpulos laborales antes de la existencia de ChatGPT o Midjourney no los va a tener ahora.

He oído reiteradas veces el argumento de que la IA «nos va a quitar el trabajo», cuando ya de por sí el propio ámbito editorial está altamente precarizado entre el oligopolio del papel y la ausencia de coordinación de políticas culturales a nivel federal.

Dudo mucho que la IA sea el último clavo en el ataúd de la literatura hecha por humanos. Como muchos inventos de la humanidad, es un dispositivo que en manos de un patrón significa el despido de profesionales especializados y en manos de proletarios una mejora que podría facilitar ciertos aspectos para quienes están más en la lona. Por sobre todas las cosas, el arte, por más digital que sea, necesita supervisión humana por la más sencilla de las razones: está dirigida a un público humano.

La demonización del uso de las IA por el mero hecho de la defensa de lo humano invisibiliza toda la complejidad de la cuestión.

¿Voy a juzgar a la persona que desea una imagen personalizada para un fanfic en Wattpad o a un autor que se autofinancia una edición a bajo costo para su entorno cercano con una tapa bonita hecha por una IA con la misma vara que juzgamos a las grandes editoriales que han decidido prescindir de la asesoría de gente especializada teniendo capital para ello? He conocido casos de libros que fueron retirados de librerías en España porque sus tapas estaban hechas con IA. ¿Tecnofobia o sentido de compromiso y transparencia para con los lectores? Me inclino por lo segundo.

M: En los siguientes años, ¿qué consecuencias puede traer la «normalidad» del uso de la IA en la industria? ¿A quién crees que perjudica y a quiénes beneficia?

El impacto que me interesa considerar es cómo el ámbito del diseño incorporará las IA’s a las carreras involucradas en todo lo que es lo audiovisual. Los motores de búsqueda en Internet e incluso programas de diseño gráfico como Adobe Illustrator o PhotoShop han agregado inteligencias artificiales como herramientas, por lo que sí o sí nos tendremos que familiarizar con esa cuestión.

En la esfera del proceso creativo, ChatGPT, pese a quien le pese, podría ser un dispositivo muy útil para salir de un bloqueo de escritor. Probablemente, si George Martin le preguntara cómo podría resolver tal o cual escena (no un libro entero) de su novela en borradores, podría terminar esa dichosa saga cuya postergación está haciendo enojar a su fandom.

Me parece que el meollo está en la industrialización y la algoritmización de la experiencia de lectura más que la experiencia de escritura: en el hecho de que tenés un público cuya demanda exige que los escritores se comporten como máquinas que produzcan obras literarias cada cierto tiempo.

Hasta ahora enumeré los aspectos provechosos, y no quiero enroscarme en el debate de si una obra de arte es menos «auténtica» al ser realizada por una máquina. Una banana pegada a una pared que vale millones me parece una ridiculez, y sin embargo, como la idea la tuvo un humano «muy listo», se supone que signifique algo y sea «más profundo» que la asombrosa complejidad de una imagen fotorrealista realizada por una IA.

Los efectos perjudiciales son aquellos que se desprenden, no de la potencia de la máquina, sino de la falta de ética de los seres humanos. De aquellos que contemplen la edición como un trámite o un negocio que se puede agilizar sin ningún tipo de supervisión ni responsabilidad.

M: Para finalizar: ¿cuál es tu postura general sobre esta polémica?

J: Al principio, una tecnofobia intransigente.

Me costó dar el brazo a torcer. Irónicamente, fue la literatura de ciencia ficción (hecha por humanos) la que me hizo reconsiderar mi posición. Si leés a Asimov, el tipo estaba bastante convencido de que un robot bien programado vale tanto como un buen amigo. Si la literatura es el resultado indirecto de la relación entre sujeto, lenguaje y realidad, y si las IA’s están formando parte de la realidad ahora, entonces hay que retroceder dos pasos y reconsiderar muchas opciones.

Repito, lo que más me preocupa es la ética humana, que la IA se limite a obedecer al amo humano para replicar al pie de la letra y sin ninguna variación obras ya existentes y que la tangente dominante sea puramente el mercado.

Como editor, mi postura es más controversial, porque, a menos que el autor me lo diga, yo doy por sentado que lo que recibo es material humano. Sin importar mis experiencias previas, tal vez, tarde o temprano, reciba algún texto parcialmente hecho por ChatGPT. Veremos si seré capaz de diferenciar algo hecho por un homo sapiens de una máquina.

Por otro lado, siempre cuento la historia de que utilicé Meta IA para corregir un cuento de ciencia ficción que calculaba la población hipotética de una nave espacial; yo no soy matemático, pero la trama decía algo así como que en el transporte había (tiro un número al azar) quinientas personas a cien años del despegue desde la Tierra. El número, por fuerza de verosimilitud, no me cerraba, y le propuse problemas matemáticos a la IA. Hablamos con el autor y propusimos una cantidad más verosímil, además de debatir la tasa de reproducción y la esperanza de vida posible de un ser humano en el espacio. ¿Traicioné a la raza humana y al mundo del arte para resolver un error de cálculo que afectaba la calidad de una historia? Es posible. Todo por el bien de la trama.

Eso no es lo que me desvela. Si ya de por sí la esfera del arte está bastante tensionada, les deseo mucha suerte a quienes se dediquen al área de Comunicación en el futuro. Al periodista que deba diferenciar una fake news de un documento oficial o al que tenga que chequear los labios de un político durante un discurso presidencial en un reel de veinte segundos.

A modo de pesimismo optimista, mientras haya sufrimiento en el mundo, seguirá habiendo arte. Analógico, digital o el que sea. Esto es algo que ninguna inteligencia artificial deseará imitar: nuestra infinita capacidad para convertir una agonía genuina en extrañas formas de belleza radical. El buen arte requiere tensión, conflicto y dolor. Podemos discutir las formas, pero tenemos para rato.

Sin dudas, el mundo contemporáneo nos lleva a innumerables preguntas sin responder, mientras en el presente se lucha por visibilizar determinadas profesiones y conservar el oficio de la escritura como algo estrictamente de los humanos.

¿Qué piensan sobre esta polémica? Los leo en comentarios.