Antes de hacer cualquier acusación sobre uso “ilegítimo” de inteligencia artificial (IA) al redactar textos, hay que entender primero cómo funcionan esos sistemas, pues los softwares con los que en la actualidad se determinan porcentajes de intervención de una IA en diversos escritos son una suerte de cajas negras para la mayoría de los usuarios; es decir, no sabemos qué hacen, qué miden ni cómo. No se puede confiar en un resultado sin entender qué tiene la máquina adentro, dice Fernanda López Escobedo, especialista en lingüística forense computacional.

En entrevista con La Jornada, la también académica de la Escuela Nacional de Ciencias Forenses de la Universidad Nacional Autónoma de México (UNAM) considera que en su ámbito no tendría validez la acusación que se hizo contra el escritor peruano David Silva Rojas, cuya novela Donde el agua trabaja, ganadora del premio Almadía Ventosa-Arrufat, fue analizada en la plataforma Pangram, la cual arrojó que fue escrita 99 por ciento por una IA.

Por el contrario, quienes hicieron la denuncia tendrían que explicar la manera en que confiaron en tal dictamen apoyándose en un software cuyo funcionamiento es poco probable que conozcan y entiendan.

“No basta decir: ‘ah, pues utilicé la herramienta y este fue el resultado que me salió’. Desde el punto de vista forense no es un argumento viable. Un perito no puede nada más asegurar: ‘hay un 90 por ciento de coincidencia, dice esta herramienta’. Sí, pero por qué, qué metodología utiliza, qué mide, qué frecuencia de palabras, en qué idioma, qué aspectos del idioma”.

A manera de ejemplo, López Escobedo recuerda el fraude tecnológico de la llamada Ouija del Diablo, un falso detector molecular de drogas y armas que entre 2004 y 2012 compraron varias dependencias del gobierno federal y algunas estatales, como Michoacán, con una inversión total de unos 450 millones de pesos. El aparato era una caja de plástico unida a una antena metálica que supuestamente giraba cuando detectaba drogas, armas o explosivos a distancia. Al final se descubrió que dentro no había nada y quien giraba la antena era la persona que portaba la cajita.

“Ese aparato se vendió como si fuera un secreto industrial y es un poco lo mismo que está pasando con plataformas que ‘detectan el uso de IA’: desconocemos qué hay adentro de sus cajas negras, por eso no podemos tomar esos resultados como algo totalmente certero, pues caen en muchos errores. En el ámbito forense esas situaciones han sido muy evidentes ante la evolución de la tecnología, por eso necesitamos saber qué hay detrás, qué algoritmos utilizan. Se ha visto, por ejemplo, que los primeros softwares que existían para reconocimiento de voz estaban entrenados con lenguas que no eran del español, por ejemplo, el ruso.

“En cuanto a la escritura, las nuevas herramientas de IA son muy buenas analizando qué gramática es típica en el inglés, pero no en otros idiomas, pues además cada lengua tiene variantes, y el estilo de los autores también es diferente. Habría que saber con qué tipo de textos en español se entrenó Pangram, ¿son representativos? Sabemos que la literatura cambia a lo largo del tiempo y hay ciertas corrientes que tienen cierto estilo que las caracteriza; entonces, si nosotros queremos identificar a un autor actual, no le vamos a meter al software literatura novohispana. Es bien importante conocer si los datos con los que se entrenó son representativos ante lo que alguien quiere contrastar o confrontar en el caso de los textos. Si el autor que se analizó es peruano, ¿la IA se entrenó con literatura de autores peruanos?”

La especialista considera que también hay que preguntarse, si es que hubo uso de IA, para qué fue: ¿corrección de estilo, ortografía o sintaxis? “Porque aquí hay otro punto que es muy importante entender: cuando le pedimos a una IA: ‘escríbeme un poema’ o ‘escríbeme un cuento’, no lo está inventando, está mezclando toda la información que ya tiene. En cambio, la literatura es la experiencia de vida de un autor, eso es la creatividad, lo que se vive en el día a día. Una inteligencia artificial no tiene vida, no es consciente, tiene la información de los textos que le dan para entrenarse, textos que tendrán que seguir alimentándola para que pueda ir cambiando conforme la sociedad se va transformando. Si no le diéramos más escritos, se quedaría en la sociedad actual, en lo que se vive hoy día, pero no en 20 años”.

Al preguntarle qué se puede hacer para evitar que los autores que utilizan IA sean considerados delincuentes, como se pretende hacer creer, López Escobedo señala que lo primero es dejar de pensar que esta tecnología es totalmente negativa en el campo de la literatura o en la producción artística.

“Hay que asumir que la IA es una herramienta que se va a seguir usando, aunque aún se le tiene miedo y no se le entiende. No podemos pensar que la vamos a dejar de utilizar, eso no va a pasar, al contrario, va a haber más y más”.

En la producción literaria, agrega, esto significa establecer límites de uso relacionados con la ética y preguntarse cuál es el objetivo de utilizar IA en una obra. Si se emplea para presentar un texto a un concurso literario imitando el estilo de Gabriel García Márquez y sin declararlo, considera que se trata de una trampa.

Sin embargo, señala que la inteligencia artificial puede utilizarse para corrección de estilo o traducción, siempre que exista transparencia y se informe al final del texto sobre el uso de esa herramienta.

La especialista concluye que no se debe satanizar la inteligencia artificial, pues ya forma parte de la vida cotidiana, pero es necesario establecer reglas claras para su utilización.