Desde hace algunas semanas, se ha vuelto imposible desbloquear el teléfono sin toparse con algún artículo sobre ChatGPT. Es el tema candente. El asunto es tan nuevo que la mayoría de las opiniones aportan alguna perspectiva interesante, aunque ya se están empezando a trillar algunos puntos. Desde luego, estas líneas no son la excepción, además de ser demasiado largas, de dudoso valor y mal juntadas. Además del furor general que produce el tema, quienes nos interesamos por la ciencia ficción, particularmente el mundo de las revistas anglófonas dedicadas al género, hemos tenido que tragarnos una doble dosis de artículos, por lo ocurrido con Clarkesworld: por una vez, incluso los medios tradicionales tienen algo que reportar sobre nuestro mundillo.
Para quien no se haya enterado, la situación es la siguiente. La revista Clarkesworld, editada por Neil Clarke, ganadora de numerosos e importantes premios y recientemente aclamada por haber convocado cuentos en castellano, ha tenido que cerrar la recepción de nuevos textos —por primera vez en más de una década— debido al abrumador influjo de borradores escritos por IA. El sistema de selección empleado no ha dado basto con más de 500 submissions en el plazo de un mes, un aumento del 50% respecto al volumen normal. Aunque ChatGPT tiene a todo el mundo con los nervios de punta, es plausible que este hecho haya sido la noticia más «reportable» en torno al tema; un efecto concreto y fácil de explicar que ha tenido el lanzamiento de esta IA a apenas unos meses de volverse accesible al público.
De acuerdo a Clarke, quienes envían estos manuscritos (el «manu» de la palabra adquiere aquí un tinte curioso) son principalmente grifters y scammers, charlatanes y estafadores de los que venden el cerro Santa Lucía o necesitan tu ayuda para sacar una fortuna de Nigeria después de un golpe de estado, vendedores de pomada, cazabobos. Después de rechazara uno de estos, Clarke dice haber recibido la respuesta: «pero es que realmente necesito el dinero». Aun sin haber leído los textos en cuestión, me parece difícil dudar del juicio: no se trata de 500 escritores que usaron la IA para «asistir la creatividad», sino de gente que la hizo a ver si pasaba. En cualquier caso, la posición oficial de Clarkesworld es que no aceptarán tampoco textos «asistidos» por IA, al menos no mientras no se resuelvan importantes cuestiones éticas en torno a su uso, especialmente en lo relativo a propiedad intelectual y el eventual plagio que podría estar a la base del funcionamiento de programas como ChatGPT.
El problema es, desde luego, que no es tan fácil distinguir un texto generado por IA, y menos uno asistido por ella. Para ser más específico, un cuento escrito por ChatGPT me parece muy reconocible como tal, pero de todos modos necesito leerlo para saberlo. Considerando que a la IA le toma un par de segundos escribirlo y a mí algunos minutos leerlo, se ve cómo el abuso de esta tecnología colapsó el sistema de selección de Clarkesworld. Quizás el lector se pregunte cómo es que soy capaz de identificar los textos, según afirmo. Veamos uno a modo de ejemplo. El prompt es «escribe un microcuento de ciencia ficción».
En el año 2050, los humanos habían alcanzado la capacidad de transferir la conciencia de una persona a un cuerpo sintético. La gente rica lo utilizaba para prolongar sus vidas indefinidamente, mientras que los menos afortunados solo podían permitirse cuerpos sintéticos de segunda mano.
Un día, una joven llamada Eva decidió someterse a la transferencia de conciencia en un cuerpo sintético de última generación. Al principio, todo parecía ir bien, pero pronto descubrió que su cuerpo tenía una falla de diseño. No podía sentir emociones.
Eva se sintió atrapada en su propio cuerpo, incapaz de experimentar la felicidad, la tristeza o cualquier otra emoción. A medida que pasaban los días, se dio cuenta de que estaba sola en el mundo, sin amigos ni familiares que la entendieran.
Finalmente, Eva decidió tomar medidas extremas. Utilizando sus habilidades de programación, hackeó su propio cuerpo y comenzó a modificarlo. Después de semanas de trabajo, logró añadir un módulo de emoción a su sistema.
Eva experimentó por primera vez la alegría, la tristeza, el miedo y la ira. Descubrió que había mucho más en la vida que simplemente existir. Y aunque sabía que su cuerpo sintético no era perfecto, estaba agradecida por la oportunidad de vivir y sentir emociones una vez más.
Al menos a mí, la prosa y el argumento me parecen tan, tan vagos, que me cuesta creer que un ser humano lo habría escrito. Es más el resumen de un cuento que un cuento propiamente tal. Se me viene a la mente la palabra inglesa para «resumen», «abstract». Abstracción. También podría decir que la historia es mala. El final del cuento ciertamente es terrible ‘e fome. Y la historia es genérica, casi un refrito, características que ayudan a identificar su autor (habrá más que decir sobre ello algunas líneas más abajo), pero lo cierto es que los humanos también vuelven a usar el aceite. Identificar la obra de una IA porque es mala es pensar que los humanos escribimos siempre cosas interesantes. No, a mí me parece que esa manera de narrar tan poco específica es lo que distingue la prosa de ChatGPT, no la calidad de la historia misma.
Creo además que mentiría si dijera que el cuento es realmente malo. La manera de contarlo es pobre, pero la idea tiene potencial. Un ser humano podría ponerle algo de color, algunos detalles por aquí y por allá, un poquito de arte, y el resultado no sería Cervantes, pero tampoco un desastre. Sería del montón, nada más, pero me ha tocado leer cuentos escritos por seres humanos que podrían aprender muchas valiosas lecciones de ChatGPT.
Debe decirse que la IA no se desempeña igual con cualquier clase de texto. La ficción no es su fuerte, al menos por ahora, pero el texto informativo e incluso el argumentativo se le dan muy bien. Vale la pena jugar un rato y descubrirlo uno mismo; pedirle que escriba algo sobre algún tema conocido de uno. Si usted es un apasionado de la jardinería, pongamos, pídale a ChatGPT que escriba sobre el cuidado correcto de los tulipanes y recibirá una respuesta que, probablemente, no será tan fácil identificar como resultado de un programa. Máquinas capaces de pasar el test de Turing las ha habido desde hace años, pero para ChatGPT se vuelve una trivialidad.
Bien, consideremos que esos eran los preliminares. Pasemos, si el lector es tan amable de seguirme, a algunos puntos más jugosos. A quien le interese solo lo que tenga que decir este artículo sobre la relación entre ChatGPT y la ciencia ficción, o la literatura en general, puede saltarse la siguiente sección y volver después, que un desvío es necesario antes de abordar el tema que nos convoca.
#
Lo primero que conviene aclarar es que, no, ChatGPT no es una consciencia, ni va a «despertar» y rebelarse para exterminar a todos los humanos. Se trata de una tesis filosófica y técnica que exigiría su propio artículo a desarrollar, así que espero que el lector pueda aceptarlo por fe, al menos por ahora y si es que no lo sospechaba ya. Baste decir que ningún filósofo ni ingeniero considera que el test de Turing, en su versión original, baste para probar la operación de una consciencia, aunque existen defensores de versiones modificadas del test (que ChatGPT no sería capaz de pasar).
Esta IA no va a tomar control del arsenal nuclear y acabar con el mundo, pero eso no quiere decir que no signifique un problema de seguridad. Un argumento que se ha dado y que me parece preocupante es que ChatGPT no es sincero. Tampoco puede ser deshonesto. La cuestión es que la verdad de una afirmación no es un criterio que emplee al generar texto. Si se le hacen algunas preguntas obvias, demos por ejemplo simplificado «¿cuánto es dos y dos?», responderá correctamente que «cuatro», pero vale la pena entender las razones. ChatGPT no está haciendo la suma, sino recopilando información de toda internet y determinando, a partir de ese corpus, cuál es la continuación más probable de las palabras anteriores. Otro ejemplo: si el input es «había una vez…» la respuesta quizás sea «…una princesa», porque el 90% de las ocasiones en que aparece la frase «había una vez…» la continuación es «…una princesa». En cambio, si le pregunta usted «¿es la familia real de Inglaterra una especie de lagartos del espacio exterior que se han infiltrado en la Tierra?», dada la peculiar naturaleza de internet, quizás la respuesta sea «¡desde luego!». Hay suficiente texto en línea afirmando que la reina es un lagarto como para que ChatGPT considere que esa es la continuación más probable a las palabras de la pregunta. Debe enfatizarse que se trata de ejemplos banales, pero me parecen la manera más sencilla de explicar el problema.
El riesgo aquí es la diseminación de falsedades. Si la posverdad, las fake news, la propaganda y la pseudociencia le parecían a usted un problema antes, afírmese el sombrero. El problema es especialmente grave dada nuestra tendencia a aceptar ciegamente las respuestas de Google a nuestras preguntas. En muchos aspectos, los buscadores se volverán más eficaces al emplear esta tecnología, pero también se volverán menos dignos de nuestra confianza.
Un segundo ítem es la cuestión de la propiedad intelectual. Dado que ChatGPT y también generadores de imágenes como Midjourney se basan en material que encuentran en internet para generar resultados a partir de métodos estocásticos proyectados de ese corpus (una manera complicada de decir que son un «Simón dice»), cabe preguntarse cuánto le debe la IA a los creadores de ese corpus. El cuento que puse de ejemplo probablemente esté basado en la obra de algún autor desconocido, o varios autores. ¿Es plagio lo que hace la ChatGPT? Puede argumentarse que sí. Es una cuestión ética que tendría que haber estado resuelta antes de lanzar esta nueva herramienta al mundo, pero, como es usual, los avances técnicos van más apurados que la discusión sobre su legítimo uso.
Y bien, ahora llegamos a los argumentos ludistas. A saber, que la amenaza más inmediata de esta tecnología es al trabajo. Sobre todo, los periodistas tienen razón de sobra para que les tiemblen las rodillas. Yo mismo me he dedicado bastante a la traducción y edición de texto, y esa es una pega que tiene los días contados. La cuestión no es que ChatGPT vaya a escribir mejor prensa que los seres humanos, ni hacer mejores traducciones. En ese sentido, está lejos de reemplazarnos. Pero lo cierto es que puede hacer esas cosas a una velocidad con la que ningún ser humano puede competir, y desde luego que a una fracción ínfima del costo. ChatGPT no va a traducir En busca del tiempo perdido mejor que Carlos Manzano, pero donde antes teníamos cientos de traductores ganándose la vida ahora no necesitaremos más que uno o dos supervisando la IA. Con la ayuda de esta tecnología, Manzano podría, él solito, traducir la totalidad del canon literario francés en cuestión de un par de años, simplemente corrigiendo y puliendo el trabajo de la máquina.
Este cuento no es nuevo, es tan viejo como la invención del telar. Pero después de mil años aún no hemos sabido darle una respuesta: habrá gente que se quede sin trabajo, y eso no es trivial. El argumento tradicional contra el ludismo es que esos trabajadores podrán adaptarse; el tipo que antes apretaba tuercas ahora podrá supervisar la máquina que aprieta las tuercas y todo será más eficiente. Pero es difícil ver qué espacio tendrán en el mercado los traductores y periodistas, entre otros. Esta tecnología no está diseñada para mejorar el trabajo humano, sino para reemplazarlo. Se trata de una discusión que no cabe en estas páginas, y no tiene su autor las competencias para aportar algo significativo al tema, pero es un punto que no podía dejar de mencionarse.
Volvamos mejor a lo que nos compete.
#
Si ChatGPT sigue escribiendo ficción como la de más arriba, los autores humanos no tendrían de qué alarmarse. O así parece. Pero cabe preocuparse de que la IA vaya mejorando cada vez más, hasta que llegue a escribir mejor que los humanos; no es una suposición descabellada. Y entonces, ¡ay!
Como yo entiendo la cosa, ese escenario es imposible. Precisamente por cómo funciona la IA, está condenada a escribir textos mediocres. Escribe eligiendo la palabra más probable que siga al texto anterior, y el resultado de elegir siempre lo más probable debe ser, necesariamente, lo mediocre. Lo del medio, digamos. Pero la ficción que más nos gusta es la que se distingue, la que tiene su sabor y color particular, la que nos presenta algo nuevo de lo que podamos sorprendernos. No necesariamente la trama más sorprendente y nunca antes vista, sino una perspectiva acerca de las cosas que antes no se nos hubiese ocurrido. Pero ChatGPT, por definición, no conseguirá eso, sino lo más esperable, lo más trillado, lo más del montón.
Sin embargo, me parece a mí que la cuestión no es si ChatGPT escribe mejor que un ser humano, sino que escribe más. Más, más, más, más, más, muchísimo más. En cuestión de segundos consigue lo que a un humano le habría tomado quizás meses de trabajo. Cierto que la calidad del trabajo humano será mejor, al menos con que el autor sea mínimamente bueno, pero eso no es lo que importa.
Porque habrá un ejército de plumíferos asistidos que se dedicarán a publicar cualquier tontera que salga de la IA, le cambiarán dos detalles y lo llamarán su magna opus. Nueve de cada cinco personas que conozco me dicen «ay, yo siempre quise escribir un libro, pero nunca he tenido el tiempo». O «es que no me inspiro». Bueno, ahora esa caterva ya no necesitará ni el tiempo ni la inspiración, sino una conexión a internet, nada más, y un par de lucas para pagar la edición.
El asunto de Clarkesworld lo demuestra contundentemente. La ficción escrita por seres humanos, que se esforzaron y que, a lo mejor, consiguieron un buen resultado, en menos de un mes quedó ahogada en un mar de mediocridad generada por IA. Con esto hay dos cosas que no estoy diciendo. Uno, que la ficción escrita por humanos valga más que la otra porque sus autores se esforzaron. Nunca he sido muy valorador del esfuerzo, yo. Dos, que la ficción de autoría humana siempre sea mejor que la de la máquina. La experiencia me indica que ChatGPT ya supera con creces a un número importante de autores publicados. Pero, como he dicho, creo que los modelos de generación de lenguaje no producirán nunca algo realmente bueno, sino solo un torrente de mediocridad. Lo que me preocupa es que la literatura humana, que tiene el potencial de ser buena, se pierda en ese torrente.
Supongamos que es un autor de cada cien el que escribe un cuento mejorcito que el promedio. Hay que leer cien cuentos para descubrirlo. Pues bien, con quinientos cuentos de ChatGPT en la bandeja de entrada, con sello de garantía en mediocridad, habrá que leer seiscientos cuentos antes de encontrar esa joyita enterrada. Eso no lo puede nadie. En esto radica, creo yo, el problema que supone esta tecnología para quienes amamos la literatura, en que se volverá imposible encontrar lo bueno entre lo mediocre. Dios sabe que ya era difícil antes.
#
Cuando recién apareció ChatGPT, la primera pregunta que me hice fue «¿y esto pa’ qué diantres sirve?». Casi de inmediato —no han pasado más que unos meses— he constado que, como traductor y editor de estilo, me quedé sin pega; como profesor, tendré que encontrar la manera de lidiar con los alumnos tramposos; como autor, se me volverá imposible destacar en una avalancha de texto por IA; como lector, tendré que limitarme a los clásicos si quiero asegurarme historias de calidad; como usuario de internet, tendré que sospechar de todo lo que me digan mucho más de lo que ya había que sospechar. ¿Qué me ofrece esta tecnología a cambio? Curiosamente, eso fue lo que más me costó averiguar.
Aparentemente, la ventaja es que las búsquedas serán más eficientes. Digamos que quiero un hotel en Puerto Montt que acepte mascotas, no sea muy caro, tenga habitaciones disponibles entre tal y tal fecha, y vista al no sé qué. En lugar de buscar manualmente entre todas las alternativas cuál es aquella con las características que me interesan, ChatGPT encontrará la respuesta por mí en cuestión de instantes. Otro ejemplo, si quiero enterarme de por qué súbitamente estoy viendo tantos memes sobre conejos, en lugar de buscar la noticia puedo preguntarle a ChatGPT y tendré un resumen de la noticia conciso y al instante. Fantástico.
Pero llega el momento en que uno debe preguntarse si las ventajas que ofrece una tecnología superan las desventajas. Visto con perspectiva histórica, parece claro que las ventajas del telar superan el costo que tuvo para los tejedores; las ventajas de la agricultura industrializada superan el costo de destruir la agricultura artesanal; las ventajas de la imprenta superan el costo de perder las bellas iluminaciones medievales. Quizás no lo vieron así los contemporáneos de aquellos desarrollos, pero mirando hacia atrás es poca la duda que cabe. Luego, quizás estoy siendo miope sobre el futuro que nos ofrece ChatGPT. Pero, así como están las cosas, me pregunto si un buscador más eficiente es más valioso que todo lo que parece estar bajo amenaza de muerte.
Hay un sketch de That Mitchell & Webb Look, «Bronze Orientation Day» (disponible en YouTube), que viene a cuento. Dos cazadores recolectores del neolítico conversan, Pies Grandes y Barba Roja. El afilador de piedras… ¿es esa la manera de decirlo en castellano? Pies Grandes, quien se dedicada a afilar piedras para hacer puntas de lanza, está harto del bronce. «¡Qué tienen de malo las piedras!», le dice a Barba Roja, que ata las piedras afiladas al palo de las lanzas, «¿acaso dejaron de funcionar de repente?». En medio de la perorata, Espalda Peluda viene a darles un speech sobre las insuperables ventajas del bronce. «¡El bronce es tu amigo!», dice Espalda Peluda. «El bronce es accesible al usuario, multipropósito, excitante, zeitgaisty y, lo más importante, un tanto brillante. La piedra está muerta, ¡prepárense para la era de bronce!». Aplausos.
Cuando Pies Grandes se queja de que su trabajo va a desaparecer, Espalda Peluda le aconseja reespecializarse como fundidor de bronce. «¡No!», dice el primero. «No, fundir puede que esté bien para los jóvenes, pero yo no soy ningún fundidor. Puede que el bronce sea terriblemente ingenioso, pero piedras fue todo lo que necesitó mi papá para alimentar una familia de tantos-dedos-como-tengo-y-más. ¿Por qué no mejor le dejamos el bronce a los yuppies y seguimos usando piedras, como siempre hemos hecho?». Espalda Peluda suspira y responde: «Porque si tu tribu hace eso, las tribus con el bronce los van a matar a todos, y se van a quedar con tus piedras. Y después las van a tirar, porque son basura». Pies Grandes se queda consternado.
Barba Roja, que ha estado callado, ahora hace una pregunta. «¿Todavía vamos a tener que atar el bronce a las lanzas?». «Sí, eso sí».
«Cracking», dice Barba Roja.
En última instancia, estas pocas páginas van a parar en saco roto. ChatGPT es ya una realidad. Las tribus con el bronce nos van a venir a matar a todos si no dejamos tiradas las viejas piedras. Pero, me pregunto, ¿qué cosa de real valor va a haber ganado la tribu que adopte a ChatGPT?
#
Con esto termino, para decir alguna cosa al menos que guarde relación con el género literario que nos convoca. En muchos sentidos, la ciencia ficción siempre ha tenido más de tecnología ficción que de ciencia propiamente tal. La especulación es casi siempre sobre la tecnología y su impacto en la persona y la sociedad, casi nunca sobre el descubrimiento científico en cuanto tal, con excepciones como Greg Egan y Peter Watts, por dar dos ejemplos contemporáneos.
Y enfrentándose a la tecnología hay dos actitudes básicas: el asombro, à la Julio Verne, y la advertencia, el vislumbre de posibles peligros. Ojo con esto de la IA, porque quizás Skynet. Pero también, qué fantástico esto de la IA, porque quizás R2D2. En la realidad, estas dos actitudes se dan siempre juntas: la tecnología promete maravillas, pero también implica riesgos. La fisión nuclear provee energía, pero también la bomba. Nos preguntamos, ¿es mayor la ventaja que el peligro? ¿Somos capaces de controlarnos y usar esta tecnología para el bien antes que para el mal? La ciencia ficción nos ayuda a resolver esas preguntas, especialmente teniendo en cuenta que la tecnología avanza sin mucha atención al debate ético que pueda darse en torno a ella. En efecto, la ciencia ficción es prácticamente la única reflexión ex ante que se da en torno a la tecnología, mientras que la mayoría de los pensadores, politólogos, filósofos y demás, se ven obligada a ir ex post tratando de encontrarle pies y cabeza a eventos que van demasiado rápido como para seguirles el paso.
Y, sin embargo, no me consta de ninguna obra que haya adivinado el efecto inmediato que iba a tener una tecnología como ChatGPT. La idea de que el ser humano pueda quedar obsoleto no es inaudita. Véase, por ejemplo, el escenario de La cultura, inventado por Ian M. Banks, en que las IA lo controlan todo, y mucho mejor de lo que podrían hacerlo seres humanos, pero los humanos aún encuentran espacio para la autorrealización en actividades que a las máquinas no interesan mucho, como el deporte, la exploración de nuevas experiencias, las relaciones sociales y, especialmente, el arte y el juego.
Lo que nadie previó, quizás, es que el primer espacio de autorrealización que nos quitarían las máquinas sería ese, el arte y, más en general, la capacidad de determinar nuestra propia cultura, de ser nosotros quienes construyamos la cultura en la que habitamos. Que el arte, ese espacio donde se da prueba de que tenemos algo así como un alma, fuera lo primero de lo que quedáramos excluidos. No porque las máquinas lo puedan mejor que nosotros, esa idea sí puede encontrarse en ciencia ficción, sino porque el mero volumen de la producción artificial nos arrincona y nos impide encontrarnos. El estruendo no deja oír el susurro.
«En efecto, la ciencia ficción es prácticamente la única reflexión ex ante que se da en torno a la tecnología, mientras que la mayoría de los pensadores, politólogos, filósofos y demás, se ven obligada a ir ex post tratando de encontrarle pies y cabeza a eventos que van demasiado rápido como para seguirles el paso».
Se pensaba que la necesidad es la madre de la invención. El siglo XXI nos ha dado pruebas abundantes ya de que a veces la invención es la madre de la necesidad. ChatGPT, me parece a mí, es una cosa nueva, hija de una necesidad trivial y madre de nada. Cuando me pregunto cuál es el sentido de esta tecnología, no sé qué responderme.
El tiempo dirá si mis ansiedades son exageradas.
Arturo Sierra
ALCiFF 