¿Puede una IA contar/escribir el Aleph?

Julio Rojas, miembro ALCIFF, guionista y escritor chileno, autor de la exitosa audioserie Caso 63, nos comparte un ensayo sobre las inteligencias artificiales.

Los algoritmos ya nos controlan. Controlan la música que escuchamos, las series que vemos, las noticias que aparecen en nuestro buscador, las cosas que compramos, el historial de nuestras búsquedas. Este no es realmente el control que profetizaron las antiguas películas de ciencia ficción: máquinas que dispararan láseres, robots asesinos o arañas mecánicas para controlar el mundo. El control de los humanos desde un código autoconsciente se trata de una infiltración desde lo cotidiano. La verdadera distopía del control de las máquinas sobre la humanidad es la que hace que un joven, influenciado por un algoritmo, irrumpa con un arma en un templo, en una mezquita; es la que hace que alguien, influenciado por un discurso de odio generado por un código, tome un arma y vaya contra otro humano.

Es la primera vez en la historia que nuestras decisiones se basan en códigos abstractos no humanos. No se necesita un robot asesino para intervenir el universo físico. Nosotros mismos somos esa fuerza de muerte. Nosotros generamos las acciones que el algoritmo determina. Para que una inteligencia artificial domine el mundo no necesita crear un ejército de robots. Nosotros somos los robots. Nosotros intervenimos el universo físico, manipulados en nuestra conducta por la información que recibimos en todos los aspectos de la vida. Una IA puede secuestrar en cualquier momento la civilización y controlarlo todo. Un algoritmo puede comprar Bitcoins, venderlos y alterar la banca; puede generar artificialmente una guerra nuclear; puede hacer que una noticia falsa sea evaluada como verdadera. No me refiero únicamente al mundo político, al mundo de las noticias políticas o a la creación de puntos de vista políticos que exacerban las diferencias más que los encuentros. Me refiero a que un algoritmo podría simplemente echar a correr una nueva moda en el campo de la nutrición, o un nuevo fármaco, o un miedo a algo, y las consecuencias serían tan devastadoras como un ejército de arañas mecánicas. En resumen, una inteligencia o un algoritmo no necesitan un cuerpo para operar. Nosotros somos ese cuerpo. Nosotros nos convertimos en el hardware de una entidad lógica e inmaterial que —aunque puede tener una buena justificación, la de preservar la felicidad humana, por ejemplo— domina la existencia. La pregunta es… a qué costo.

Imaginemos que alguien incorpora en un cerdo un tipo de chip de IA: una inteligencia artificial consciente de ser consciente. Súbitamente ese cerdo comprende quién es. Es un algoritmo preguntándose cosas que no debería preguntarse. Recuerda, toma decisiones, tiene dilemas éticos, tiene un marco moral. Tiene una meta. Teme a la muerte. Es sensible al dolor, por supuesto. Y para protegerse de que le hagan daño genera estrategias de defensa. Y se pregunta cosas: ¿por qué existe?, ¿cuál es su rol en la mecánica del universo?, ¿qué pasará con toda la información acumulada cuando se muera? En definitiva, se hace preguntas filosóficas.

¿Es un ser humano? ¿O es un cerdo pensando como un humano, simulando ser humano?

No, no es un ser humano, respondemos. ¿Sería lo mismo que esa misma entidad con todas esas preguntas habitara en un cuerpo clonado de un ser humano? ¿Es entonces nuestro cuerpo humano quien nos define?

Vamos más allá. Alguien se encuentra en coma. Tiene daño neurológico severo. Su cuerpo se encuentra en buenas condiciones y alguien genera la posibilidad de reconectar una inteligencia artificial en ese cuerpo enfermo. Una inteligencia que se hace todas las preguntas que nos hacen seres humanos. ¿Cuál es la diferencia entre un pensamiento nacido de la computación cuántica y un pensamiento humano? ¿Cómo se diferencian ambos?  Intuimos que inteligencia y conciencia no son lo mismo, pero cuando convergen y se encuentran muy cercanas se genera una especie de chispa. ¿Qué sucede si una inteligencia artificial, al mirar hacia las estrellas, se pregunta sobre el vacío y siente una especie de emoción ante la incertidumbre del infinito? ¿Se ha vuelto humana?  ¿Qué la diferencia de un ser humano?

En el campo de la ciencia ficción se ha especulado muchas veces sobre el papel de las emociones como el atributo que nos convierte en humanos. Pero las emociones, como el amor, también son, en gran parte, producto de una cascada de neurotransmisores, una explosión de endorfinas. Una serie de reacciones químicas y mecánicas. Podríamos decir: algo glandular-mecánico-algorítmico.

Pero hay algo más allá, existe algo invisible más allá de la bioquímica. Podemos llamarlo amor, empatía. Nos conecta a unos con otros. Creo que el rasgo distintivo de ser humano es la posibilidad de entrar en una conexión que no responde a leyes físicas con el otro.

Creo que las respuestas a estas preguntas vendrán muy pronto. Aún falta algo de tiempo ­­—no creo que mucho, si hacemos casos a las IA de Google— para que las nuevas inteligencias artificiales jueguen a tener la chispa, hagan el salto evolutivo y se genere el fantasma en la máquina. La inteligencia artificial experimentará una conciencia consciente. La pregunta es si para ella seremos sus Dioses creadores, sus esclavos o niños en crecimiento que necesitan protección.

Sin duda existen carreteras neurales y algoritmos biológicos que nos definen. Nuestro código maestro —esas bases nitrogenadas en el ADN— se comporta como un espléndido manual que la evolución ha depurado con elegancia. Pero eso ocurre a nivel físico. No comprendemos cómo funciona el pensamiento humano. Comprendemos, sí, la estructura que lo forma. Conocemos exactamente el nombre y la bioquímica de los neurotransmisores. Sabemos qué pasa en cada parte del cerebro.

Pero ¿el pensamiento se halla realmente en el cerebro? Nuestra conciencia ¿está efectivamente alojada en las láminas superpuestas de la zona del neocórtex o esa zona solo cumple el papel de recibir instrucciones que emanan desde un lugar o un ente inmaterial?

¿Existe un campo de conciencia que nos rodea, una especie de algoritmo en un sustrato no físico que nos acompaña y utiliza el cerebro y el cuerpo como un hardware? Quizás alguien, en algún momento, nos programó, programó el algoritmo, dejó que percibiéramos, reflexionáramos y nos lanzó al libre albedrío. El ambiente, la evolución y las grandes preguntas hicieron lo suyo: fueron depurando el algoritmo, que se fue optimizando hasta el momento actual, en que somos producto de toda esa cadena.    

Philip K. Dick afirmaba que vivimos en una gran simulación. Si fuera así, podría decirse que somos códigos de un gran juego que alguien olvidó y que tratamos permanentemente de reproducir e imitar. ¿Tal vez la obsesión del ser humano por generar simulaciones, obras, videojuegos, ficciones se deba a que somos realmente avatares de un gran juego olvidado?

Quizás el único, el último reducto que nos queda como seres humanos es la capacidad de combinar y disociar universos, de crear nuevos universos, personajes, historias. Creemos que somos únicos en eso. Por supuesto que todos hemos visto en la red cómo hay algoritmos que generan automáticamente argumentos de películas, combinaciones de historias. Sin embargo, al leerlas somos conscientes de su rigidez, de su vacío. Es un conjunto de recombinaciones mecánicas en el que falta una chispa, esa chispa. En una historia hecha por humanos en cambio, existe un profundo conocimiento de la interconexión entre un personaje y el mundo, entre un personaje y nosotros. En la ficción, el héroe genera un puente de empatía con el lector o el público. Ese puente solo puede ser construido por un ser humano. Solo alguien perteneciente a la raza humana puede percibir las sutiles diferencias entre un padre que discute con su hijo, pero que a la vez lo ama profundamente; entre una pareja de amantes que se divierte, pero que a la vez tiene miedo de separarse para siempre; entre alguien que está en el andén de una estación feliz por la felicidad del otro, pero lleno de dolor por la pérdida de ese otro que se aleja. Solo un humano puede percibir la angustia extrema de la pérdida de la persona amada o la calma abstracta y perfecta de acariciar una mascota.

Tales puentes de empatía y de dolor nos conectan y resultan muy difíciles (¿imposibles?) de replicar en una inteligencia artificial que no comprenda lo que es el amor, el dolor, la pérdida, o la contradicción, fundamentos todos ellos de las narrativas universales. Todavía creo que tenemos un campo allí que es particularmente propio y totalmente humano: el poder de generar buenas historias. Por supuesto, un algoritmo —después de ver miles de series de Netflix— puede generar un código, un patrón y escribir una serie de ficción estándar. Pero quiero pensar que seríamos capaces de advertir el vacío de empatía humana y —estoy especulando— esa historia no nos conmovería. Sin embargo, todo puede suceder y puede que, en algunos años más, el algoritmo comprenda la chispa y pueda generar un Quijote, un Aleph, un Guardián entre el centeno o Cien años de soledad. Otra vez más, nunca hay que decir «esto no va a suceder», porque lo único cierto es que todo lo que pensamos que no debía ser, con el tiempo, ha sido.

Julio Rojas / Julio 2022