Todo el mundo conoce ChatGPT. Y todos conocen la tendencia de ChatGPT a “inventar” hechos y detalles cuando es necesario, un fenómeno que ahora se llama “alucinación”. Y todos han visto el argumento de que conducirá al fin de la civilización tal como la conocemos.
No voy a discutir con nada de eso. Ninguno de nosotros quiere ahogarse en una masa de “noticias falsas” creadas por bots de IA financiados por organizaciones cuyas intenciones probablemente sean maliciosas. ChatGPT puede vencer fácilmente a todas las agencias de noticias legítimas (y, en realidad, ilegítimas) del mundo. Pero esa no es la pregunta que quiero abordar.
Quiero ver la “alucinación” desde otro lado. He escrito varias veces sobre IA y diferentes tipos de arte. Mi crítica al arte generado por IA es que todo es, bueno, derivado. Puede crear imágenes que parecen haber sido pintadas por da Vinci, pero en realidad no necesitamos más imágenes de da Vinci. Puede hacer música que suene como Bach, pero no necesitamos más Bach. Lo que realmente no puede hacer es crear algo completamente nuevo y diferente, y eso es en última instancia lo que impulsa el arte. No necesitamos más Beethoven. Necesitamos a alguien (o algo) que pueda hacer lo que hizo Beethoven; para aterrorizar a la industria de la música rompiendo la música tal como la conocemos y volviéndola a armar de una manera diferente. No he visto que eso suceda con la IA. Todavía no he visto nada que me haga pensar que es posible. No con Stable Diffusion, DALL-E, Midjourney o cualquiera de sus familiares.
Hasta ChatGPT. Todavía no he visto una pieza como esta, pero puedo entender las posibilidades. Recientemente escuché de alguien que tenía problemas para entender el software que alguien había escrito. Le pidieron una explicación a ChatGPT. ChatGPT dio una gran explicación (explica muy bien la fuente), pero hubo algo gracioso. se refería a una característica del idioma de la que el usuario nunca había oído hablar. Resulta que la función no existía. Tenía sentido, era algo que ciertamente se podía hacer. Tal vez se discutió como una posibilidad en alguna lista de correo que apareció en los datos de capacitación de ChatGPT, pero nunca se implementó. No, tampoco lo es. Esa característica fue “alucinada” o imaginada. Esto es creatividad, quizás no creatividad humana, pero creatividad al fin y al cabo.
¿Qué pasaría si viéramos las “alucinaciones” de la IA como un precursor de la creatividad? Después de todo, cuando ChatGPT alucina, inventa algo que no existe. (Y si pregunta, probablemente admitirá cortésmente que no existe). Pero lo que no existe es la esencia del arte. ¿Existía David Copperfield antes de que se concibiera a Charles Dickens? Es casi una tontería hacer esa pregunta (aunque hay ciertas tradiciones religiosas que consideran la ficción como una “mentira”). Las obras de Bach no existían antes de que él las imaginara, ni tampoco las de Thelonious Monk, ni las de Da Vinci.
Tienes que tener cuidado aquí. Estos creadores humanos no han hecho un gran trabajo al arrojar muchas cosas “nuevas” generadas aleatoriamente. Todos ellos estaban estrechamente relacionados con la historia de sus diversas artes. Tomé una perilla o dos en el panel de control y la giré completamente, pero no arruiné las cosas. Si lo hubieran hecho, el resultado habría sido incomprensible tanto para ellos como para sus contemporáneos y los habría llevado a un callejón sin salida. Ese sentido de la historia, ese sentido de expandir el arte en una o dos dimensiones mientras se dejan otras intactas, es algo que los humanos tienen y que los modelos generativos de IA no tienen. ¿Pero podrían?
¿Qué sucede si entrenamos una IA como ChatGPT y, en lugar de ver la alucinación como un error y tratar de eliminarla, optimizamos para obtener mejores alucinaciones? Puede pedirle a ChatGPT que escriba historias y cumplirá. Las historias no son muy buenas, pero lo serán, y nadie afirma que ChatGPT esté optimizado como generador de historias. ¿Cómo se vería si el modelo fuera entrenado en imaginación y un sentido de la historia y el estilo literarios? ¿Y si optimizara las historias para que fueran grandes historias en lugar de malas? La conclusión con ChatGPT es que es un modelo de lenguaje. Es solo un modelo de lenguaje. genera textos en ingles. (Realmente no sé sobre otros idiomas, pero traté de obligarme a aprender italiano una vez y no funcionó). no es un ensayista. no es un escritor de ficción. no es un desarrollador. Todo lo demás que percibimos en ChatGPT es lo que aportamos como personas. No digo esto para advertir a los usuarios sobre las limitaciones de ChatGPT; Digo esto porque, incluso con esas limitaciones, hay indicios de mucho más que es posible. No está entrenado para crear. Ha aprendido a imitar el lenguaje humano, la mayor parte del cual es bastante aburrido para empezar.
¿Es posible construir un modelo de lenguaje que pueda probar sin intervención humana? “No es genial, pero es imaginación. Exploremos más a fondo”. ¿Es posible construir un modelo que entienda un estilo literario, sepa cuándo rompe los límites de ese estilo y pueda romper algo nuevo? ¿Y se puede hacer lo mismo con la música o el arte?
Hace unos meses hubiera dicho que no. Un humano puede decirle a una IA que cree algo nuevo, pero la IA nunca podrá hacerlo por sí sola. Ahora, no estoy tan seguro. La elaboración puede estar mal con una aplicación de redacción de noticias, pero es fundamental para la creatividad humana. ¿Son las alucinaciones de ChatGPT un precursor de la “creatividad artificial”? Tal vez sea así.