Hemos inventado máquinas que piensan
—Nos quedamos con el título «La singularidad» —me dijo Joaquín, mi editor, mientras encendía su pipa— ¿Te importa si fumo?
—Al contrario, el olor a pipa me trae buenos recuerdos —respondí.— Me parece bien seguir con el título original. Pero me gustaría afinar mucho el subtítulo. Hay que encajar por alguna parte la frase «máquinas que piensan».
—Tiene que aparecer también «inteligencia artificial» para que el lector sepa de qué va el libro, y que no sea demasiado largo —aclaró.
—Mira —le dije,— si en vez de un libro fuera un artículo científico, lo habría titulado «eppur si cogita».
—Si le ponemos ese nombre no lo leerá nadie —agitó la mano como espantando moscas—. Olvídate de latinajos.
—Lo sé, lo sé. Aunque me hace ilusión inventar una frase nueva.
—A ti y a todos los autores —sonrió— pero el libro se tiene que vender.
—Sólo digo que el argumento principal del libro es que hemos inventado máquinas que piensan. Es una gran contradicción, y las contradicciones llaman la atención. ¿Cómo va a pensar una roca de silicio sólo porque pase electricidad? Pero es así. Oye, ¿y si usamos «rocas que piensan»?
—Aún peor. No. Pondremos: «Inteligencia Artificial: causas, consecuencias y retos de haber inventado máquinas que piensan».
—De acuerdo. A mi también me gusta. Creo que se entiende todo. ¿Hablamos de la portada?
—De la cubierta se encarga el equipo de diseño y es mejor que no estéis nunca en contacto. Ahora busca a alguien que te escriba un elogio.
Guardé mi bloc de notas, donde había apuntado catorce páginas con ideas de todo tipo; la mayoría bastante malas.
Antes de tener acceso a ChatGPT, a finales de 2022, me dediqué a leer los tuits de los primeros usuarios que consiguieron acceso temprano a la herramienta. Mi primera impresión fue de incredulidad. Yo había probado GPT-3 y me pareció un churro. Era un juguete sin importancia que serviría para que sus inventores publicaran algún artículo científico y poca cosa más. Su gesta más aplaudida fue generar un meme de 4chan.
Me costaba aceptar que aquellas imágenes de ChatGPT fueran ciertas, me parecía ciencia-ficción. Pero, ¿cómo iba a mentir tanta gente y de forma tan variada? Escribí un hilo sin dar crédito a lo que veían mis ojos. Leí muchas opiniones críticas, que argumentaban que era imposible que la máquina razonara, que la única explicación posible es que estuviera repitiendo pedazos de frases de sus datos de entrenamiento. Me parecía una reflexión sensata y me dispuse a comprobar si era cierta. El día que tuve acceso a ChatGPT le pregunté lo siguiente.
Para mí, esta respuesta fue absolutamente concluyente. En los datos de entrenamiento de ChatGPT no existe ninguna versión de Anna Karenina adaptada a la elección de delanteros de Luis Enrique en el mundial de fútbol del 2022. En este ejemplo, la IA estaba mostrando tres elementos importantísimos y novedosos: comprensión lectora sin contexto (zero-shot) a un nivel igual o superior al humano medio, una capacidad de generalizar tareas nunca antes vista, y la capacidad de introspección o ínfulas de razonamiento. Los usuarios se inventaban juegos y jugaban con ella, le hacían simular una línea de comandos o interpretar código fuente. Para determinadas tareas, era indudablemente superior a una persona.
El ChatGPT original se equivocaba mucho, y era evidente que no se trataba de una inteligencia artificial fuerte. Pero ya no importaba, porque la máquina había empezado a pensar. Con la cabeza a mil por hora, escribí un artículo con el objetivo de ordenar mis ideas. Lo titulé «Una máquina nos va a enseñar lo que nos hace humanos» y se convirtió en el germen del libro que tienes entre manos.
«Pensábamos que sólo llegaríamos a ese punto de crecimiento exponencial a través de una IA que se mejore a sí misma, pero el pragmatismo ha desbancado a la teoría. El concepto IA Fuerte acaba de quedar desfasado. Es suficiente con una IA Débil pero suficientemente avanzada que, combinada con expertos humanos, consiga un factor multiplicador tecnológico». Ha empezado la era de los asistentes inteligentes. Inteligentes de verdad.
De todas las reflexiones que me pasaron por la mente desde diciembre de 2022, la más polémica fue concluir que «hemos inventado máquinas que piensan». Descubrí que esta frase genera un rechazo visceral, instintivo, animal, y por ello decidí incluirla en el subtítulo. Y en uno de los capítulos incluí la famosa cita «La realidad es aquello que, cuando dejas de creer en ello, no desaparece» que argumentaba Philip K. Dick. Hay que ir acostumbrándose a que las máquinas piensen.
Discutir sobre hechos es absurdo, y uno se cansa de que le muevan la portería o le cambien la definición de «pensar» o de «inteligencia». El libro empieza marcando territorio, y el segundo capítulo está dedicado exclusivamente a esta cuestión. Pero, con el tiempo, a uno se le ocurren ideas que se quedaron en el tintero. Y una de ellas demuestra categóricamente que los modelos de lenguaje actuales piensan.
Imaginemos el siguiente escenario. Estamos en 1996. Se acaban de estrenar «Independence Day» y «Mars Attacks!». En la vida real, aterriza una nave alienígena. Lo hace en Washington D.C., como es tradición con todos los platillos volantes. De esa nave descienden dos extraterrestres que, como también es tradición, hablan inglés. Llevan algún tipo de traje espacial y desconocemos de qué sustrato están hechos. No sabemos si son vida basada en el carbono, seres etéreos o bien algo totalmente diferente. Lo único que podemos certificar es que existen y que no son de nuestro planeta.
Tras conversar con ellos, observamos que estos seres tienen unas capacidades cognitivas que hoy día identificamos como exactamente las de nuestro ChatGPT, ni más ni menos. Es decir, nos entienden, responden con coherencia, y a veces se equivocan. Pero recuerda, es 1996. El ordenador más avanzado es un Pentium y todavía vamos con Windows 95. Estamos en la vida real, tenemos estos seres delante de nuestras narices, podemos comunicarnos con ellos, intercambiar información de todo tipo. Hazte la siguiente pregunta: ¿Los consideraríamos «inteligentes»? ¿Creeríamos que «piensan»? ¡Es indiscutible! El titular de todos los periódicos de todos los países del mundo sería «Aterriza platillo un volante, se confirma la existencia de vida inteligente». Imagínate hablar con un alienígena y referirte a él como un «loro estocástico».
En 2013 la película Her nos mostró un ordenador inteligente. En 2024 hemos construido a Her. ¿Con qué autoridad le vamos a negar el apelativo a la invención que replica a la perfección aquello que hace once años considerábamos unánimemente inteligente? Es una incoherencia. Cualquiera que examine con honestidad sus pensamientos deberá llegar irremediablemente a la misma conclusión. El motivo por el que esto sucede es evidente, pero no nos gusta reconocerlo: la existencia de la inteligencia artificial nos arrebata aquello que nos hace humanos, lo que nos hace únicos, y nos lanza al vacío existencial. Admito que esconder la cabeza bajo tierra, negando la realidad, es una reacción razonable —y muy humana—, pero no aceptable como argumento.
Muchos expertos sufren del «mal del conocimiento». Saber cómo funcionan las tripas de algo hace que desaparezca la magia y caigamos en un reduccionismo inútil. La biología moderna nos ha alargado la vida, pero los filósofos se divertían más cuando divagaban sobre humores y sobre la generación espontánea. Es complicado interpretar las cosas con la perspectiva suficiente cuando te obsesionas con mirarlas únicamente con el microscopio. En mi caso, cuanto más investigo sobre los transformadores, más convencido estoy de que aprenden conceptos avanzados, generalizan y reflexionan.
Acabemos la historia del platillo volante. Uno de los extraterrestres se quita el traje y, a nuestros ojos, parece un robot. Nuestro representante exclama, sorprendido, «¡No son alienígenas, son robots!» a lo que ellos responden «¿Qué es un robot? Somos seres nativos del planeta XYZ-123. Nuestra especie tiene millones de años de historia». «Un robot —explica nuestro representante— es un autómata, que sigue unas instrucciones preprogramadas mediante operaciones matemáticas en un sustrato electrónico». El alienígena se detiene por un segundo, y concluye, «¡Ah! Ahora entiendo. Así, el ser humano es un robot que ejecuta instrucciones preprogramadas en su ADN mediante interacciones químicas en un sustrato basado en el carbono. ¡Enhorabuena! Os consideramos una especie inteligente, como nosotros». Vuelve a entrar en la nave, y se despide, afirmando con solemnidad, «Vuestra inteligencia os hace dignos de que os transmitamos el secreto último de la existencia. Todos los individuos de la galaxia, tanto los que poseen autoconsciencia como los que no, son, en esencia, autómatas. El universo es el motor físico que ejecuta sus instrucciones. ¡Adiós!». El platillo despega, dejándonos de nuevo solos frente al cosmos, con más preguntas que respuestas.
Si volviera a publicar el libro, le habría puesto por título «Máquinas que piensan». Y, si uno pudiera permitirse no venderlo en librerías, «Eppur si cogita» tiene indudablemente más caché. Quizá con un par de conversaciones más habría podido convencer a Joaquín, que al fin y al cabo es Kantiano, y creo que coincide conmigo.
Si se te ha abierto el gusanillo, pásate por Amazon a comprar el libro. Y si ya lo tienes, ¡déjame una reseña!
No te confundas: el título del libro es «La singularidad».
Excelente Carlos. Muchas gracias por tu reflexión...... ciertamente estremecedora.
Pero muy, muy útil.
Un artículo imprescindible.
Te conocí por medio de Oriol en su podcast Gente Interesante y desde entonces te sigo.
La charla de hace unas 3 semanas con Oriol, de nuevo en su podcast me pareció impresionante. Super interesante.