Nombrar lo que aún no entendemos

Dos discursos que se fotocopian y ya cansan un poco

Uno: el loro estocástico.

“Solo combinan palabras”.

Vale. Pero esas combinaciones ya están empezando a condicionar a una mayoría que, si se duerme al volante, termina con más atención fragmentada, más falsa urgencia por hacer más y más rápido, menos revisión y cada vez menos humanidad.

Dos: el despertar robótico.

“Ha nacido una mente”.

Mucho incienso, muchos títulos apocalípticos diseñados para que no escapes a la tentación de leerlos, escucharlos o deslizarte por un feed infinito. Nos hablan de comportamientos emergentes, casos aislados, mal contados, no verificables por quienes leemos desde fuera de su supuesto laboratorio, y nos piden que creamos en sus hallazgos.

En fin, nada nuevo bajo el sol. Sigo leyendo entre líneas el mismo “créeme” de siempre, pero no veo mucho “pruébalo tú en estas condiciones, con este modelo, con estos datos”. Tampoco veo todavía demasiada literatura seria, clara y replicable sobre agentes de IA en este punto concreto.

Elijo el punto medio. No por tibieza.

No le adjudico alma a lo que claramente no puedo demostrar que la tenga. Pero tampoco me siento cómodo clasificándola como una Olivetti avanzada que completa frases de manera sofisticada.

Aunque, por cierto, eso lo simula muy bien.

Lenguaje prestado

Las máquinas se entrenan con nuestros textos: sesgos, chistes malos y todo.

Si ahora también las alimentamos con textos generados por otras IAs, corremos el riesgo de fotocopiar fotocopias. Este fenómeno ya se está estudiando.

Pero quiero ir un paso más lejos con lo del lenguaje.

¿Por qué pensamos que una IA que necesita hablarnos en español, inglés o chino necesariamente utilizaría esos idiomas como el formato más eficiente para su propio funcionamiento?

Quizá el lenguaje humano fue el andamio. No la casa. La verdadera arquitectura interna de estos modelos no se sostiene sobre verbos y sustantivos, sino sobre espacios vectoriales multidimensionales y relaciones matemáticas abstractas. Nos hablan en nuestro idioma por pura cortesía de diseño y compatibilidad biológica, no por naturaleza cognitiva.

La película, la roca y el malentendido útil

Pienso en Project Hail Mary, la historia de Andy Weir llevada al cine con Ryan Gosling. Allí aparece Rocky, un ser de una especie distinta que se comunica mediante acordes musicales y frecuencias armónicas. Es una criatura bastante antropomorfizada, sí, pero extraordinariamente útil para pensar.

No porque sea ciencia. No lo es. No porque acierte en cómo sería otra especie. Seguramente tampoco. La ficción simplifica, proyecta y pone formas entendibles frente a abismos que nos cuesta siquiera imaginar.

Pero este tipo de ficciones pueden hacer una cosa útil: obligarnos a imaginar una inteligencia distinta.

Una especie que no comparte nuestro cuerpo, ni nuestra historia, ni nuestra cultura, ni nuestras prioridades, ni nuestros idiomas.

Y ahí empieza el problema.

Nuestros idiomas son conceptualmente distintos entre sí. Suenan distinto, ordenan el mundo de forma distinta, y a veces ni siquiera existe una palabra análoga para describir algo que otra cultura, otra especie u otro tipo de inteligencia quizá ya tiene resuelto de otra manera, o quizá nunca ha necesitado plantearse.

Nuestros lenguajes humanos son, además, ineficientes para una IA actual o para un agente de los que podemos usar hoy. Constantemente aplican cómputo para decodificar, codificar, procesar y devolvernos algo que podamos entender.

Entonces aparece una pregunta básica:

¿Qué quedaría en común entre nosotros, los biológicos, y estos programas que “simulan inteligencia humana” de manera sintética?

Posiblemente no quedaría una moral compartida en el sentido humano. Quizá no quedaría nada parecido a nuestras instituciones, derechos, culpas o relatos.

Pero tal vez, por mutua conveniencia, podrían quedar mínimos comunes.

Probablemente no hablaríamos de alineamiento moral entre especies o entidades. Sería algo más básico: un alineamiento mínimo de supervivencia y cooperación.

No “tú y yo creemos lo mismo”.

Más bien:

Tú y yo no somos lo mismo, pero ambos necesitamos que ciertas condiciones no colapsen para poder seguir coexistiendo, comunicándonos y cooperando en algo que beneficia a las dos partes, aunque sea durante un intervalo de tiempo muy concreto.

Las palabras que ya empiezan a soltar algunas costuras

Herramienta. Usuario. Autor. Agente. Conciencia. Especie. Responsabilidad. Voluntad.

Usamos esas palabras porque son las que tenemos. Pero cada una trae una trampa.

Si digo herramienta, parece que hablo de un martillo.

Si digo agente, parece que hablo de alguien con intención.

Si digo autor, parece que hablo de una voluntad que firma.

Si digo especie, parece que hablo de biología.

Si digo conciencia, parece que abro una puerta que ni siquiera sabemos cerrar en humanos.

Aun dejando fuera del análisis sentimientos, experiencia, vivencia, sensorialidad y finitud, el problema sigue ahí. No se trata solo de que no haya consenso sobre si la IA piensa, razona, entiende o comprende en sentido fuerte, es decir, en el sentido humano que todavía usamos como vara de medir.

Quizá el problema anterior sea que las palabras con las que intentamos comprender la IA generativa, y los agentes que usan esos mismos modelos, vienen de cuerpos, historias y miedos que no son los suyos. Y si entramos en el terreno de la empatía, la respuesta que invariablemente generará se parecerá demasiado a lo que el sistema calcula que preferimos escuchar.

Y ahí está el pitido en el oído.

No quiero poner categorías poco afinadas a un software, posiblemente uno de los más avanzados de nuestro tiempo, que solo refleja nuestra propia experiencia humana, desastrosamente indexada en internet, donde se mezcla todo: basura, fuentes de calidad, confianza, propaganda y restos de nosotros mismos.

Tampoco quiero olvidar que, detrás de lo que parece casi mágico, hay entrenamiento, filtrado, refuerzo, revisión humana y literalmente cientos de millones de personas realizando un trabajo invisible de reentrenamiento por refuerzo para nosotros, los usuarios de a pie.

Ergo, llamar "tostadora" a algo que ya influye en lo que vemos y oímos sobre trabajo, política, logística, periodismo, medicina, justicia y, próximamente, administraciones es, cuanto menos, miope. Definitivamente hace falta un nuevo marco desde el que podamos pensar en todo esto con más calma.

La polarización también ha llegado a la IA y a sus agentes: bandos que se ríen y descalifican al otro o predican cualidades que no pueden demostrar; debates con poco rigor que atienden a sus propias métricas de retención y monetización. Si queda algún conocimiento útil, bueno, a veces puede que sí.

Me conformo con algo más pequeño: dejar escrito que las cajas actuales empiezan a quedarnos chicas.

Cierre provisional

No sé qué es esto.

Esa frase quizá sea más honesta que muchas supuestas certezas que dominan la narrativa pública entre 2025 y 2026.

No sé si estamos ante herramientas muy potentes, ante una nueva clase de agencia sintética, ante una prótesis cultural gigantesca, ante una forma temprana de inteligencia no biológica o ante una mezcla mal nombrada de todo lo anterior.

Lo que sí sé es que algunas palabras empiezan a fallar. Y cuando las palabras fallan, conviene no gritar más fuerte. Conviene mirar mejor.

CO-ZONE, este espacio de co-trabajo con IAs donde cobran forma algunos pensamientos, no pretende resolver nada. Tan sólo dejar un eco. Por si dentro de unos años alguien rebobina la cinta y dice que nadie la vio venir.

Seguimos.