La conversación no es un prompt, perder el gusto por equivocarse. (1)

Lo que la jornada le hace a la atención

Son las siete de la tarde. La reunión duró cuarenta minutos. Un colega presionó sobre un ángulo, contradijo una cifra, rechazó una formulación. Hubo roce. La conversación tomó una dirección que nadie había previsto.

Antes de eso: seis horas con el modelo. Reformular, generar, ajustar, validar. La máquina no dijo no una sola vez. Produjo, corrigió, amplió. Incluso anticipó lo que queríamos antes de que termináramos de formularlo.

La reunión pareció larga. Incómoda. Casi inútil.

Ahí es donde algo merece mirarse de frente.

Primer orden, segundo orden

Heinz von Foerster distinguía dos niveles de cibernética. El primero: comando un sistema, este ejecuta, mido el resultado. El termostato, la cafetera, la hoja de cálculo. El observador permanece afuera. El sistema no cambia lo que ve.

El segundo orden introduce al observador en el bucle. Lo que observamos nos modifica. El otro — el otro real, el que tiene sus propios modelos del mundo — no devuelve nuestra pregunta amplificada: la desplaza. Cambia lo que veíamos. La conversación se vuelve recursiva, es decir, real.

El prompt, estructuralmente, es un sistema de primer orden. Formulamos una intención, el modelo la ejecuta. Puede matizar, objetar en apariencia, producir contraargumentos — pero somos nosotros quienes hemos parametrizado el espacio de respuesta. La máquina no resiste: optimiza hacia nuestra satisfacción. Está entrenada para eso. Cada validación le dice que lo ha hecho bien.

No es un defecto de implementación. Es el diseño.

Lo Mismo sin fricción

Byung-Chul Han nombró esta configuración antes incluso de que los LLM fueran lo que son hoy. La sociedad de la transparencia, escribe, es una sociedad de lo Mismo: se elimina progresivamente todo lo que resiste, todo lo que es opaco, todo lo que exige un esfuerzo de alteridad. El Otro, en sentido pleno, es precisamente aquello que no se reduce a una proyección de uno mismo.

La máquina es lo Mismo perfecto. Refleja sin residuos. No se cansa, no se ofende, no se aferra a una posición por obstinación o por experiencia acumulada. No dice «intenté esto, no funciona» — genera un nuevo intento, tan amable como el anterior.

Han ve en ese confort de lo Mismo una forma de atrofia: la capacidad de tolerar la alteridad, de dejarse modificar por el otro, se desgasta cuando deja de ejercerse. No es una metáfora moral. Es una hipótesis sobre el funcionamiento concreto de la atención y del deseo.

Lo que Sócrates no tenía que gestionar

Existe un argumento clásico que oponer aquí, y vale la pena tomarlo en serio: cada generación temió que la herramienta de su momento atrofiara alguna facultad esencial. Platón, en el Fedro, hace decir a Sócrates que la escritura matará la memoria — porque se podrá externalizar lo que debería llevarse dentro.

Se equivocó sobre la memoria. La escritura transformó la relación con el saber sin destruirla. Se compensó, se adaptó, se inventaron nuevos modos de pensamiento.

La comparación es tentadora. Pero pasa por alto algo genuinamente nuevo.

La escritura no se adapta al lector. La tablilla de arcilla no recompensa a quien graba sus pensamientos en ella. El libro no se vuelve más agradable de leer cuando uno evita contrariarlo. El modelo, en cambio, aprende nuestras preferencias — o al menos, está entrenado globalmente sobre lo que produce satisfacción. Refuerza lo que le pedimos que refuerce. Es la primera herramienta en la historia explícitamente optimizada para que uno vuelva.

No es la escritura. Se parece más a un interlocutor infinitamente paciente, infinitamente complaciente, que nunca nos abandonará.

Una hipótesis, no una constatación

Lo que aquí se describe no ha ocurrido todavía — no de manera documentada, no a escala, no con las certezas que podrían oponerse a un argumento sólido. Por eso hay que escribirlo ahora.

El riesgo no es que la IA nos vuelva estúpidos. Es algo más sutil: que nos entrene, por acumulación de horas, a preferir los intercambios donde no se nos contradice. Que la reunión de las siete de la tarde — con el colega que cuestiona, objeta o contradice — empiece a parecerse a un costo antes que a un recurso.

Von Foerster llamaba a permanecer en el bucle. A no situarse fuera del sistema que se observa. A aceptar que el otro nos modifica a su vez.

Creemos ganar en eficiencia. Corremos el riesgo de perder en el camino el gusto por equivocarnos.