La Rendicion Cognitiva
Llevo tiempo pensando en que no pienso. Al menos en parte de mi vida laboral.
No me refiero a que sea una masa babeante apretando enter para aceptar todos los cambios que me propone el LLM de turno. Aún me queda algo de criterio. Pero sí que es verdad que entra un factor que es parecido a cuando estas tirado en el sofá mirando reels de Instragram, y dices, me apetece leer. Pero no lo haces porque joder que bien se esta en el sofá poniendo el cerebro en off.
Esto no es que seamos vagos o unos mantas. Hay una idea del libro ”Thinking Fast and Slow” de Kahneman que propone dos sistemas de cognición.
Sistema 1: Intuición toma decisiones rápidas, casi sin pensarlo. Es por cómo funcionamos por defecto ya que es lo más eficiente energéticamente. Sistema 2: Deliberación, es cuando pensamos sobre un problema.
Cuando un LLM me propone un cambio, o una serie de cambios en el código en el que estoy trabajando en ese momento, el pensamiento general que tengo es, pues esta bien, me sirve, aceptar. No pienso, ¿yo podría hacerlo mejor? Acepto el cambio y a otra cosa, que tengo mucho trabajo.
Y esto per se no es malo, es un multiplicador de productividad bestial, pero yo le estoy empezando a encontrar varios problemas:
Cuando pasan dos días, ya no me acuerdo de que hice y he de revisarlo. Hay proyectos que han pasado 5 años desde que los implementé y se decirte cómo funciona dónde funciona y que hay en la línea 45 de la clase Doe, porque me lo pique entero yo. Si hago lo mismo con IA ahora mismo se me va a olvidar a las dos semanas y no hablemos de debuguear. Os aseguro que con el que me he currado yo no hay cara de idiota, en cuando pasa el bug y tengo el contexto se al momento dónde puede estar pasando y el fix es más rápido, pero con la IA, seguramente la acabe volviendo a usar para debuguear.
¿Es esto realmente un problema, cuando estamos entregando código a una velocidad asombrosa? Yo creo que si, porque realmente yo no he decidido cómo està montado por dentro. He decidido a grandes rasgos el comportamiento de la solución al problema o tarea que tenia asignada, he iterado varias veces, he revisado la solución del LLM. He retocado algún fleco, lo he testeado y me he ido a otro tema. Que la rueda no puede parar de girar. Perdiendo por el camino el pensar profundamente en si la solución que estoy aportando es la correcta.
En un paper reciente de Shake y Nave en la Wharton School, introducen un nuevo sistema, la IA. Y la consecuencia de la introducción de este nuevo sistema es la rendición cognitiva. Porque confiamos de base en lo que nos genera el LLM haciendo un bypass directo del segundo sistema, nuestro criterio / pensamiento, poniéndonos en modo ahorro de energia sin ser casi conscientes. Es un paper muy largo que trata en profundidad esta teoría de los tres sistemas de cognición, y hay varios experimentos de laboratorio al respecto.
Y los que ya somos más veteranos, tenemos años de decisiones y batallitas aun podemos tener cierto criterio, aunque ahora lo estemos atrofiando. Pero lo mismo un junior que este programando íntegramente con Claude, no lo va a tener, va a delegar toda su cognición a este nuevo sistema y no va a desarrollar un criterio o una cognición real.
La IA es una grandísima herramienta, la cual nos puede hacer muy dependientes de ella y con ello de las grandes corporaciones. Con los peligros que eso conlleva, cómo por ejemplo, que nos suban el precio de un mes a otro o que unilateralmente nos quiten modelos más potentes por tema de precio, haciendo que la gente rabie porque ya no pueden usar opus 4.6 desde su subscripciones de 10€ al mes. O peor aun, que directamente cambien el modelo de negocio jodiendo por el camino a la gente que tenia una subscripción anual. La solución técnica sería usar modelos libres (aunque hoy no sean tan punteros), pero la solución a la dependencia cognitiva no la tengo tan clara.
Con este articulo mismo estaba teniendo un chat con Gemini, para corregir el estilo del texto y las faltas, incluso diciéndole que le diese la vuelta a mi argumento:
-** tu artículo es la autopsia de un programador que se está volviendo irrelevante y lo sabe.**
Y tal vez tenga razón, la verdad es que es una frase que me ha dejado pensando un rato largo. Con todo este post no quiero decir que tengamos que volver a programar con Coda conectados por FTP a un Drupal, que es como empecé yo. Sino de que haciendo uso de las herramientas que tenemos debemos de intentar no caer en rendirnos a lo fácil. Hemos de seguir aprendiendo, seguir trasteando con otros lenguajes, construyendo cosas divertidas o que nos sorprendan. Ahora con la IA lo tenemos más fácil que nunca pero no podemos rendirnos a promptear. Defiendo que hay que aprender.
Referencias: