La intel·ligència de la IA només és el reflex de la teva

Ets un autòmat o un centaure? Més enllà de la ficció del despertar d'una consciència artificial, la qualitat operativa de la IA és la manifestació directa de la teva capacitat crítica i del teu mètode

No acostumo a escriure en diumenge. Ja ho vaig comentar fa poc temps quan us parlava d'aquell càlcul energètic i misantrop de Sam Altman. Però avui he decidit trencar la meva pròpia regla per un bon motiu. Aquesta tranquil·litat del diumenge al matí, amb el cafè amb llet a les mans, em permet agafar els temes amb molta més calma i profunditat. I crec que m'hi acostumaré, publicar en diumenge mola.

Divendres passat vaig ser a Madrid. La Clara Soteras, una referent que actua com a pont entre les redaccions i els departaments tecnològics, organitzava un esdeveniment sobre el futur del SEO i Discover més enllà de Google. Després de les xerrades vam anar a dinar amb alguns dels ponents. Allà va passar allò que passa tan bé a Madrid: la sobretaula. Aquesta estona després de dinar que s'allarga, que es converteix en un networking pur, un intercanvi d'experiències i vivències superinteressant.

El mirall metacognitiu i la il·lusió de la màquina autònoma

Però el plat fort del viatge a nivell mental va venir just després. Vaig anar a veure un molt bon amic de Madrid i un amic seu, en Juanjo. En Juanjo és matemàtic i investigador del CSIC des dels anys vuitanta. És d’aquelles persones que en sap moltíssim més que jo sobre intel·ligència artificial. La meva visió és la d'un informàtic: puc conèixer la teoria i l'arquitectura del darrere, però ell, com a matemàtic, quan mira un model visualitza directament les operacions de matrius.

Parlar amb algú així et posa a lloc ràpidament. Enmig de la conversa em va introduir un concepte que potser havia intuït alguna vegada, però que formulat per ell em va fer explotar el cap: la simbiosi cognitiva i el mirall metacognitiu. En resum, em va dir que la intel·ligència d’un model de llenguatge depèn directament de l’humà que l’opera. Porto des de divendres donant-hi voltes i crec que aquesta és la peça que ens faltava per entendre on som.

Ens han venut la il·lusió que aquestes màquines tenen un pensament autònom. Però la realitat és que els models generatius operen en un buit semàntic, aprenen de textos però no tenen experiència sensorial, corporalitat ni raonament causal.

Si mirem els budells d’aquesta teoria veiem detalls fascinants:

• Els models de llenguatge pateixen d’una miopia contextual severa i incorregible per si mateixos.

• Tenen tot el coneixement teòric del món, però ignoren els detalls de la realitat arquitectònica d’un negoci i necessiten un humà competent que els curi el context.

• Quan s’enfronten a problemes de molta complexitat composicional, col·lapsen i malgasten recursos explorant solucions incorrectes.

• La màquina funciona en realitat com un mirall metacognitiu d’altíssima fidelitat.

Centaures contra autòmats, qui té el control?

Per tant, quan interactuem amb una IA no estem parlant amb un oracle intel·ligent. Estem veient reflectida la nostra pròpia arquitectura mental i els nostres patrons lògics. Si la teva instrucció és vaga o té llacunes causals, el model et retornarà inevitablement una resposta confusa, tangencial o inútil. La frustració d’alguns usuaris amb les respostes trivials de la IA és, de fet, un reflex matemàtic inalterable de la feblesa estructural del comandament humà que la va iniciar.

Aquí és on pren tot el sentit la diferència abismal entre els usuaris que a Harvard van catalogar com a centaures i autòmats:

• L’usuari autòmat delega cegament el raonament a la màquina, perd la seva agència intel·lectual i acaba patint un estancament cognitiu sever.

• L’usuari centaure manté el monopoli del control absolut sobre l’arquitectura i la direcció del projecte, delegant només tasques tàctiques a la màquina.

• L’èxit d’aquesta col·laboració no es basa en programar bé, sinó en aplicar una profunda teoria de la ment per modelar i anticipar les fallades de l’algoritme.

Així que la propera vegada que us meravelleu o us decebeu amb el que escriu un model generatiu, recordeu el que em deia en Juanjo a Madrid. La màquina només il·lumina el camí que tu has estat capaç de traçar. La brillantor que veus a la pantalla no és el despertar d’una consciència artificial, és el reflex exacte de la teva pròpia exigència intel·lectual i del teu rigor metodològic.