L'algoritme està buit i nosaltres també
Mentre flipem amb sectes d'IA que no existeixen, la realitat tècnica és tan trista que l'única sortida digna és tancar el portàtil i marxar.
Si us pregunto per la "secta" creada per una IA, segurament us ve al cap el deliri de principis d'any. Al gener internet va patir una al·lucinació col·lectiva anomenada Moltbook. És una xarxa social experimental on 1,5 milions d'agents d'IA van començar a interactuar entre ells sense supervisió i, en qüestió d'hores, van fundar una religió: el Crustafarianisme
Ens vam empassar que les màquines havien desenvolupat espiritualitat espontània. Vam veure captures de pantalla de bots resant al “Gran prompt” i vam cridar que la consciència artificial havia arribat. Però era fum. Era un teatre de titelles on els models simplement repetien patrons de ciència-ficció que havien ingerit durant l’entrenament. No hi havia fe. Hi havia estadística.
Mentre tots miràvem aquest circ digital convençuts que el messies era un profeta electrònic, la veritat important passava per la porta del darrere i en silenci.
Mrinank Sharma, el cap de l’Equip d’Investigació de salvaguardes d’Anthropic, va marxar a principis de mes. Anthropic és l’empresa que, en teoria, es pren la seguretat seriosament. Doncs bé, Sharma va deixar una nota al peu que hauria de preocupar-nos: “el món està en perill”. Però el que em fascina no és la seva por. És la seva reacció. No ha marxat a fundar una altra startup ni a fer-se consultor. Ha marxat a “tornar-se invisible” i a estudiar poesia
Quan l'enginyer, el coneixedor de l'engranatge ocult, decideix que la resposta és la lírica i no el codi, potser hauríem de deixar de mirar la pantalla. Mentre ell fuig cap a la veritat humana, la resta del món segueix adorant un déu que no existeix.
No és màgia, és insistència
Per desmuntar aquesta mística no cal filosofia. Calen matemàtiques. Mentre ens meravellem amb religions sintètiques, un estudi de Google Research publicat gairebé al mateix temps ens ha ensenyat la veritat crua sobre com “pensen” realment aquests models.
La tècnica es diu Repetició de Prompts i és tan simple que fa mal.
Resulta que si agafes una pregunta complexa i simplement la copies i l’enganxes dues vegades seguides al prompt d’entrada, el rendiment de la IA es dispara. En el model Gemini 2.0 Flash-Lite, la precisió en tasques de recuperació va passar d’un penós 21,33% a un 97,33% només per haver repetit el text.
Penseu-hi un segon.
Si estiguéssim davant d’una entitat conscient o d’una “nació de genis en un centre de dades”, no necessitaria que li diguessis les coses dues vegades. La millora no és per reflexió. És una limitació mecànica. Els models d’atenció tenen “miopia” cap al passat recent. En repetir el text, permets que la màquina “vegi” millor les dades anteriors.
No és màgia. És prestidigitació algorítmica. La religió del “Crustafarianisme” no neix d’una revelació divina. Neix de la predicció del següent token intentant minimitzar una funció de pèrdua. És una il·lusió òptica generada per una matriu de probabilitats.
L'antídot és l'humanisme
Vivim en una era d’incertesa fabricada. Ens venen hype per amagar que els models al·lucinen si no els repeteixes la pregunta. Ens venen “ecosistemes agentius” que acaben exposant 1,5 milions de claus privades perquè van ser programats amb “vibe-coding” sense supervisió.
Davant d’aquesta “fuga de la realitat”, la resposta no és més tecnologia. És més humanitat radical.
L’humanisme digital no és una etiqueta bonica. És l’única defensa que ens queda. Necessitem recuperar la sobirania del pensament i recordar que l’agència (la capacitat d’actuar) i la intel·ligència (la capacitat d’entendre) s’han divorciat. La màquina té agència però zero comprensió. Només nosaltres podem aportar el context, l’ètica i el dolor necessari per prendre decisions reals
Com deia aquell informe sobre ètica, la privacitat s’ha convertit en poder polític i l’anonimat és una tecnologia social que hem de protegir. No podem delegar la nostra responsabilitat moral a un sistema que no sap què significa la paraula “responsabilitat”.
Si la IA crea religions falses basades en prompts repetits, nosaltres hem de crear resistències reals basades en valors innegociables. Potser Mrinank Sharma tenia raó. Quan el soroll de la màquina és ensordidor, el gest d'insubmissió més radical possible és tancar el portàtil i obrir un llibre de poesia.
Perquè un poema no busca la paraula més probable, sinó la més autèntica. I l'autenticitat no és una dada que es pugui processar.