No, l'escala no és tot el que necessites
Per què la IA actual suspèn en diversitat (i com Europa pot arreglar-ho)
Hem comprat el relat que la Intel·ligència Artificial és màgia universal. Però quan rasques la superfície, veus que és un mirall que només reflecteix una realitat: la de Silicon Valley. Què passa quan intentes encabir l'aranès o la llengua de signes catalana en un model dissenyat per a l'anglès?
Si has jugat amb ChatGPT o Claude darrerament, és fàcil caure en l’encanteri. Sembla que aquestes màquines ho entenen tot, que la barrera del llenguatge ha caigut. A Silicon Valley tenen un mantra per explicar aquest èxit: “Scale is all you need” (L’escala és tot el que necessites).
La idea és senzilla i seductora: oblida’t dels lingüistes, oblida’t de les regles gramaticals i dels diccionaris. Simplement, agafa tots els textos d’internet, posa’ls en una batedora gegant de targetes gràfiques (GPUs) i deixa que l’estadística faci la seva màgia. Si el model és prou gran, aprendrà sol.
És una teoria preciosa. I funciona de meravella... si parles anglès.
Però, què passa quan sortim de la bombolla anglosaxona? Què passa quan apliquem aquesta lògica de “força bruta” a llengües com l’aranès o la llengua de signes catalana (LSC)? Doncs que la màgia es trenca i veiem els fils de la titella. I el titellaire, sorpresa, és un enginyer californià que no sap on para la Vall d’Aran.
La “Lliçó Amarga” és només per als rics (en dades)
El 2019, l’investigador Rich Sutton va escriure un assaig famós titulat “The Bitter Lesson”. Venia a dir que intentar ensenyar “coneixement humà” (com la gramàtica) a les màquines és una pèrdua de temps, perquè al final, un ordinador potent que s’ho llegeix tot sense prejudicis sempre guanya.
Això és cert per a l’anglès, on tens trillions de paraules disponibles a la xarxa. Però per a l’aranès, l’estratègia de l’escala és un suïcidi. No hi ha prou aranès a internet perquè la màquina aprengui per “osmosi”.
Quan un LLM (Model gran de llenguatge) intenta parlar aranès basant-se només en l’estadística, al·lucina. Com que ha vist molt català, molt francès i molt castellà, i poc aranès, comença a barrejar-ho tot. T’escriurà un text que sembla aranès, però que fa servir verbs inventats o barreja dialectes creant un “Frankenstein” lingüístic que cap parlant natiu acceptaria.
Aquí és on la vella escola guanya. Els traductors basats en regles, com Apertium, no intenten endevinar, saben. Tenen les regles gramaticals de l’aranès programades “a pèl”. I resulta que, per a llengües petites, aquests sistemes “antics” continuen sent més fiables que un model de mil milions d’euros que s’inventa les paraules.
L’Impost Revolucionari de la IA: La “Taxa del Token”
Hi ha un biaix invisible que toca la butxaca: la tokenització.
Les IAs no llegeixen paraules, llegeixen trossets anomenats “tokens”. Com que els models s’entrenen sobretot en anglès, el seu “diccionari de trossets” és molt eficient per a l’anglès. Per exemple, la paraula “Apple” és un sol token.
Però en llengües com l’euskera, l’hongarès o fins i tot el català, la màquina no entén l’estructura de la paraula i la trenca en molts trossets petits i sense sentit. Això té dues conseqüències fatals:
El model es torna “tonto” més ràpid: Li costa més entendre la relació entre les parts de la paraula (l’arrel i el sufix).
Pagues més: Com que molts serveis cobren per token, utilitzar la IA en una llengua minoritzada és literalment més car que fer-ho en anglès. És un impost tecnològic per no ser angloparlant.
El Biaix Cultural: Per què la teva IA cita lleis de Texas?
Més enllà de la gramàtica, hi ha la visió del món. Els models s’entrenen amb dades d’internet, on predomina la cultura WEIRD (Western, Educated, Industrialized, Rich, Democratic). Però el problema s’agreuja amb l’alineació (RLHF), el procés on humans ensenyen a la màquina què està “bé” i què està “malament”.
Qui són aquests humans? Sovint treballadors subcontractats que segueixen guies de valors dels EUA. El resultat és que tenim models que parlen català però pensen com un nord-americà.
Si li demanes un consell legal a una IA sobre un tema europeu, és molt probable que al·lucini i et citi jurisprudència dels Estats Units com si fos vàlida a Barcelona.
Si li preguntes sobre la independència de Catalunya en anglès o en castellà, et donarà respostes amb matisos ideològics diferents, reflectint els biaixos de les dades d’entrenament de cada llengua.
L’Oportunitat Europea: “Smart Data” en lloc de “Big Data”
Davant d’aquest panorama, Europa té dues opcions: intentar copiar Google (i fracassar, perquè ells tenen més dades i més diners) o canviar les regles del joc.
La resposta està en la qualitat, no en la quantitat. És el que s’anomena High Value Datasets (Dades d’Alt Valor).
Si no pots guanyar per volum, guanya per precisió. Projectes com Aina o l’aliança europea ALT-EDIC, estan i haurien d’estar fent precissament això:
En lloc de “rascar” brossa d’internet, haurien d’agafar dades públiques d’alta qualitat (arxius parlamentaris, mitjans públics, literatura) que estan netes, ben escrites i lliures de biaixos tòxics.
Aquestes dades s’haurien d’utilitzar per entrenar models que potser no sabran fer poemes sobre pirates del Carib, però que parlaran un català o un aranès normatiu, precís i útil per a l’administració i les empreses.
Conclusió: La diversitat és l’antídot
La idea que “les normes ja no importen” és un luxe que només es poden permetre els qui tenen el domini digital absolut. Per a la resta de nosaltres, la norma és resistència.
Necessitem models que no només “prediguin la següent paraula”, sinó que entenguin l’estructura profunda de les nostres llengües i cultures. Necessitem models híbrids que combinin la potència de l’estadística amb la precisió de les regles lingüístiques.
No volem una IA que parli totes les llengües si ho fa pensant només en una. Volem una tecnologia que, per fi, aprengui a escoltar la polifonia real del món.