No necessites un model propi (encara)

Abans d'entrenar res: que la IA respongui amb els teus documents, citant la font, i mesurar-ho amb preguntes reals.

«Volem el nostre propi model d'IA.» És de les frases que més sento quan una empresa comença a pensar en intel·ligència artificial, i gairebé sempre la resposta és: encara no. No perquè entrenar un model sigui impossible, sinó perquè gairebé mai no és el primer que cal.

El que es vol dir amb «model propi»

Quan algú demana un model propi, normalment vol tres coses:

1. Que la IA sàpiga el que sap la seva empresa: els seus procediments, els seus contractes, les seves fitxes tècniques.
2. Que no s'inventi les respostes.
3. Que les seves dades no acabin en mans d'altres.

Cap de les tres no exigeix entrenar res.

Primer, que respongui amb els teus documents

La tècnica es diu RAG (retrieval-augmented generation): abans de respondre, el sistema busca als teus documents els fragments rellevants i el model contesta a partir d'aquests fragments, citant d'on surt cada resposta. Si no troba res, diu «no ho trobo» en lloc d'inventar-s'ho.

Comparat amb entrenar, té avantatges molt pràctics:

• S'actualitza sol. Canvies un document i la resposta canvia. Un model entrenat s'hauria de tornar a entrenar.
• Respecta permisos. Cada persona només rep respostes dels documents que ja podia veure.
• Es pot comprovar. Cada resposta ensenya la seva font; si està malament, saps per què.

Ho explico amb més calma a Com aprèn una IA, on comparo RAG, CAG i reentrenar.

Després, mesurar-ho

Amb un assistent que «sembla que funciona» no n'hi ha prou. Abans de posar-lo en marxa preparem amb l'empresa un conjunt de preguntes reals amb la seva resposta correcta, les que fa el seu equip cada setmana, i mesurem quantes n'encerta. Aquesta mateixa bateria es repeteix cada mes: si un canvi en els documents o en el model empitjora alguna cosa, es veu.

Aquest conjunt de preguntes és el més valuós de tot el projecte, més que qualsevol model. És el que permet decidir amb dades i no amb impressions.

I només llavors, si cal, ajustar

Hi ha casos en què ajustar un model (fine-tuning, sovint amb tècniques lleugeres com LoRA) sí que compensa: un vocabulari molt específic, un format de sortida molt rígid o una llengua en què els models generals fluixegen. Però la manera de saber-ho és la mateixa: amb la bateria de preguntes al davant. Si l'ajust no millora la mesura, no es fa.

L'ordre, doncs, és aquest:

1. RAG sobre els teus documents, amb fonts citades.
2. Una avaluació amb preguntes reals, abans d'arrencar i cada mes.
3. Ajust opcional, només si l'avaluació ho justifica.

Sobre les dades i la sobirania

La tercera preocupació, que les dades no surtin de casa, té solucions que tampoc no passen per entrenar: servidors a la Unió Europea, proveïdors que actuen com a encarregats del tractament i no entrenen amb les teves dades, o models oberts desplegats en local quan el cas ho demana. En castellà i català hi ha models oberts com Salamandra, del Barcelona Supercomputing Center, que es poden executar en infraestructura pròpia; com amb qualsevol model, convé revisar la llicència de cada versió abans de fer-la servir (ho explico a Dades i models que es poden fer servir en una web comercial).

Quan no

Per a la majoria de negocis locals, entrenar un model propi gairebé mai no té sentit: no hi ha prou exemples perquè aprengui alguna cosa que un bon RAG no resolgui ja. Per a empreses mitjanes amb molta documentació, el camí és el de dalt, per fases i mesurant en cadascuna. És el que proposo a IA per a empresa, i sempre comença per un diagnòstic gratuït.