LLMs i IA generativa

Models de llenguatge grans: què són i com es construeix un sistema que en fa servir. Parteix de dos documents del bloc anterior, Xarxes neuronals i Embeddings i cerca vectorial: un LLM és una xarxa neuronal que treballa amb embeddings. Portar aquests sistemes a producció és el tema del bloc següent, Desplegament i operació.

Com llegir aquests documents

Els documents segueixen l’ordre en què es construeix un sistema:

1. Què és un LLM. El transformer, el preentrenament i l’alineament expliquen per què el model fa el que fa i on falla. La resta de documents en depenen.
2. Cal un LLM? Abans de construir res, cal decidir si la tasca el necessita o si n’hi ha prou amb un model clàssic, embeddings o regles. No depèn de cap altre document i es pot llegir primer de tot.
3. El model com a component. L’arquitectura situa el LLM dins del programari: el servei d’inferència, l’API i la tria del model. Cal tenir-la per entendre què rep i què retorna cada crida.
4. Una crida fiable. El disseny de prompts i la integració des del codi (sortida estructurada, memòria, resiliència, seguretat) fan de cada crida una peça en què es pot confiar.
5. Compondre crides. Workflows, RAG i agents combinen aquestes crides en sistemes. Cada patró pressuposa la crida individual de l’etapa anterior.
6. Casos concrets. Les arquitectures per cas d’ús apliquen els patrons a problemes reals i acaben amb la tria del model.

Al llarg dels documents tornen tres preguntes, en aquest ordre: cal un LLM (etapa 2), quin patró (etapa 5) i quin model (etapa 6, a Capacitats i model per cas). El model es tria al final, a partir de les capacitats que el cas d’ús exigeix de veritat.

Les tres respostes comparteixen un mateix requisit previ: mesurar. Per això Avaluació de sistemes LLM no és una etapa que arribi al final sinó un document transversal, referenciat des de gairebé tots els altres.

flowchart TD
    T["Transformers i models de llenguatge"] --> A["Arquitectura de sistemes LLM"]
    A --> D["Disseny de prompts"]
    D --> S["Integració i execució"]
    S --> P["Orquestració: workflows i agents"]
    P --> U["Arquitectures per cas d'ús"]
    V["LLM vs. ML tradicional"] -.-> P
    E["Avaluació de sistemes LLM"]
    E -.-> V
    E -.-> P
    E -.-> U

Fonaments

• Transformers i models de llenguatge: de les RNN a l’atenció i el transformer, i com el preentrenament, l’alineament i l’escalat donen lloc als LLMs actuals
• LLM vs. ML tradicional: marc de decisió per triar entre LLM, ML clàssic o una opció intermèdia segons les dades, el cost i l’estabilitat de la tasca

Construcció de sistemes

• Arquitectura de sistemes LLM: el LLM com a component de programari, el servei d’inferència (llama.cpp, vLLM), l’API estàndard, la tria del model i els requisits de maquinari
• Disseny de prompts: el prompt com a artefacte de programari: instruccions, exemples, raonament i com mantenir-lo i provar-lo
• Integració i execució: cridar el model des del codi, amb sortida estructurada, memòria, resiliència i seguretat
• Orquestració amb workflows i agents: compondre les crides en sistemes: workflows deterministes, RAG, agents amb eines, MCP i sistemes multi-agent

Avaluació

• Avaluació de sistemes LLM: golden set, anàlisi d’errors, LLM-as-judge i el cicle de millora dirigit per evals

Aquest document es llegeix millor aviat, encara que la seva pràctica arribi més tard: la resta de documents hi remeten cada vegada que cal decidir alguna cosa amb dades en comptes de fer-ho a ull.

Aplicació

• Arquitectures per cas d’ús: nou casos d’ús concrets: cinc patrons bàsics descrits sencers, amb arquitectura, decisions de disseny i codi, i quatre variants que en combinen o n’adapten algun; acaba amb les capacitats de model que exigeix cada cas i per on començar a triar-lo

Després

Un cop el sistema funciona, cal desplegar-lo, observar-lo i mantenir-lo. Bona part d’aquesta feina és comuna a qualsevol model i es tracta a Desplegament i operació. El que és específic dels LLMs (traces, control de costos, concurrència amb el servidor d’inferència, versionat de prompts i canvis del model base) és a Sistemes LLM en producció.

Itinerari curt

Si no pots llegir-ho tot, aquests sis documents en ordre donen una base completa per construir un primer sistema:

Transformers i models de llenguatge → Arquitectura de sistemes LLM → Disseny de prompts → Integració i execució → Orquestració amb workflows i agents → Avaluació de sistemes LLM

Si encara no tens clar que la tasca necessiti un LLM, llegeix abans LLM vs. ML tradicional.