LLMs i IA Generativa

Models de llenguatge grans: arquitectura, ús aplicat i desplegament de sistemes basats en LLMs. Els documents segueixen una progressió: primer els fonaments, després la construcció de sistemes i, finalment, l’aplicació a casos concrets i l’operació en producció.

Com llegir aquests documents

Construir un sistema amb LLMs és, sobretot, respondre tres preguntes en aquest ordre. Cada pregunta té el seu document, i val la pena tenir-les presents perquè els materials estan escrits al voltant d’aquest fil:

1. Cal un LLM? Moltes tasques es resolen millor amb un model clàssic, amb embeddings o directament amb regles. La resposta és a LLM vs. ML tradicional.
2. Quin patró? Si el flux el controla el codi tens un workflow; si el decideix el model, un agent. La tria i els seus híbrids són a Orquestració amb workflows i agents.
3. Quin model? Només al final, i a partir de les capacitats que el cas d’ús exigeix de veritat: Selecció de model per cas d’ús.

Les tres respostes comparteixen un mateix requisit previ: mesurar. Per això Avaluació de sistemes LLM no és una etapa que arribi al final sinó un document transversal, referenciat des de gairebé tots els altres.

flowchart TD
    T["Transformers i models de llenguatge"] --> V["LLM vs. ML tradicional"]
    T --> A["Arquitectura de sistemes LLM"]
    A --> S["Prompts i integració"]
    S --> P["Orquestració: workflows i agents"]
    P --> U["Arquitectures per cas d'ús"]
    U --> M["Selecció de model per cas d'ús"]
    U --> O["Sistemes LLM en producció"]
    E["Avaluació de sistemes LLM"]
    E -.-> V
    E -.-> P
    E -.-> U
    E -.-> O

Fonaments

• Transformers i Models de Llenguatge: de les RNN a l’atenció i el transformer, i com el preentrenament, l’alineament i l’escalat donen lloc als LLMs actuals
• LLM vs. ML tradicional: marc de decisió per triar entre LLM, ML clàssic o una opció intermèdia segons les dades, el cost i l’estabilitat de la tasca

Construcció de sistemes

• Arquitectura de sistemes LLM: el LLM com a component de programari, el servei d’inferència (vLLM, Ollama), l’API estàndard i els requisits de maquinari
• Prompts i integració: dissenyar prompts com a artefactes de programari i cridar el model des del codi, amb sortida estructurada, memòria, resiliència i seguretat
• Orquestració amb workflows i agents: compondre les crides en sistemes: workflows deterministes, RAG, agents amb eines, MCP i sistemes multi-agent

Avaluació (transversal)

• Avaluació de sistemes LLM: golden set, anàlisi d’errors, LLM-as-judge i el cicle de millora dirigit per evals

Aquest document es llegeix millor aviat, encara que la seva pràctica arribi més tard: la resta de documents hi remeten cada vegada que cal decidir alguna cosa amb dades en comptes de fer-ho a ull.

Aplicació

• Arquitectures per cas d’ús: nou casos d’ús concrets, amb les capes actives, les decisions de disseny i un exemple de codi per a cadascun
• Selecció de model per cas d’ús: matriu de capacitats i criteris per triar model (API comercial o local) per a cada cas

Operació

• Sistemes LLM en producció: observabilitat, control de costos, desplegament i cicle de vida del sistema

Itinerari curt

Si no pots llegir-ho tot, aquests quatre documents en ordre donen una base completa per construir un primer sistema:

Transformers i Models de Llenguatge → Arquitectura de sistemes LLM → Prompts i integració → Avaluació de sistemes LLM