LLMs i IA Generativa
Models de llenguatge grans: arquitectura, ús aplicat i desplegament de sistemes basats en LLMs. Els documents segueixen una progressió: primer els fonaments, després la construcció de sistemes i, finalment, l’avaluació, l’aplicació a casos concrets i l’operació en producció.
Fonaments
- Transformers i Models de Llenguatge: de les RNN a l’atenció i el transformer, i com el preentrenament, l’alineament i l’escalat donen lloc als LLMs actuals
- LLM vs. ML tradicional: marc de decisió per triar entre LLM, ML clàssic o una opció intermèdia segons les dades, el cost i l’estabilitat de la tasca
Construcció de sistemes
- Arquitectura de sistemes LLM: el LLM com a component de programari, el servei d’inferència (Ollama, vLLM), l’API estàndard i els requisits de maquinari
- Prompts i integració: dissenyar prompts com a artefactes de programari i cridar el model des del codi, amb sortida estructurada, memòria, resiliència i seguretat
- Orquestració amb workflows i agents: compondre les crides en sistemes: workflows deterministes, RAG, agents amb eines, MCP i sistemes multi-agent
Avaluació
- Avaluació de sistemes LLM: golden set, anàlisi d’errors, LLM-as-judge i el cicle de millora dirigit per evals
Aplicació
- Arquitectures per cas d’ús: nou casos d’ús concrets, amb les capes actives, les decisions de disseny i un exemple de codi per a cadascun
- Selecció de model per cas d’ús: matriu de capacitats i criteris per triar model (API comercial o local) per a cada cas
Operació
- Sistemes LLM en producció: observabilitat, control de costos, desplegament i cicle de vida del sistema