LLMs i IA Generativa

Models de llenguatge grans: arquitectura, ús aplicat i desplegament de sistemes basats en LLMs.

• Transformers i LLMs: Mecanisme d’atenció, arquitectura transformer i models de llenguatge grans.
• LLM vs. ML tradicional: Quan usar un LLM i quan no. L’espectre regles → embeddings → model petit → LLM frontier, patrons robustos, riscos específics i checklist de decisió pràctic.
• Arquitectura de sistemes LLM: LLMs com a components de programari, servidors d’inferència (Ollama, vLLM), API estàndard OpenAI, selecció de model i requisits de maquinari.
• Patrons de programació amb LLMs: Disseny de prompts, sortida estructurada, few-shot, gestió de memòria, RAG i ús d’eines i agents.
• Avaluació de sistemes LLM: Anatomia d’una eval, tipus d’avaluadors (codi, model, humà), pass@k i pass^k, evals d’agents i el cicle prompt → eval → millora.
• Arquitectures per cas d’ús: Nou patrons concrets (classificador, assistent conversacional, RAG, generació personalitzada, agent amb eines, batch, assistent amb eines, agentic RAG, multi-agent) amb arquitectura, entrades/sortides, decisions de disseny i exemples de projectes.
• Selecció de model per cas d’ús: Matriu de capacitats rellevants (sortida estructurada, tool use, raonament extès, context llarg…) per cas d’ús i estratègies de selecció de model.
• Sistemes LLM en producció: Observabilitat, traces, mètriques, control de costos, integració amb FastAPI, patrons de comunicació i empaquetament.