Desplegament i operació

Els blocs anteriors expliquen com entrenar i avaluar models (Aprenentatge automàtic) i com construir sistemes amb LLMs (LLMs i IA generativa). Aquest bloc explica què passa després: com portar-los a producció, com decidir automàticament si hi poden arribar i com mantenir-los funcionant.

Com llegir aquests documents

Els documents segueixen el cicle de vida d’un model en producció, i cada etapa necessita l’anterior:

Desplegar: convertir el model en un servei, amb una API, una imatge Docker i un número de versió. És la base de tot el que ve després.
Validar: decidir automàticament quan una versió pot arribar a producció. La porta de qualitat llegeix les metadades de la versió i els tests s’executen sobre la imatge, així que cal saber primer què és una versió i què és una imatge.
Vigilar i actualitzar: detectar quan el model empitjora i reentrenar-lo. Tanca el cicle: el model nou és una versió nova que torna a passar per la validació i el desplegament.

El cicle es recorre dues vegades. La primera, amb un model de ML, que el servei carrega des d’un fitxer: és el cas més tangible, perquè cada idea (artefacte, porta de qualitat, drift) té alguna cosa concreta a què referir-se. La segona, amb un LLM, on el model és un servei extern al qual el backend fa crides. Aquesta diferència explica totes les altres, i per això les etapes del LLM es presenten com a canvis respecte de les del ML, en el mateix ordre. La primera passada només pressuposa Aprenentatge automàtic; la segona necessita també LLMs i IA generativa.

flowchart LR
    D[Desplegar] --> V[Validar] --> M[Vigilar i actualitzar]
    M -.->|versió nova| V

ML: el model és un fitxer

Del model al servei: pipeline de MLOps, serialització, API amb FastAPI, Docker i versionat de models.
Validació i CI/CD: criteris de desplegament, testing, portes de qualitat i pipeline de CI/CD. Inclou com validar un sistema on una etapa és un LLM, perquè un sistema mixt passa per una sola porta.
Monitoratge i reentrenament: registre de prediccions, detecció de drift, reentrenament i proves amb tràfic real.

LLM: el model és un servei

Sistemes LLM en producció: les mateixes etapes (desplegar, validar, vigilar i actualitzar) quan el model és un LLM: comunicació amb el model, concurrència, evals, traces, costos i canvis del model base.

Consulta

Patrons d’implementació: estructura del projecte, configuració, logging, gestió d’errors i injecció de dependències. No és una etapa del cicle sinó material de consulta, vàlid per als dos casos; cada patró remet al document que n’explica el perquè. En un projecte real, l’estructura i la configuració es preparen al principi, així que convé tenir-lo a mà des del primer dia.

Després

IA sostenible parteix del que aquest bloc mesura (tokens, latència, cost per petició) i en discuteix el cost ambiental. La Guia pràctica recull els tres blocs en forma de decisions, del problema al desplegament.

Keyboard shortcuts