PARTIE III. Deploiements

Le déploiement d’une application LLM peut prendre plusieurs formes en fonction de ses objectifs et contraintes. Comme tout projet informatique, la complexité du déploiement dépendra :

• de la complexité des tâches effectuées et des intéractions prévues
• du nombre d’utilisateurs total et concurrent
• du temps de réponse et de la qualité de service attendue
• …

L’infrastructure et l’implémentation de ces projets peuvent fortement variées en fonction du contexte technique et de l’objectif métier. Cette problématique est d’autant plus forte que les prérequis en terme de ressources sont importants pour les projets d’IA générative.

Bien que les contextes d’implémentation soient diverses, les briques et les concepts utilisés sont communs. Ce chapitre introduit les principaux outils nécessaires, et présente différents contextes de déploiement. Il est découpé en 4 parties :

1. 🚧 Architecture d’un projet LLM: Définition générale des composants d’un projet LLM, ainsi que des pistes de réflexion pour l’infrastructure sous-jacente
2. 🔩 Service LLM avancé: Description des principaux composants d’une architecture d’inférence, ainsi qu’un premier exemple d’implémentation de ces outils
3. 🏭 Service LLM à grande échelle: Orchestration et mise en place d’une infrastructure d’inférence à grande échelle
4. 💻 Déploiement d’applications: Exemples de déploiements d’interfaces pour des fonctionnalités de tchat et de RAG.