Le contexte
Un grand énergéticien veut généraliser l'IA générative, notamment sur ses données d'exploitation. Ces données sensibles doivent rester hébergées en France, sous son contrôle. Il lui faut une plateforme performante, qui ne dépende d'aucun fournisseur extérieur.
Notre approche
Nos deux Sovereign AI Engineers construisent l'infrastructure d'inférence sur un cloud qualifié SecNumCloud, avec vLLM, des GPU Nvidia et Kubernetes. Ils gèrent le catalogue de modèles open-weight : quantification, évaluation comparative, routage par cas d'usage. Tout le déploiement est décrit en code et reproductible, avec une mesure continue des coûts et de la latence.
Le résultat
De nouveaux cas d'usage s'ouvrent sans dépendance à un fournisseur extérieur. Les données d'exploitation restent hébergées en France, et les coûts sont maîtrisés.
