Plateforme IA d'entreprise sur Azure
De l'expérimentation GenAI à une plateforme IA gouvernée en production
Les POC d'IA générative s'accumulent, mais peu passent en production : sécurité, coûts, conformité et exploitation ne suivent pas. Je conçois des plateformes IA d'entreprise sur Azure qui permettent à toutes les équipes de livrer des cas d'usage et des agents en confiance.
Pour qui ?
Directions innovation, DSI et équipes plateforme qui veulent passer de cas d'usage isolés à une plateforme IA partagée, ou qui doivent encadrer l'usage d'agents et d'outils (MCP) par les équipes avec des droits bornés.
Ce que je livre
- Architecture de référence : Microsoft Foundry, modèles (Azure OpenAI et modèles ouverts), AKS, APIM, réseau privé
- Passerelle d'agents (agentgateway) : identité Entra ID par jeton, plafonds, routage et bascule de modèle
- Garde-fous portables (NeMo Guardrails, Content Safety) en fail-closed, journalisation et traçabilité
- MCP d'entreprise : exposition d'outils internes aux agents avec approbation humaine et droits bornés
- Microsoft Foundry : agents hébergés, guardrails et blocklists regex, catalogue de modèles, RBAC fin par projet et par agent, quotas
- Onboarding « Agent Ready » des équipes : self-service, quotas, sans ticket
- FinOps de l'IA : jetons, coûts et outils mesurés par personne, équipe et modèle
Méthode en 4 étapes
- 1
Cas d'usage et cadre
Priorisation des cas d'usage, données concernées, exigences de sécurité et de conformité, partage des responsabilités entre la plateforme et les équipes.
Livrable : Cadre de gouvernance et cas d'usage priorisés
- 2
Architecture de référence
Choix de la passerelle (APIM, LiteLLM ou agentgateway), de la chaîne d'identité sans clé API, des modèles (Foundry ou auto-hébergés) et des garde-fous. Validation avec la sécurité, la data et le juridique.
Livrable : Architecture de référence et ADR
- 3
Industrialisation
Plateforme sur AKS en IaC, passerelle avec autorisation par outil MCP et plafonds de tokens, garde-fous, serveurs MCP, métriques OpenTelemetry GenAI et dashboards de coûts. Tests des garde-fous.
Livrable : Plateforme en production avec suivi des coûts
- 4
Adoption
Onboarding de la première équipe sans ticket et avec des droits bornés (« Agent Ready »), agents publiés dans un catalogue, formation et retours d'expérience partagés.
Livrable : Parcours d'onboarding et premiers agents publiés
Microsoft Foundry : les capacités que je mets en production
Je connais Microsoft Foundry (ex Azure AI Foundry) de bout en bout, de l'hébergement des agents à la gouvernance des accès et des quotas.
Hébergement d'agents
Foundry Agent Service exécute vos agents (Agent Framework, LangGraph, Semantic Kernel ou code libre) : conteneur ou code source, identité Entra dédiée par agent, endpoint propre, bac à sable isolé par session, versions immuables et traces dans Application Insights.
Guardrails et regex personnalisées
Filtres de contenu en entrée et en sortie, Prompt Shields, matériel protégé, détection de PII, et blocklists personnalisées en correspondance exacte ou en regex (jusqu'à 10 000 termes par liste), associées aux déploiements.
Gestion des modèles disponibles
Catalogue multi-éditeurs (Azure OpenAI, Anthropic, Mistral, Meta, Cohere…), choix du type de déploiement (standard, provisioned, batch, managed compute) et du périmètre de modèles ouvert à chaque projet.
RBAC fin
Rôles dédiés : Foundry Agent Consumer pour appeler un agent, Foundry User pour développer, Project Manager, Account Owner et Owner. Affectation au niveau compte, projet ou agent, selon le moindre privilège.
Quotas et suivi de consommation
Quotas en tokens par minute par abonnement, région et modèle, vue Quota du portail, PTU pour la capacité réservée, et plafonds par projet (TPM et quota total) via la passerelle AI Gateway.
Observabilité et plan de contrôle
Traçage OpenTelemetry des agents, coûts et usages par déploiement, et gouvernance centralisée de la flotte d'agents et de modèles dans le plan de contrôle Foundry.
Aucune clé API, de bout en bout
La chaîne d'identité de la plateforme que j'ai construite chez TF1 : aucun secret à stocker, à faire tourner ni à fuiter.
- 1
Entra ID
OIDC : l'utilisateur s'authentifie
- 2
Passerelle d'agents
le JWT est validé, l'accès est autorisé par outil
- 3
Workload Identity
l'identité du pod, sans secret
- 4
Microsoft Foundry
authentification locale désactivée
Stack : agentgateway · kagent · kmcp · agentregistry · serveurs MCP · KAITO et vLLM · OpenTelemetry GenAI · Prometheus · Grafana
Preuves
Plateforme IA en production
architecture Microsoft Foundry + AKS sécurisée et gouvernée, livrée pour TF1
5 articles & talks
série « IA agentique : vers Azure et au-delà » (agentgateway, guardrails, MCP, FinOps)
Gouvernance intégrée
identité, plafonds, garde-fous et coûts traités dès l'architecture
- Lire le guide
Guide · 18 min de lecture
Mettre une plateforme d'agents IA en production sur Azure avec Microsoft Foundry et API Management
Guide : mettre des agents IA en production sur Azure avec Microsoft Foundry et API Management en passerelle. Identité sans clé, quotas de tokens, MCP.
- Lire le guide
Guide · 16 min de lecture
Gouverner des agents IA en entreprise : identité, garde-fous, outils, quotas et évaluation
Guide : gouverner des agents IA sur Azure. Identité d'agent Entra, autorisation par outil MCP, guardrails, quotas, évaluation continue, inventaire.
- Lire le guide
Guide · 15 min de lecture
FinOps de l'IA générative sur Azure : comprendre, mesurer et tenir les coûts en tokens
Guide : maîtriser les coûts de l'IA générative sur Azure. Modèle de coût en tokens, types de déploiement, PTU et réservations, cache, quotas par équipe.
Coût, délai et livrables d'une mission type
Trois formats, du plus court au plus complet. Les durées sont des ordres de grandeur constatés sur mes missions ; le périmètre exact et le devis sont fixés après le premier échange de 30 minutes, sous 48 heures.
5 à 10 jours
Cadrage d'une plateforme IA
Cas d'usage priorisés, exigences de sécurité et de conformité, choix Microsoft Foundry / modèles / passerelle, estimation des coûts en tokens, feuille de route en trois paliers.
4 à 8 semaines
Architecture de référence
Dossier d'architecture : identité sans clé API (Entra ID, Workload Identity), passerelle IA (API Management ou agent gateway), guardrails, catalogue d'agents et d'outils MCP, observabilité OpenTelemetry GenAI, FinOps des tokens.
3 à 6 mois
Mise en production et adoption
Plateforme déployée en infrastructure as code, premiers agents en production avec leurs garde-fous, tableaux de bord de coûts et de qualité, équipe plateforme formée à l'exploitation et à l'onboarding de nouveaux agents.
Facturation au forfait pour le cadrage et l'architecture, en régie plafonnée pour la mise en production. Le tarif journalier et les conditions (remote, sur site, durée) sont indiqués dans la proposition. Aucune revente de licences ni de services managés : vous restez propriétaire du code et du tenant.
- Transfert de compétences inclus à chaque étape (pair review, ateliers, documentation)
- Code et pipelines livrés dans votre dépôt, sous votre licence
- Point d'avancement hebdomadaire avec les décideurs
Questions fréquentes
Microsoft Foundry suffit-il comme plateforme d'entreprise ?
C'est une brique centrale, mais une plateforme d'entreprise ajoute l'identité par jeton, une passerelle, des garde-fous portables, l'exposition gouvernée des outils (MCP), l'observabilité et le FinOps. C'est cet ensemble que je conçois.
Que couvre votre expertise Microsoft Foundry ?
L'hébergement d'agents avec Foundry Agent Service, les guardrails (filtres de contenu, blocklists exactes ou en regex), la gestion des modèles disponibles et de leurs déploiements, le RBAC fin (Foundry User, Agent Consumer, Project Manager, par projet ou par agent) et le suivi des quotas en tokens par minute.
Peut-on utiliser des modèles autres qu'Azure OpenAI ?
Oui. L'architecture est pensée pour router vers plusieurs fournisseurs et modèles ouverts hébergés sur AKS, avec bascule selon le coût, la latence ou la conformité.
Comment encadrer les agents qui agissent sur le SI ?
Par une couche MCP d'entreprise : outils exposés avec droits bornés, approbation humaine sur les actions sensibles (ex. tickets), journalisation complète et plafonds par équipe.
En discuter avec moi
Un premier échange de 30 minutes, gratuit et sans engagement.
Autres services
Articles liés
Retours d'expérience Azure, AKS, FinOps et IA agentique publiés sur blog.smartcloudarchitect.fr.
Tous les articles du blog· 9 min de lecture
FinOps de l'IA agentique : mesurer jetons, coûts et outils par personne, équipe et modèle· 12 min de lecture
Des MCP d'entreprise pour les agents : Azure MCP Server, Microsoft Learn et une couche tickets avec approbation humaine· 12 min de lecture
« Agent Ready » : onboarder une équipe sur une plateforme agentique, sans ticket et avec des droits bornés· 11 min de lecture
Garde-fous IA portables : NeMo Guardrails derrière agentgateway, en fail-closed