Ce diagramme montre les composants clés de la charge de travail d’application intelligente à inclure dans votre conception.
| Composant |
Description |
| Couche Client |
La couche cliente permet aux utilisateurs et aux systèmes externes de se connecter à l’IA. Cette couche prend vos demandes et retourne les réponses générées par l’IA, tout en vous assurant que l’expérience est simple et facile à utiliser. |
| Couche d'intelligence - API |
L’API de couche Intelligence relie les clients et les fonctionnalités d’intelligence du système via des API bien définies. Il est chargé de diriger les demandes vers le processus d’orchestration ou d’agent approprié, en veillant à ce que les interactions entre les utilisateurs et les services soient lisses et cohérentes. Cette couche gère également la façon dont les données sont accessibles, met en place des mesures de sécurité et définit des limites pour empêcher le système d’être surchargé. Si une application a simplement besoin d’une prédiction simple, cette couche peut ignorer les étapes d’orchestration complexes et envoyer la requête directement au moteur d’inférence pour une réponse rapide. |
| Couche d'intelligence - orchestration et processus de calcul de l'agent |
L’orchestration et la couche de calcul de l’agent sont responsables de la coordination de la façon dont différents composants d’IA fonctionnent ensemble pour effectuer chaque tâche. Selon ce qui est requis, il peut exécuter des tâches une après l’autre ou laisser plusieurs agents travailler en même temps, puis fusionner leurs résultats. Il détermine l’intention de l’utilisateur, vérifie les réponses pour s’assurer qu’elles sont sécurisées, s’intègre à la couche de connaissances pour obtenir des informations et utilise des outils pour combiner tout et vous donner la meilleure réponse. |
| Couche d'intelligence - Gestion des interactions |
La couche de gestion des conversations est la mémoire et le gestionnaire de conversation du système. Il permet à l’IA de discuter naturellement en rappelant les messages précédents, en gardant le suivi des sujets en cours et en stockant des parties importantes de la discussion, afin que les conversations puissent circuler en douceur même pendant de longues sessions. Il s’occupe également de la façon dont les données de conversation sont conservées ou supprimées, en veillant à ce que vos informations soient gérées de manière responsable. |
| Couche d’inférence - bases ou modèles prédictifs |
La couche d’inférence est l’endroit où un modèle formé effectue des prédictions, génère du contenu ou prend des décisions en fonction des informations qu’il reçoit. Le processus commence par charger votre modèle IA, préparer les données, exécuter les prédictions, puis mettre en forme les résultats afin qu’ils soient disponibles immédiatement (en temps réel) ou ultérieur sur (traitement par lots). |
| Couche de connaissances |
La couche de connaissances est l’emplacement où le système obtient les informations et le contexte dont il a besoin pour répondre avec précision aux questions. Il garantit que les données sont accessibles en toute sécurité, à l’aide de permissions et d’autorisations. La couche de connaissances aide l’IA à suivre l’approche RAG en recherchant des index ou des bases de données vectorielles pour trouver uniquement le contenu approprié. Il permet à l’IA d’accéder à différentes sources de données internes et externes de manière cohérente, qu’il s’agisse de protocoles MCP ou REST. |
| Couche des Outils |
La couche Outils est l’endroit où les actions métier et les fonctionnalités externes sont rendues accessibles. La couche intelligence peut déclencher ces actions ou se connecter à d’autres systèmes en appelant des outils ou des agents de manière standardisée, qu’il s’agisse de MCP, A2A ou OpenAPI/REST. Ces fonctionnalités sont présentées en tant qu’options actionnables, prêtes à être utilisées par la couche d’intelligence, et elles peuvent être gérées directement par la charge de travail ou par des services externes. |
Considérations relatives à la conception
Lorsque vous concevez votre architecture de charge de travail d’application intelligente, tenez compte des caractéristiques de conception suivantes pour prendre des décisions éclairées sur la conception et les interactions des composants.
Durée de vie et état
L’API Intelligence, l’orchestration, l’inférence et les couches de connaissances sont tous les services de longue durée qui s’exécutent pendant toute la durée de vie de votre charge de travail. Investir dans la disponibilité, la surveillance et l’excellence opérationnelle pour chaque service.
Chaque couche évolue à un rythme différent, vous avez donc besoin d’une coordination délibérée du déploiement. L’API Intelligence évolue lentement pour rester stable et maintenir la compatibilité descendante. Les couches d’orchestration et d’agent évoluent plus rapidement à mesure que vous ajoutez de nouvelles fonctionnalités. La couche d’inférence est mise à jour lorsque vous déployez de nouveaux modèles. La couche de connaissances évolue en continu à mesure que les données changent.
Les composants sans état peuvent être alloués ou désalloués à la demande, tandis que les composants avec état gèrent les données qui persistent entre les interactions.
L’API Intelligence, l’orchestration et les couches d’inférence sont sans état, ce qui facilite leur mise à l’échelle en ajoutant d’autres instances. La couche d’orchestration peut contenir un état éphémère pendant l’exécution, mais ne le persiste pas au-delà de la gestion des requêtes. L’état éphémère réduit la complexité opérationnelle, mais limite les options de reprise après échec, il est donc important de concevoir avec soin pour les nouvelles tentatives et l'idempotence.
Les données de session de gestion des conversations peuvent durer de minutes à jours. Les sessions plus longues permettent des conversations plus riches, mais coûtent plus cher et augmentent les risques de confidentialité. La couche de connaissances stocke des données dans des index et des bases de données qui évoluent à mesure que vous ajoutez, mettez à jour ou supprimez des informations.
Compromis. Les décisions concernant la gestion de la durée de vie et de l’état ont un impact direct sur les coûts, la fiabilité et les performances. Les composants avec état de longue durée nécessitent un investissement plus important dans la mise à l’échelle et la résilience, tandis que les composants éphémères sans état sont plus rentables, mais peuvent introduire une latence des démarrages froids ou de la récupération d’état externe.
Portée et dépendances
L’API Intelligence est le seul point de terminaison exposé publiquement dans l’architecture, tout reste interne. Vous pouvez le déployer dans plusieurs régions pour maintenir les utilisateurs proches d’un point de terminaison et améliorer la résilience.
La couche d’orchestration se trouve au centre, fonctionne au sein de votre réseau et coordonne tout, comme l’état de la conversation, les appels de modèle, la récupération des connaissances et l’appel d’outils. Les défaillances ici bloquent l’ensemble du système, ce qui le rend hautement disponible.
La couche d’inférence s’exécute en interne sans dépendances externes. Déployez-le près de l’orchestrateur pour maintenir la latence faible.
Les couches de connaissances et d’outils sont internes, mais peuvent dépendre de systèmes externes. Ces dépendances externes peuvent introduire des retards ou des problèmes de disponibilité qui affectent la qualité de la réponse.
Compromis. Le déploiement multirégion améliore les performances et la résilience, mais augmente les coûts. Le déploiement à une seule région est plus rentable, mais peut entraîner une latence plus élevée pour les utilisateurs éloignés de la région.
Extensibilité et disponibilité
Votre application intelligente a deux modèles de mise à l’échelle. Couches sans état telles que l’API, l’orchestration et l’échelle d’inférence en ajoutant d’autres instances. Couches de données telles que la gestion des conversations et la mise à l'échelle des connaissances en répartissant les données entre plusieurs magasins via des mécanismes tels que les réplicas de lecture, le partitionnement et la fragmentation.
L’API Intelligence est mise à l’échelle pour gérer davantage de demandes. Déployez-le dans plusieurs zones ou régions pour une meilleure disponibilité et pour maintenir les utilisateurs proches d’un point de terminaison.
L’orchestration et le calcul de l’agent se trouvent au centre de votre système, donc les défaillances ici bloquent tout. Ajoutez d’autres instances, utilisez l’équilibrage de charge et disposez d’un basculement prêt pour que le système continue à s’exécuter lorsque des instances individuelles échouent.
La couche d’inférence est mise à l’échelle en fonction de ce dont vos modèles ont besoin. Ajoutez d’autres instances avec des GPU à mesure que la demande augmente. Utilisez l’infrastructure en tant que code (IaC) pour recréer rapidement des environnements pendant la récupération.
La gestion des conversations est mise à l’échelle avec le nombre d’utilisateurs simultanés. Utilisez des copies et des sauvegardes pour conserver les données de session disponibles.
La couche de connaissances est mise à l’échelle en fonction de la quantité de données que vous avez et de la fréquence à laquelle elle est interrogée. Utilisez un réglage efficace de l’indexation et de la base de données pour accélérer les réponses. Configurez des copies dans plusieurs emplacements pour assurer la disponibilité.
Compromis. Les composants sans état peuvent évoluer rapidement, mais cela peut amener une latence lors du démarrage à froid. Les composants de données offrent une durabilité, mais nécessitent davantage de planification pour la mise à l’échelle. Équilibrez ces facteurs en fonction des besoins de charge et d’entreprise attendus.
Sécurité et IA responsable
Chaque couche de votre application intelligente comporte différents risques et a besoin de ses propres contrôles. Les outils peuvent déclencher des actions réelles, la connaissance définit ce que votre IA sait, et l’inférence produit les résultats que les utilisateurs voient. Limitez l’accès à chaque couche, surveillez ce qui se passe et assurez-vous de pouvoir expliquer comment les décisions sont prises.
La couche Outils présente le risque le plus élevé, car les actions peuvent avoir des conséquences réelles potentiellement irréversibles. Pour les opérations à haut risque, ajoutez des étapes d’approbation humaine. Utilisez une authentification stricte, un accès à des privilèges minimum et une application de la confidentialité des données pour empêcher les actions non autorisées et l’exposition des informations d’identification personnelle. Évaluez chaque outil avant de l’intégrer afin que la gouvernance dépasse la limite de votre charge de travail.
La couche de connaissances a besoin de données de haute qualité et non biaisées pour produire des sorties dignes de confiance. Sécurisez l’accès aux données avec une authentification, une autorisation et une conformité appropriées aux exigences de résidence des données. L’accès en lecture seule et l’isolation réseau empêchent l’altération. Enregistrez les sources récupérées pour chaque réponse par le biais de pistes d’audit, ce processus vous permet d’expliquer les décisions et d’examiner les problèmes plus tard.
La couche d’inférence ne doit être accessible qu’aux rôles d’opérations et à l’identité de la couche d’orchestration. Surveillez les sorties par le biais d’un service de validation qui vérifie la toxicité et d’autres problèmes de sécurité. Validez les modèles avant le déploiement pour intercepter les biais et gardez les mécanismes de restauration prêts si des problèmes apparaissent en production.
Ce diagramme montre les composants clés de la charge de travail d’apprentissage et de réglage précis à inclure dans votre conception.
| Composant |
Description |
| Sources de données |
Les sources de données contiennent un large éventail de données qui permettent d’entraîner et d’affiner les modèles. En règle générale, ces sources sont les suivantes :
- Données structurées à partir de bases de données relationnelles telles que SQL Server, qui ont des schémas et des relations clairs.
- Données semi-structurées telles que les journaux d’application et les données de télémétrie, souvent dans des formats JSON ou XML.
- Données non structurées telles que des fichiers image, des vidéos, des fichiers audio et des documents texte tels que des fichiers PDF.
- Flux en temps réel à partir de capteurs, d’appareils ou de sources d’événements.
Rassemblez des données provenant de différentes sources telles que des sources propriétaires appartenant à l’organisation, du contenu généré par l’utilisateur à partir d’interactions, de commentaires d’experts et de collaboration, ainsi que de sources publiques telles que des sites web, des documents de recherche et des bases de données partagées. |
| Magasin d’agrégation de données |
Considérez un magasin d’agrégation de données comme hub central pour toutes les informations que vous collectez à partir de différentes sources. Il s’agit d’un endroit où vos données brutes sont conservées sous sa forme d’origine avant le début de tout traitement. Utilisez des outils comme Azure Data Lake Storage ou Microsoft Fabric pour ce type de stockage. À mesure que les données passent par différentes étapes de traitement, sa structure est affinée, les champs et les colonnes sont nommés de manière cohérente, les valeurs sont vérifiées pour la précision et tout est organisé pour faciliter la création de rapports et l’analytique. Vous pouvez toujours tracer l’emplacement des données, voir les modifications apportées et savoir quel processus l’a transformé. Le contrôle de version garantit également que vous disposez d’instantanés historiques à mesure que vos données évoluent. |
| Plateforme de traitement des données |
À ce stade, transformez les données brutes en un jeu de données utile pour le Machine Learning et l’analytique. Le processus commence par collecter des données à partir de plusieurs sources, le nettoyage et l’enrichir, afin d’obtenir des jeux de données et des fonctionnalités de haute qualité prêts pour l’apprentissage et l’analyse des modèles. Cette couche prend en charge les pipelines ETL, suit une architecture de médaillon et active l’enrichissement des fonctionnalités et des données en fonction des modèles existants. Il utilise généralement des outils tels que Azure Data Factory, Microsoft Fabric et Spark. |
| Magasin de fonctionnalités |
Un magasin de fonctionnalités est un emplacement central pour stocker les fonctionnalités précomputées, afin que les équipes puissent facilement les réutiliser sur différents modèles Machine Learning. Il effectue le suivi des définitions de fonctionnalités, des transformations et des métadonnées telles que la propriété, la fréquence de mise à jour, les sources de données et le contrôle de version. Cette structure aide les équipes à créer des modèles plus rapidement et garantit la cohérence, ce qui rend le comportement de modèle plus prévisible. le magasin de fonctionnalités de Azure Machine Learning offre également le contrôle de version et la traçabilité, et les organisations peuvent choisir de le configurer de manière centralisée, de manière distribuée ou en tant qu'hybride. |
| Plateforme d’entraînement |
Environnement de calcul que vous utilisez pour entraîner et affiner les modèles Machine Learning à grande échelle. Il vous permet de sélectionner des algorithmes pour voir qui effectuent le mieux, teste automatiquement différentes valeurs de paramètres, gère les nouvelles tentatives et les dépendances, et prend en charge les cycles d’entraînement répétés pour améliorer le modèle en cours. Il effectue le suivi des métriques, des paramètres et des artefacts de chaque entraînement. Vous pouvez héberger l’environnement sur Azure Machine Learning, Databricks ou Kubernetes. |
| Registre de modèles |
Référentiel contrôlé par la version qui vous permet de stocker, de gérer et de suivre les modèles Machine Learning au fur et à mesure qu’ils passent du développement à la production. Les outils tels que Azure Machine Learning Registre de modèles facilitent cette opération en conservant facilement les fichiers binaires, les métadonnées, les configurations d’entraînement et la traçabilité organisées. Vous pouvez comparer différentes versions de modèle et revenir à une version précédente si nécessaire. |
| Couche d’inférence - Modèles prédictifs |
Utilisez des modèles entraînés pour générer des prédictions ou prendre des décisions en fonction des données. Vous pouvez les déployer en tant qu’API REST en temps réel pour des prédictions rapides ou en tant que points de terminaison de traitement par lots pour le traitement asynchrone de grands jeux de données. Outre les applications clientes, les modèles sont également appelés pendant le traitement des données, par exemple pour extraire des entités ou des sentiments pour l’enrichissement des données, et pour gérer la normalisation et la transformation des données. |
Considérations relatives à la conception
Lorsque vous concevez votre architecture de charge de travail d’entraînement et d’optimisation, tenez compte des caractéristiques de conception suivantes pour prendre des décisions éclairées sur la conception et les interactions des composants.
Durée de vie et état
Les composants persistants à long terme permettent l’analyse historique et la réentraînation des modèles sur les données passées. Le magasin d’agrégation de données, le magasin de fonctionnalités et le registre de modèles sont des magasins persistants à long terme qui augmentent avec de nouvelles importations, fonctionnalités et versions de modèle.
Les composants éphémères permettent l’efficacité des coûts, mais nécessitent une gestion minutieuse des défaillances et des redémarrages. La plateforme de traitement des données et la plateforme d’entraînement disposent d'une configuration d’environnement de longue durée, mais leurs ressources de calcul sont éphémères, créées et mises à l’échelle à la demande pour les tâches de traitement de flux et d’entraînement.
La couche d’inférence est sans état et éphémère. Déployez-le à la demande pour un traitement par lots occasionnel ou dans un environnement de longue durée pour les pipelines fréquents. La conception sans état permet une mise à l’échelle horizontale et une récupération simple en cas de défaillance.
Compromis. Les composants persistants à long terme offrent une durabilité et un contexte historique, mais nécessitent des coûts de maintenance et de stockage continus. Les composants éphémères et sans état sont plus rentables et évolutifs, mais nécessitent une gestion robuste des défaillances et peuvent introduire la latence des démarrages à froid.
Portée et dépendances
Conservez vos magasins de données, le traitement, l’entraînement et l’inférence dans la même région pour réduire la latence et les coûts. Distribuez uniquement lorsque les exigences de résidence des données l’imposent. La plupart des composants sont internes uniquement, ce qui réduit votre surface d’attaque, mais nécessite un accès sécurisé pour les développeurs et les opérateurs.
Vous pouvez distribuer des sources de données dans différents environnements et zones géographiques. Il s’agit de votre dépendance principale pour l’importation de données nécessaires à l’entraînement, au réglage précis ou à la mise à l’échelle.
Le magasin d’agrégation de données est la principale dépendance de la plateforme de traitement des données, la découplant à partir des sources de données.
La plateforme de traitement des données accède au magasin de fonctionnalités pour stocker les fonctionnalités calculées et la plateforme d’entraînement y accède pendant l’entraînement. Le composant d’inférence peut également avoir besoin d’un accès en lecture seule en fonction du type de modèle et des exigences spécifiques.
La plateforme d’entraînement dépend du référentiel de caractéristiques et des données agrégées provenant du traitement. Il enregistre des modèles entraînés dans le registre de modèles, ce qui constitue la dépendance pour l’inférence.
Le registre de modèles est unique, car il a besoin à la fois d’un accès interne (pour l’apprentissage pour écrire des modèles) et d’un accès externe (pour que les applications IA déploient des modèles dans des environnements d’inférence). Utilisez des modèles de déploiement Push pour réduire la portée externe des composants sensibles.
Extensibilité et disponibilité
Vos composants d’entraînement doivent croître avec vos données et rester disponibles quand vous en avez besoin. Les magasins de données tels que le magasin d’agrégation de données, le magasin de fonctionnalités et le Registre de modèles sont mis à l’échelle via le partitionnement, la réplication et l’indexation efficace à mesure que d’autres données, fonctionnalités et modèles sont ajoutés au fil du temps. Gardez ces composants hautement disponibles avec des stratégies de redondance, de sauvegardes et de basculement afin que vos données et modèles soient accessibles chaque fois que la plateforme d’entraînement ou l’inférence en a besoin.
Les plateformes de calcul, telles que le traitement de données et la formation, se déploient différemment. Ils ajoutent davantage de ressources à la demande, car vos travaux de traitement et de formation en ont besoin. Utilisez IaC (Infrastructure as Code) pour automatiser la recréation de l'environnement lors de la récupération après sinistre et ajoutez davantage de ressources de calcul, comme les nœuds GPU, en fonction de l'augmentation de la demande.
Votre couche d’inférence gère généralement le traitement par lots dans ce contexte, afin de l’optimiser pour le débit plutôt que pour une faible latence. Vous pouvez effectuer une mise à l’échelle horizontale avec des ressources de calcul moins coûteuses, car vous traitez de grands volumes de données sans avoir besoin de réactivité en temps réel.
Sécurité et IA responsable
Abordez la sécurité et l'IA responsable à chaque couche. Utilisez la défense en profondeur avec les contrôles d’accès, le chiffrement et l’audit. Suivez le principe du moindre privilège de manière cohérente : ETL obtient un accès en lecture seule aux sources, l’entraînement écrit uniquement dans le registre de modèles, et l'inférence lit uniquement. Mappez vos flux de données pour conserver les données réglementées dans les régions requises et suivre qui a accédé à quoi, quand et pourquoi.
Les sources de données sont votre point de contrôle le plus important pour la prévention des biais. Assurez-vous que vos données importées représentent tous les types d’objet équitablement. Si les données ne peuvent pas quitter leur région, exécutez votre pipeline ETL pour maintenir la conformité.
Le magasin d’agrégation de données et le magasin de fonctionnalités contiennent des informations sensibles. Contrôler qui peut accéder aux sous-ensembles de données et suivre les règles de résidence des données tout au long du cycle de vie. Effectuez le suivi de la traçabilité des données pour chaque attribut calculé. Il s’agit de votre base pour l’explication et vous permet de tracer les prédictions de modèle vers les données sources.
La plateforme de traitement des données est l’endroit où vous empêchez activement les biais. Limitez les connexions sortantes aux magasins de données et services approuvés. C’est là que vous validez la qualité des données, filtrez les profanités, obfusquez les informations sensibles et équilibrez la distribution de vos données en échantillonnant à la baisse les groupes surreprésentés ou en augmentant les groupes sous-représentés.
La plateforme d’entraînement a besoin d’une isolation pour la séparer de la production. Journalisez chaque exécution d’entraînement à l’aide de frameworks comme MLFlow, en capturant les données utilisées, les hyperparamètres que vous avez essayés et les résultats. Exécutez des contrôles de biais, d’équité et d’explication chaque fois pour détecter les problèmes avant le déploiement.
Le registre de modèles est votre porte de gouvernance. Utilisez des principaux de service et publiez des sommes de contrôle pour vous permettre de valider des modèles. Attachez des métadonnées sur les données d’apprentissage, les évaluations et la traçabilité à chaque modèle pour la transparence. Contrôlez le déploiement de production à l’aide de révisions de sécurité et d’IA responsables.
La couche d’inférence ne doit exécuter que des modèles approuvés. Gardez-le isolé dans votre environnement d’analyse et surveillez toutes les sorties pour détecter les préjugés, la toxicité et d’autres modèles nocifs.
