Architecture des systèmes intégrant l’IA

Bienvenue dans le chapitre 12 : Architecture des systèmes intégrant l’IA. Il porte sur les systèmes construits autour de l’intelligence artificielle, ou IA : des modèles d’apprentissage automatique et des grands modèles de langage, ou LLM, qui ont besoin de tout ce qu’ont enseigné les chapitres précédents, et de nouvelles réponses à de nouvelles questions. Où un modèle doit-il s’exécuter ? Comment l’ancrer dans vos propres données, le laisser utiliser des outils en toute sécurité, tester quelque chose de probabiliste et vous défendre contre l’injection de prompt ?

Ce chapitre s’adresse aux développeurs et aux architectes qui connaissent le reste du cours, et qui doivent concevoir, examiner ou encadrer des systèmes intégrant l’IA fiables, sécurisés et abordables. Il s’appuie sur l’ensemble du cours : chaque qualité, chaque style et chaque pratique, désormais appliqués à des composants probabilistes. Il s’appuie surtout sur les attributs de qualité, l’architecture des données, la sécurité et la protection de la vie privée, la résilience et l’observabilité, ainsi que l’évaluation et les fonctions d’aptitude. Ces notions vues plus tôt changent de forme ici. Les attributs de qualité incluent désormais l’exactitude et l’ancrage dans les sources. La résilience doit faire face aux limites de débit et aux pannes d’un fournisseur de modèles. Et les tests deviennent de l’évaluation. C’est le dernier chapitre : il mène donc à l’évaluation finale et à l’étude de cas de synthèse.

L’essentiel d’un système intégrant l’IA est du logiciel ordinaire. Ce diagramme de conteneurs de la section douze point deux montre l’exemple récurrent du chapitre : un assistant de support client pour la plateforme de livraison de repas. Les clients discutent via l’application mobile, qui communique avec un service de chat. Les conversations difficiles sont transmises à une console d’agents, où des agents du support humains les prennent en charge. Au centre se trouve l’orchestrateur, qui détient les prompts, les outils et les limites. Il interroge un index du centre d’aide et effectue des appels d’outils vers les services existants de commandes et de remboursements. Chaque appel de modèle passe par une AI gateway, qui détient les clés des fournisseurs, route chaque appel et bascule du fournisseur A vers le fournisseur B. Les traces de chaque appel sont conservées pour l’évaluation. Seul le modèle est nouveau. Mais son comportement est statistique plutôt que spécifié : généralement juste, parfois faux avec aplomb, et fourni par un fournisseur qui peut le brider, le modifier ou le retirer. Cela change la façon dont tout ce qui l’entoure doit être conçu.

Les quatre premières sections construisent le système. La section douze point un explique ce que sont l’apprentissage automatique et les grands modèles de langage : entraînement et inférence, tokens, fenêtres de contexte, échantillonnage et embeddings, et pourquoi l’hallucination et le non-déterminisme sont inhérents. La section douze point deux place le modèle dans une architecture : hébergé, auto-hébergé ou sur l’appareil, derrière une AI gateway, avec routage, cascades, échelles de repli et humains dans la boucle. La section douze point trois traite de la génération augmentée par récupération, ou RAG, le patron le plus courant pour ancrer les réponses dans vos propres données, du chunking et des index vectoriels jusqu’à la recherche hybride et au contrôle d’accès. La section douze point quatre passe de la réponse à l’action : appel d’outils, boucle de l’agent, patrons de workflow, Model Context Protocol, ou MCP, et ingénierie de la fiabilité dont les agents ont besoin.

Les quatre sections suivantes rendent le système digne de confiance et durable. La section douze point cinq montre comment tester un comportement probabiliste, avec des jeux d’évaluation, des métriques, un modèle qui joue le rôle de juge, et des évals de régression qui servent de fonctions d’aptitude. La section douze point six traite de l’injection de prompt, de l’autonomie excessive et des autres risques répertoriés par l’OWASP, ainsi que des défenses en couches qui les contiennent. La section douze point sept aborde l’économie des tokens, la latence, la mise en cache et le traitement par lots, ainsi que la pratique du versionnage, du traçage et de la supervision des appels de modèles. Et la section douze point huit traite de la gouvernance des données, de l’équité, de la transparence et du contrôle humain, et de la manière dont une réglementation comme le règlement européen sur l’IA, et des cadres comme le NIST AI Risk Management Framework, façonnent l’architecture.

Un modèle de langage ne sait pas distinguer de manière fiable les instructions des données : n’importe quel texte présent dans son contexte peut donc tenter de l’orienter. Ce diagramme de la section douze point six montre la réponse : des couches déterministes autour d’un modèle non fiable. Le message d’un utilisateur passe d’abord par des contrôles d’entrée, puis par un constructeur de contexte, qui signale le contenu non fiable et intègre des données filtrées selon les propres droits d’accès de l’utilisateur. Le modèle est au milieu, avec l’étiquette « jamais fiable ». Sa sortie passe par des contrôles de sortie, qui vérifient le schéma et filtrent ce qui parvient à l’utilisateur. Lorsqu’il demande à utiliser un outil, une passerelle d’outils applique l’autorisation et les règles. Les actions lourdes de conséquences nécessitent une approbation humaine avant d’atteindre les systèmes métier, tandis que les appels en lecture seule passent directement. Et la supervision collecte les journaux, les traces et les alertes d’anomalie, avec un coupe-circuit. Aucun prompt n’est une frontière de sécurité. Ces couches déterministes décident de ce que le modèle peut voir, de ce qu’il peut faire et de ce qui parvient à l’utilisateur.

Deux exemples reviennent. L’assistant de support que vous venez de voir gagne la récupération à la section douze point trois et des outils à la section douze point quatre, puis il est évalué, sécurisé et chiffré dans les sections suivantes. Le second est ce cours lui-même. ArchitectBot répond aux questions des apprenants en récupérant des passages des propres chapitres du cours, et appelle une échelle de modèles provenant de plusieurs fournisseurs, afin qu’une seule panne ne le réduise pas au silence. Les réponses rédigées des tests sont notées par un modèle selon une grille fixe.

La section douze point huit explique que le règlement européen sur l’IA réglemente selon le risque : pratiques interdites, systèmes à haut risque, obligations de transparence et risque minimal, avec des obligations distinctes pour les modèles d’IA à usage général. Ces contenus sont des informations générales, pas des conseils juridiques. Les obligations dépendent des faits propres à chaque système, ainsi que des textes juridiques exacts et des lignes directrices en vigueur, qui continuent d’évoluer. Des conseillers juridiques qualifiés doivent être associés à toute décision réelle de classification ou de conformité.

Traitez le modèle comme un composant talentueux, faillible et non fiable, et laissez une architecture déterministe décider de ce qu’il voit, de ce qu’il a le droit de faire et de ce qu’il advient de sa sortie. Ancrez ses réponses dans des faits récupérés et autorisés. Validez tout ce qu’il produit, et donnez-lui le moindre privilège nécessaire à sa tâche. Exigez une confirmation humaine pour les actions lourdes de conséquences. Mesurez sa qualité en continu, comme pour tout autre attribut de qualité, et prévoyez la défaillance de son fournisseur. Les modèles vont continuer de s’améliorer, et les systèmes construits sur ce principe s’améliorent avec eux.

Les sections suivent l’exemple récurrent au fil de son évolution : les lire dans l’ordre fonctionne donc bien. Mais chaque section se suffit à elle-même : vous pouvez donc aller directement à celle dont vous avez besoin. Comptez environ trois heures et demie pour lire tout le chapitre. Les fournisseurs et les modèles ne sont cités qu’à titre d’exemple, car le marché change en l’espace de quelques mois alors que les principes, eux, ne changent pas. À la fin de chaque section, vous trouverez des questions d’autoévaluation. Répondez-y de tête avant de regarder les réponses. Quand vous serez prêt, un test du chapitre facultatif vous attend ; il prend environ quarante-cinq minutes. Il comporte vingt questions à choix multiples et deux réponses rédigées. La note de réussite est de quatre-vingts pour cent.

Voilà la structure du dernier chapitre. Commencez par la section douze point un, sur l’apprentissage automatique et les grands modèles de langage pour les architectes. À très vite.