Article

Je travaille depuis plus de 25 ans à la transformation des organisations, à l’intersection de la stratégie, des opérations et de l’intelligence artificielle. J’ai notamment été directrice générale de Confiance IA, un organisme financé par le MEIE consacré à l’encadrement responsable de l’IA, à la mise en commun des expertises et au passage des principes de confiance à des pratiques concrètes pour des entreprises souvent fortement règlementées. Cette expérience continue de guider ma conviction : la valeur de l’IA dépend autant de la maîtrise humaine de ses usages que de sa performance intrinsèque.

Adopter une solution d’IA sans confondre performance et confiance

Nous ne sommes plus au stade où investir dans quelques fonctionnalités d’IA suffit à démontrer une ambition. Trop d’organisations restent enfermées dans le POC, une preuve de concept destinée à vérifier rapidement qu’une idée peut fonctionner, ou, dans le meilleur des cas, dans le MVP, une première version utilisable, volontairement limitée, qui permet de tester la valeur auprès de vrais utilisateurs. Ces étapes demeurent utiles, mais elles ne constituent ni une stratégie ni une capacité durable.

Dans un contexte d’instabilité géopolitique et de contraintes financières accrues, les dirigeants ne peuvent plus disperser leurs investissements : ils doivent concentrer leurs ressources sur les usages d’IA qui créent une valeur mesurable, renforcent la résilience de l’entreprise et justifient les risques engagés. Les épisodes récents où des agents ont agi avec une autonomie inédite, tout comme la montée de systèmes capables de capter des messages ou des signaux ambiants, doivent être examinés avec sérieux. Ils ne justifient ni la panique ni le récit simpliste selon lequel l’IA finirait nécessairement par nous échapper. Ils imposent plutôt de comprendre ces capacités, de les adapter à nos usages et d’en fixer les limites. La réponse n’est pas de freiner aveuglément, mais d’agir avec discernement et d’adopter une IA de confiance.

Mon objectif n’est pas de transformer les dirigeantes et dirigeants en spécialistes de l’IA. Il est de leur donner les bons réflexes pour investir dans les bonnes choses, choisir une solution utile, mettre à l’épreuve les propositions des fournisseurs et créer les conditions d’une adoption qui améliore réellement la performance de l’entreprise. Cette adoption dépend de la qualité de l’outil, mais aussi de la capacité des équipes à comprendre le rôle de l’IA, à reconnaître ses limites et à savoir quand reprendre la main. Le propos ne se limite pas à l’IA agentique. Une même entreprise peut combiner des approches prédictives, analytiques, symboliques, génératives ou hybrides selon le problème à résoudre. Un moteur de prévision des ventes, un système de détection de fraude, un outil d’aide à la décision, un copilote et un agent n’appellent pas exactement les mêmes contrôles. Ils doivent néanmoins être évalués selon un principe commun : comprendre ce que l’on achète, mesurer les risques pertinents et garder la maîtrise des décisions et des opérations importantes.

Pour exercer ce jugement, il faut distinguer plusieurs objets. Un modèle d’IA peut repérer dans des données des tendances et des relations qu’il utilisera ensuite pour produire un résultat, appliquer des règles explicites ou combiner ces approches afin de produire une estimation, une classification, une recommandation ou un contenu. Une solution d’IA combine un ou plusieurs modèles avec des données d’entreprise, des règles métier, des interfaces, des contrôles et parfois des outils. Selon sa conception, elle peut analyser, recommander, planifier, déclencher ou exécuter plusieurs actions. Un agent d’IA désigne plus précisément une solution à laquelle on accorde un degré d’autonomie pour choisir et enchaîner certaines actions en fonction d’un objectif. La frontière n’est pas toujours nette : l’enjeu de confiance dépend moins de la manière dont la solution est présentée que de son niveau réel d’autonomie, de ses accès aux données et aux systèmes, ainsi que des conséquences possibles de ses actions.

La confiance, en deux conditions

Une IA de confiance, au sens où je l’emploie ici, repose principalement sur deux conditions complémentaires. La première concerne la qualité intrinsèque du système et son comportement dans les conditions prévues comme dans les situations dégradées. La seconde concerne la manière dont l’organisation l’intègre, le supervise et l’utilise. Une solution solide sur le plan technique peut produire un risque si son usage est mal encadré, une gouvernance rigoureuse ne peut pas compenser un système techniquement insuffisant.

1. Elle est bien conçue et techniquement maîtrisée. Sa finalité et son domaine d’usage sont définis (en industrie, on parle d’ODD, Operational Design Domain). Sa validité, sa fiabilité et sa robustesse sont évaluées dans des conditions représentatives, y compris lorsque les données sont incomplètes, bruitées, nouvelles ou adverses. Le système doit aussi être conçu pour prévenir les dommages, résister aux manipulations, limiter les effets d’un incident et revenir à un état maîtrisé. Ses limites sont documentées et son niveau d’explicabilité est proportionné à l’impact de ses résultats. Enfin, il doit exprimer l’incertitude associée à une estimation ou à une recommandation, par exemple au moyen d’un intervalle, d’un niveau de confiance, d’une plage de probabilité ou d’un signal indiquant qu’une validation humaine est requise, plutôt que de présenter chaque résultat produit avec le même degré d’assurance.
2. Elle est bien intégrée et bien utilisée. Les usages autorisés, les données accessibles, les seuils d’intervention et les décisions qui exigent une validation humaine sont définis. Les rôles, la supervision, la traçabilité, la surveillance en production, la gestion des incidents, les mécanismes de recours et les responsabilités envers les personnes concernées sont attribués. L’organisation doit également vérifier que les utilisateurs comprennent ce que le système peut faire, les limites de ses résultats et les situations dans lesquelles ils doivent reprendre la main.

Pour la première condition, le NIST AI Risk Management Framework (AI RMF 1.0) fournit les principales caractéristiques permettant d’évaluer si une IA est bien conçue et techniquement maîtrisée. La validité et la fiabilité correspondent à la capacité du système à fonctionner conformément à son usage prévu, avec des résultats suffisamment exacts, cohérents, généralisables et reproductibles. Les Principes de l’OCDE sur l’intelligence artificielle complètent cette lecture en définissant la robustesse comme la capacité à fonctionner convenablement pendant tout le cycle de vie, y compris dans des conditions normales, imprévues, défavorables ou de mauvais usage prévisible. Ces mêmes principes distinguent la sûreté, qui vise à prévenir les dommages inacceptables, de la sécurité, qui protège contre les attaques, les accès non autorisés, les manipulations et les fuites. Le NIST ajoute la résilience, soit la capacité à limiter les effets d’un incident et à revenir à un état maîtrisé. L’expression de l’incertitude complète ces propriétés : elle permet de communiquer le degré de confiance associé à un résultat, de signaler les cas hors domaine ou insuffisamment étayés et de déclencher une vérification humaine lorsque nécessaire.

Le niveau attendu pour chacune de ces caractéristiques dépend de l’usage, de sa criticité et de ses impacts. Pour la seconde condition, le NIST AI RMF fournit un cadre de gouvernance et de gestion de l’usage autour de quatre fonctions complémentaires : Govern, Map, Measure et Manage, soit gouverner, cartographier, mesurer et gérer. ISO/IEC 42001 inscrit cette démarche dans un système de management de l’intelligence artificielle, tandis qu’ISO/IEC 42005 soutient l’évaluation structurée des impacts. Ces référentiels aident l’organisation à définir les responsabilités, la supervision, les contrôles, la surveillance en production et la gestion des incidents. ISO/IEC 22989:2022 joue un rôle différent et transversal. Cette norme fournit le vocabulaire et les concepts communs permettant de décrire l’IA de façon cohérente. Elle ne constitue donc pas le référentiel propre à la seconde condition et ne doit pas être présentée comme un cadre de gouvernance ou de management.

1) Évaluer au-delà de la démonstration

La première difficulté consiste à évaluer la solution dans les conditions où elle sera réellement utilisée. Un modèle de prévision de la demande peut être précis en moyenne et néanmoins se tromper fortement lors d’une promotion, d’une rupture fournisseur ou d’un changement soudain de comportement des clients. Un système de détection de fraude peut réduire les pertes tout en bloquant trop de transactions légitimes. La performance globale ne suffit donc pas : il faut examiner les erreurs par scénario, leur fréquence, leur gravité et la manière dont le système indique son incertitude.

Le même enjeu apparaît lorsqu’une solution enchaîne plusieurs traitements. Imaginons qu’elle prévoie la demande, recommande un niveau de stock, prépare une commande et la transmet au système d’approvisionnement. Une erreur faible dans la prévision peut devenir une surcommande importante si chaque étape reprend le résultat précédent sans seuil de contrôle. L’entreprise n’a alors pas seulement déployé un modèle : elle a modifié un processus opérationnel. L’évaluation doit porter sur la chaîne complète, ses points d’arrêt et sa capacité de récupération.

Les résultats de DELEGATE-52, une étude de Microsoft Research, rendent ce risque concret : dans de longs workflows délégués couvrant 52 domaines professionnels, même les modèles de pointe ont altéré en moyenne environ 25 % du contenu des documents à la fin des interactions. Les erreurs, parfois discrètes au départ, s’accumulent et se propagent d’une étape à l’autre. Cette référence ne sert donc pas seulement à illustrer une faiblesse technique. Elle montre pourquoi une IA de confiance doit être évaluée comme un système opérationnel complet (ODD), avec des contrôles intermédiaires, des traces vérifiables, des seuils d’arrêt et une validation humaine. L’avantage recherché est concret : détecter l’écart assez tôt pour éviter qu’une erreur de modèle ne devienne une erreur de processus, puis une conséquence financière, opérationnelle ou réputationnelle.

Pour l’évaluation : demandez des tests sur vos données, vos catégories de produits, vos périodes de forte activité et vos exceptions métier. Vérifiez la comparaison des versions, la journalisation des changements, les seuils d’alerte et la possibilité de revenir à un état fiable. Lorsqu’une solution enchaîne plusieurs traitements ou utilise des agents, évaluez aussi les conséquences d’une erreur qui se propage d’une étape à l’autre.

2) Définir un usage maîtrisé

La confiance passe désormais des principes aux obligations. L’AI Act européen, le NIST AI RMF et les normes ISO convergent sur une idée forte : l’organisation doit connaître le risque, documenter ses choix, prévoir la supervision humaine et conserver des preuves. C’est ici que la complémentarité entre les approches française et québécoise, que j’explorais dans mon dernier blog, prend tout son sens : la tradition européenne de souveraineté, de normes et d’encadrement apporte la rigueur nécessaire, tandis que la culture québécoise de collaboration, d’expérimentation et d’adoption aide à traduire ces exigences dans les usages. Les exigences exactes varient selon le rôle de l’entreprise et la nature du système, mais la direction ne peut plus déléguer entièrement ce jugement au fournisseur.

L’IA de confiance n’est donc pas uniquement un concept sociétal ou éthique.

Elle s’inscrit aussi dans une logique bien connue des secteurs industriels fortement réglementés, où la mise en production dépend de preuves de conformité, de processus documentés et, selon le domaine, de certifications. En aéronautique, par exemple, une fonction critique ne peut pas être déployée sur la seule base de sa performance observée : il faut démontrer qu’elle répond à des exigences précises de sûreté, de traçabilité, de vérification et de maîtrise des changements. L’application de cette logique à l’IA varie selon le niveau de criticité et le cadre réglementaire, mais le principe est directement transposable aux entreprises : plus une solution influence une décision ou une opération importante, plus sa mise en service doit reposer sur des preuves structurées plutôt que sur la seule confiance dans le fournisseur.

Dans notre entreprise de distribution, une IA qui reformule une fiche produit interne n’appelle pas les mêmes garanties qu’un système qui ajuste automatiquement les prix, recommande de suspendre un fournisseur ou priorise les commandes entre plusieurs magasins. Le principe de proportionnalité est donc central : plus l’effet potentiel sur les clients, les fournisseurs, les opérations ou la réputation est élevé, plus les preuves, la supervision et la capacité d’audit doivent être fortes.

Dans la seconde condition, ces référentiels structurent l’intégration et l’utilisation maîtrisées de l’IA. Le NIST AI RMF propose quatre fonctions : Govern, Map, Measure et Manage, soit gouverner, cartographier, mesurer et gérer. Appliquées à un projet de réapprovisionnement, elles obligent par exemple à identifier les décisions automatisées, les données sensibles, les seuils d’intervention humaine et les indicateurs à surveiller après la mise en production.

ISO/IEC 42001 traduit cette logique dans un système de management de l’intelligence artificielle, tandis qu’ISO/IEC 42005 propose une démarche d’évaluation des impacts. Elles renforcent ainsi la seconde condition, qui porte sur la manière dont l’organisation intègre, supervise et utilise la solution. Ces cadres structurent la décision sans se substituer au jugement de l’organisation.

L’objectif n’est toutefois pas d’atteindre systématiquement une conformité intégrale à chacun de ces référentiels. Leur valeur tient surtout à la discipline de gestion qu’ils rendent possible : clarifier les responsabilités, proportionner les contrôles aux impacts, documenter les limites, organiser la supervision humaine et conserver les preuves permettant d’intervenir. Autrement dit, l’IA de confiance transforme des principes techniques en décisions opérationnelles gouvernables. Elle permet à la direction d’adopter plus vite les usages à faible risque, d’exiger davantage pour les usages sensibles et d’éviter qu’une solution performante soit déployée dans un cadre que l’organisation ne maîtrise pas. Ces référentiels peuvent ainsi servir de repères progressifs, selon la criticité de l’usage, les moyens de l’entreprise et les obligations réellement applicables.

Pour l’évaluation : classez l’usage selon sa criticité et documentez les décisions qu’il influence, les personnes ou opérations qu’il peut affecter et le niveau d’erreur acceptable. Vérifiez ensuite que les responsabilités, les contrôles humains, les preuves de conformité, les mécanismes de recours et les indicateurs de surveillance sont proportionnés à ces impacts. Une solution qui intervient dans une décision sensible doit démontrer un niveau de maîtrise plus élevé qu’un outil d’assistance à faible conséquence.

3) Examiner les composantes de la solution

Examiner les composantes d’une solution d’IA ne consiste pas seulement à vérifier la qualité de chacun de ses éléments. Il faut aussi comprendre comment les modèles, les données, les connaissances, les règles métier, les mécanismes d’intégration et les contrôles interagissent, car une faiblesse dans leurs liens peut entraîner une perte de contexte, une mauvaise interprétation ou une décision difficile à retracer. Un modèle statistique peut produire une prévision sans connaître toutes les règles métier. Un moteur de règles peut appliquer une logique explicite sans s’adapter à un contexte nouveau. Un mécanisme de génération augmentée par récupération (Retrieval-Augmented Generation, RAG) peut retrouver des documents autorisés sans établir avec certitude quelle information fait autorité ni comment elle doit être interprétée.

Deux travaux techniques renforcent directement l’argument en faveur d’une IA de confiance. L’étude Lost in the Middle, issue de travaux menés notamment à Stanford et à l’Université de Californie à Berkeley, montre qu’un modèle peut moins bien exploiter une information pertinente lorsqu’elle se trouve au milieu d’un long contexte, même s’il accepte une très grande quantité de contenu. L’outil d’évaluation RAGChecker, développé notamment par Amazon AWS AI, montre, pour sa part, que la récupération et la génération peuvent introduire des erreurs différentes et doivent être évaluées séparément autant que dans leur interaction. Ces résultats expliquent pourquoi accumuler des documents ou choisir un modèle plus puissant ne suffit pas. Une IA de confiance doit préserver l’autorité et le contexte des informations, mesurer la fidélité des réponses aux sources et rendre visibles les défaillances de chaque composante. Son avantage est de déplacer l’évaluation de la seule qualité apparente d’une réponse vers la capacité de l’organisation à comprendre pourquoi elle a été produite, à repérer où l’erreur s’est introduite et à la corriger.

Dans une entreprise de distribution, par exemple, une politique de retour peut varier selon le pays, le canal de vente, le produit, la date d’achat et une exception négociée avec un fournisseur. Retrouver le bon document ne garantit donc ni la bonne interprétation ni l’application de la bonne règle au bon cas. L’architecture cognitive d’entreprise, ou ACE, constitue l’un des moyens de mieux relier ces composantes et de structurer la connaissance de l’entreprise. Elle peut notamment s’appuyer sur des graphes de connaissances pour rendre explicites les relations entre les sources, les concepts, les processus, les responsabilités et les règles de l’organisation. Ces graphes doivent eux-mêmes être encadrés par des règles d’entreprise, gouvernés et documentés. La direction doit pouvoir comprendre quelles données et connaissances alimentent le système, comment elles sont intégrées et mises à jour, quelles règles sont appliquées et comment elles influencent une recommandation ou une décision.

Cette capacité à suivre le chemin qui mène d’une source à une action contribue directement à une IA de confiance, parce qu’elle améliore la cohérence, l’explicabilité et la traçabilité du système. Elle permet aussi de répondre opérationnellement aux limites mises en évidence par Lost in the Middle et RAGChecker : mieux structurer le contexte, expliciter l’autorité des sources et isoler les composantes responsables d’une erreur. L’ACE n’est toutefois ni une solution parfaite ni un substitut à la qualité des données, à la gouvernance documentaire, aux contrôles humains ou à l’évaluation continue. Son apport dépend de la rigueur avec laquelle elle est conçue, alimentée, maintenue et intégrée aux usages de l’entreprise.

Le coût complet doit également être pris en compte. Une solution déployée à grande échelle mobilise des capacités de calcul, des infrastructures et des ressources opérationnelles dont les coûts peuvent évoluer rapidement avec le volume d’usage. Demandez des ordres de grandeur, leur méthode de calcul et le scénario d’usage retenu. Cette information permet de comparer la valeur créée, le coût, le risque et les impacts associés.

Pour l’évaluation : demandez une vue d’architecture technico-fonctionnelle documentée, le détail des composantes de la solution et de leurs interactions, notamment les modèles, les données, les sources de connaissances, les règles métier, les graphes de connaissances, les mécanismes d’intégration et les contrôles. Vérifiez l’origine et l’autorité des sources, le flux d’ingestion et de mise à jour, les règles appliquées, la traçabilité qui relie une source à une recommandation ou à une action, ainsi que les responsabilités en cas d’erreur. Évaluez enfin le coût complet selon plusieurs scénarios de volume et confirmez que l’architecture pourra être maintenue, auditée et corrigée dans la durée.

4) Exiger des preuves vérifiables

Les grands fournisseurs publient des principes, des politiques et parfois des documents techniques. Ces éléments sont utiles, mais ils ne suffisent pas à évaluer une décision opérationnelle. La littérature propose également des formats de preuve concrets. Les Model Cards recommandent de documenter pour chaque modèle ses usages prévus, ses limites et ses performances selon différentes conditions. Les Datasheets for Datasets appliquent une logique comparable aux données en consignant leur origine, leur composition, leur collecte et leurs usages recommandés. Ces documents ne constituent pas une garantie en soi, mais ils donnent aux acheteurs et aux responsables internes une base structurée pour vérifier si le modèle et les données conviennent réellement au contexte d’utilisation.

Pour une entreprise de détail ou de distribution, les preuves doivent être reliées aux décisions réellement confiées à la solution : taux de rupture évité, faux positifs en détection de fraude, erreurs de prix, recommandations fournisseurs contestées ou réponses inexactes aux magasins. Entre le discours commercial et le contrat, cherchez des résultats de tests par cas d’usage, la provenance des données, les mécanismes de surveillance et les délais de traitement des incidents afin de sécuriser vos décisions. Supposons qu’une solution ajuste un prix ou suspende automatiquement une commande fournisseur sur la base d’une anomalie mal interprétée. L’organisation doit pouvoir reconstituer les données consultées, la version du modèle, les règles appliquées, le niveau d’incertitude et les interventions humaines. Le contrat et le dispositif opérationnel doivent aussi préciser le soutien fourni lors d’un incident, les délais d’analyse, les possibilités de correction et les responsabilités respectives. Ces éléments permettent d’évaluer concrètement le niveau de maîtrise offert par la solution. Une transparence utile doit fournir des moyens concrets de vérification et d’intervention.

Demandez des résultats de tests, des limites documentées, des traces de fonctionnement, une gestion des incidents, un droit d’audit et des responsabilités contractuelles claires. Les référentiels OWASP aident à examiner les risques de sécurité propres aux applications fondées sur de grands modèles, notamment les tentatives d’injection de consignes malveillantes et les fuites de données. C2PA peut soutenir la provenance déclarée de certains contenus, sans garantir qu’ils sont vrais. ISO/IEC 42005 renforce enfin l’évaluation structurée des impacts. Ces référentiels complètent le jugement de l’organisation et permettent de préciser les exigences adressées au fournisseur.

La sécurité doit elle aussi être démontrée par des essais. Une étude publiée à l’USENIX Security Symposium a formalisé les attaques par injection de consignes et évalué cinq attaques, dix mécanismes de défense, dix modèles et sept tâches. Elle confirme qu’une mesure isolée ne suffit pas à établir la résistance d’une application intégrant un grand modèle de langage. L’organisation doit tester ses propres scénarios d’attaque, séparer les instructions des contenus externes, limiter les permissions accordées au système et surveiller les actions effectivement exécutées.

5) Faire de l’IA de confiance un levier de croissance

À ce jour, il demeure difficile de démontrer un lien causal direct entre les pratiques d’IA de confiance et la croissance commerciale. Les entreprises publient encore peu de données permettant d’isoler l’effet de la robustesse, de l’explicabilité, de la sûreté, de la sécurité ou de la gouvernance sur leurs revenus. Il faut donc éviter une promesse trop simple : l’IA de confiance ne crée pas automatiquement la croissance.

Elle peut néanmoins créer des conditions plus favorables à cette croissance. En réduisant l’incertitude, en facilitant l’audit et en sécurisant la mise en production, elle peut lever certains freins à l’achat, accélérer l’adoption et rendre les solutions acceptables dans des environnements réglementés ou sensibles. Les exemples qui suivent illustrent cette hypothèse, mais ne prouvent pas que les pratiques de confiance expliquent à elles seules les revenus observés.

Quelques exemples :

• Salesforce a intégré des examens de risques, des contrôles de données et la norme ISO/IEC 42001 à ses produits d’IA.
• Agentforce a atteint environ 800 millions de dollars américains de revenus annuels récurrents en 2026, en hausse de 169 %.
• IBM associe inventaire des modèles, surveillance et preuves de conformité dans watsonx.governance et déclarait un carnet d’affaires lié à l’IA générative supérieur à 12,5 milliards de dollars américains à la fin de 2025.
• Accenture, qui intègre l’IA responsable à ses méthodes de prestation, a enregistré 5,9 milliards de dollars américains de nouvelles commandes en IA générative en 2025.

Ces chiffres montrent que des entreprises peuvent combiner des mécanismes de gouvernance, de traçabilité et de sécurité avec une forte dynamique commerciale. Ils ne permettent toutefois pas d’établir que ces mécanismes sont la cause de leur croissance. L’interprétation la plus rigoureuse est qu’ils réduisent certains obstacles à l’achat et à la mise en production, notamment chez les clients réglementés, et qu’ils peuvent ainsi contribuer à la compétitivité sans en être l’unique moteur. Un signal plus structurant vient désormais des politiques d’investissement.

À la conférence ALL IN de septembre 2026, le Canada et l’Allemagne ont annoncé leur intention d’investir respectivement 150 millions de dollars canadiens et 100 millions d’euros dans LoiZéro, l’organisation fondée par Yoshua Bengio, afin de développer une IA avancée conçue dès le départ pour être fiable, transparente et sécuritaire. Ce financement conjoint, pouvant atteindre environ 300 millions de dollars canadiens, ne prouve pas davantage un rendement commercial immédiat. Il montre toutefois que la fiabilité, la sécurité, la souveraineté technologique et la capacité de fournir des résultats fondés sur des preuves deviennent des priorités d’investissement et des éléments de stratégie compétitive entre le Canada et l’Europe.

Pour les PME, les preuves portent davantage sur la productivité que sur le chiffre d’affaires directement attribuable. Des travaux canadiens indiquent que l’adoption numérique améliore en moyenne la productivité de 29 % et génère 1,60 $ par dollar investi. Dans un détaillant régional ou un distributeur spécialisé, les gains peuvent venir d’une meilleure prévision des stocks, d’un traitement plus rapide des demandes clients ou d’un contrôle automatisé des factures. Les pratiques de confiance restent proportionnées : limiter les données accessibles, nommer un responsable, documenter les automatisations, maintenir une validation humaine pour les décisions sensibles et suivre les résultats. Ces contrôles ne créent pas seuls la valeur, mais ils permettent de pérenniser le gain sans introduire un risque disproportionné.

Enfin, et c’est non négligeable à mon avis, ces exigences peuvent également contribuer, avec prudence, à un rééquilibrage du marché. Lorsque les acheteurs comparent la fiabilité, la traçabilité, la sécurité, la souveraineté des données et la réversibilité, ils réduisent le poids de la seule taille ou notoriété du fournisseur. Des solutions locales, spécialisées, ouvertes ou proposées par de plus petits acteurs peuvent alors être retenues lorsqu’elles offrent de meilleures garanties pour un usage précis. Ces critères ne corrigent pas la concentration des infrastructures, des capitaux et des capacités de calcul, mais ils donnent aux organisations un levier pour diversifier leurs dépendances et intégrer une dimension économique et géopolitique à leur décision d’achat.

6) 8 questions pour structurer la décision

À ce stade, la discussion avec un fournisseur doit dépasser la comparaison des fonctionnalités et soutenir une décision d’investissement. Les huit questions suivantes peuvent être intégrées à un appel d’offres, à une grille d’analyse ou à une discussion de comité de direction voire de conseil d’administration.

1. Finalité et valeur. Quel problème d’affaires précis voulons-nous résoudre, quelle décision ou quel processus sera amélioré et quels indicateurs permettront de démontrer une valeur mesurable plutôt qu’une simple performance technique ?
2. Limites, incertitude et autonomie. Dans quelles conditions la solution fonctionne-t-elle bien, comment signale-t-elle une incertitude ou une situation hors de son domaine d’usage et quelles actions peut-elle exécuter sans validation humaine ?
3. Connaissances et règles d’entreprise. Quelles sources, règles métier et relations entre les connaissances soutiennent les réponses ou les décisions, qui en garantit l’autorité et comment ces éléments sont-ils gouvernés, documentés et mis à jour ?
4. Données de l’entreprise. Quelles données la solution consulte-t-elle ou produit-elle, où sont-elles conservées, qui peut y accéder, servent-elles à entraîner d’autres modèles et comment pouvons-nous les corriger, les supprimer ou les récupérer ?
5. Preuves dans notre contexte. Quels tests démontrent la robustesse, la fiabilité et la sûreté de la solution sur nos données, nos périodes de forte activité et nos exceptions métier, et pouvons-nous reproduire ou faire vérifier ces résultats ?
6. Traçabilité et réversibilité. Pouvons-nous reconstituer le chemin entre une source, une règle, une recommandation et une action, identifier la version en cause, interrompre le système et revenir rapidement à un état fiable ?
7. Sécurité et résilience. Comment la solution prévient-elle les accès non autorisés, les fuites, les tentatives d’injection de consignes malveillantes, les manipulations et l’usage abusif de ses outils, et comment limite-t-elle les effets d’un incident avant de revenir à un fonctionnement maîtrisé ?
8. Responsabilité et engagement du fournisseur. Qui surveille les résultats, qui décide d’intervenir ou d’arrêter la solution, qui assume les conséquences d’une erreur et quels délais de soutien, droits d’audit, obligations de correction et recours sont garantis au contrat ?

Ces questions obligent les équipes d’affaires, technologiques, juridiques et opérationnelles à travailler ensemble. Parfois très tôt et dès la phase de conception ou de due diligence d’une solution d’un fournisseur. Et ce, afin de préciser ensemble ce qu’elles attendent du système. Elles font apparaître les désaccords avant le déploiement et indiquent à la direction où demander des preuves, où imposer une limite et où maintenir une décision humaine.

Conclusion : choisir et déployer avec discernement

Pour prendre une décision éclairée, la direction doit d’abord fixer le cadre : le problème d’affaires à résoudre, la valeur attendue, le niveau de risque acceptable et les décisions qui doivent demeurer sous contrôle humain. Elle doit ensuite exiger des preuves adaptées à l’usage : qualité et autorité des données, robustesse dans des conditions réelles, expression de l’incertitude, traçabilité des résultats, sécurité, réversibilité et responsabilités contractuelles.

Le choix ne porte donc pas uniquement sur une technologie ou un fournisseur, mais sur un système complet associant la solution, les connaissances de l’entreprise, les processus, les contrôles et les personnes qui l’utilisent. Le rôle exécutif est de soutenir cette discipline dans la durée : attribuer les responsabilités, financer les mécanismes de surveillance, imposer des seuils d’arrêt, suivre conjointement la valeur et les incidents, puis élargir les usages lorsque les résultats le justifient. La meilleure décision n’est pas celle qui adopte le plus d’IA, mais celle qui permet à l’organisation d’en tirer une valeur mesurable tout en conservant la capacité de comprendre, de contester et d’intervenir.

Dans les prochaines années, les entreprises les plus compétitives ne seront peut-être pas seulement celles qui auront accès aux modèles les plus performants. Ce seront aussi celles qui sauront fiabiliser leurs solutions, expliquer comment elles fonctionnent, maîtriser leurs usages et démontrer qu’elles peuvent être déployées avec confiance.

Références externes

Cadres de confiance et terminologie : NIST, AI Risk Management Framework (AI RMF 1.0). Principes de l’OCDE sur l’intelligence artificielle, notamment la robustesse, la sûreté et la sécurité. ISO/IEC 22989:2022, concepts et terminologie relatifs à l’intelligence artificielle.

Domaine de conception opérationnelle : SAE International, Best Practice for Describing an Operational Design Domain: Conceptual Framework and Lexicon.

Génération augmentée par récupération : Microsoft Azure, « Qu’est-ce que la génération augmentée par récupération (RAG) ? ».

Évaluation technique des contextes longs et des systèmes RAG : Liu et al., Lost in the Middle: How Language Models Use Long Contexts, Transactions of the Association for Computational Linguistics, 2024. Ru et al., RAGChecker: A Fine-grained Framework for Diagnosing Retrieval-Augmented Generation, NeurIPS 2024.

Documentation des modèles et des données : Mitchell et al., Model Cards for Model Reporting, ACM FAccT, 2019. Gebru et al., Datasheets for Datasets, Communications of the ACM, 2021.

OWASP Foundation : Top 10 for Large Language Model Applications (vulnérabilités majeures des applis LLM : prompt injection, fuites, supply chain, etc.) : https://owasp.org/www-project-top-10-for-large-language-model-applications/

Évaluation des attaques par injection de consignes : Liu et al., Formalizing and Benchmarking Prompt Injection Attacks and Defenses, 33rd USENIX Security Symposium, 2024.

C2PA : Coalition for Content Provenance and Authenticity (standard ouvert de provenance des contenus, “Content Credentials”) : https://c2pa.org/

Management et évaluation des impacts : ISO/IEC 42001:2023, système de management de l’intelligence artificielle. ISO/IEC 42005:2025, évaluation de l’impact des systèmes d’IA.

Erreurs cumulatives dans les workflows délégués : Laban, Schnabel et Neville, Microsoft Research, LLMs Corrupt Your Documents When You Delegate, benchmark DELEGATE-52.

Règlement européen sur l’intelligence artificielle (UE) 2024/1689 (texte) : https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689

Cas d’entreprise et PME : Salesforce, certification ISO/IEC 42001 d’Agentforce, d’Einstein et de Slack AI. Salesforce, résultats de l’exercice 2026 et revenus récurrents d’Agentforce. IBM, résultats 2025 et carnet d’affaires lié à l’IA générative. Accenture, commandes en IA générative pour 2025. Fédération canadienne de l’entreprise indépendante, transformation numérique, productivité et rendement des investissements technologiques des PME canadiennes. OCDE, adoption sécurisée et stratégique de l’IA par les PME.

Investissement Canada–Allemagne dans LoiZéro : LoiZéro, annonce du 16 septembre 2026 sur l’engagement de financement conjoint pouvant atteindre 300 millions de dollars canadiens. Innovation, Sciences et Développement économique Canada, annonce gouvernementale du 16 septembre 2026.

Note : cet article propose un cadre de décision stratégique. Tout engagement contractuel ou déploiement sensible doit être validé avec les fonctions juridiques, de conformité, de sécurité et les responsables opérationnels concernés.