Définitions claires et complètes des concepts essentiels de l'IA de confiance, de l'AI Act et de la gouvernance IA pour les entreprises des secteurs réglementés (banque, santé, droit, secteur public).
Une IA de confiance désigne un système dont l'utilisation est encadrée par des mécanismes de gouvernance, de traçabilité, de supervision humaine et de maîtrise des données et des modèles adaptés au niveau de risque. Elle se distingue des systèmes non encadrés en apportant les éléments de contrôle nécessaires pour répondre des résultats dans les processus sensibles.
→ IA de confiance : définition complèteL'AI Act est le premier cadre réglementaire horizontal dédié à l'intelligence artificielle, adopté par l'Union européenne. Il classe les systèmes d'IA selon quatre niveaux de risque (inacceptable, haut, limité, minimal) et impose des obligations de transparence, de traçabilité, de gestion des risques et de documentation technique pour les systèmes à haut risque.
→ Guide conformité AI ActUne IA boîte noire est un système d'intelligence artificielle dont le processus décisionnel est opaque : il produit des résultats sans expliquer son raisonnement, sans documenter ses sources et sans permettre la vérification ou l'audit de ses décisions. Dans les secteurs réglementés, une IA boîte noire rend difficile le respect des exigences de documentation, de transparence et de supervision humaine que l'AI Act prévoit pour les systèmes à haut risque.
Une hallucination IA désigne une information fausse ou inventée présentée par un modèle d'intelligence artificielle comme un fait avéré. Les hallucinations sont particulièrement dangereuses dans les secteurs réglementés (banque, santé, droit) car elles peuvent conduire à des décisions erronées sur la base de données inexistantes. Sur les traitements critiques, KOREV PRISM détecte les divergences en confrontant les réponses de plusieurs modèles et suspend le résultat quand les critères de validation ne sont pas atteints.
Le consensus multi-modèles est une méthode de validation des décisions IA dans laquelle plusieurs modèles d'intelligence artificielle analysent indépendamment la même question et confrontent leurs résultats. Une décision n'est validée que lorsque les modèles convergent selon les critères définis. La confrontation de plusieurs modèles réduit la dépendance à un modèle unique et rend leurs divergences visibles. KOREV PRISM utilise la confrontation multi-modèles comme l'un des mécanismes de son contrôle décisionnel, avec les règles de validation, la suspension du résultat (fail-closed) et la revue humaine.
→ Consensus multi-modèles : définition et limitesLa traçabilité des décisions IA désigne la capacité d'un système à documenter l'ensemble du processus ayant conduit à un résultat : données d'entrée, modèles sollicités, règles appliquées, sources consultées et validations intervenues. KOREV Evidence et KOREV PRISM consignent ces éléments pour les traitements couverts par les parcours instrumentés.
→ Découvrir KOREV EvidenceL'explicabilité de l'IA est la capacité d'un système d'intelligence artificielle à fournir une explication compréhensible de ses décisions aux utilisateurs humains. L'article 13 de l'AI Act exige que les systèmes IA à haut risque soient conçus pour permettre aux utilisateurs d'interpréter les résultats et de comprendre la logique décisionnelle. L'explicabilité est un pilier fondamental de l'IA de confiance.
L'auditabilité IA est la capacité d'un système d'intelligence artificielle à être examiné, vérifié et évalué par un tiers indépendant : régulateur, auditeur interne ou commissaire aux comptes. Elle implique la disponibilité d'une documentation technique complète, de journaux de décisions et de métriques de performance. L'AI Act impose des obligations de documentation et de journalisation aux systèmes IA classés à haut risque, quel que soit le secteur.
→ Dossiers de décision vérifiablesLa souveraineté des données désigne le contrôle juridique et technique qu'une organisation exerce sur les données qu'elle produit, collecte et traite. Pour les entreprises européennes des secteurs réglementés, la souveraineté des données implique un hébergement sur des infrastructures soumises au droit européen, sans transfert vers des juridictions non européennes, afin de limiter l'exposition aux lois extraterritoriales comme le CLOUD Act selon le mode de déploiement retenu. Avec KOREV, les données et décisions IA restent dans l'environnement défini par l'organisation : cloud européen, hybride ou on-premise.
Les critères de validation désignent les règles, quorums et seuils configurés pour encadrer un processus IA. Ils permettent d'évaluer le degré de convergence entre modèles et la conformité aux exigences métier avant restitution. Lorsque ces critères ne sont pas atteints, le système peut suspendre le résultat pour revue humaine.
Le Shadow IA désigne l'utilisation non déclarée et non contrôlée d'outils d'intelligence artificielle au sein d'une organisation, en dehors des systèmes validés par la direction informatique ou la conformité. Le Shadow IA représente un risque majeur pour les entreprises des secteurs réglementés : fuites de données sensibles, décisions non traçables, non-conformité réglementaire. Cartographier ces usages est une première étape de toute démarche de gouvernance.
Selon l'AI Act, un système IA à haut risque est un système d'intelligence artificielle dont l'utilisation peut avoir un impact significatif sur la santé, la sécurité ou les droits fondamentaux des personnes. L'AI Act classe des usages, pas des secteurs : certains usages de l'IA dans l'emploi, l'accès à certains services essentiels (dont l'évaluation de solvabilité), les infrastructures critiques, la justice ou d'autres domaines définis par l'annexe III, ainsi que les composants IA de produits réglementés de l'annexe I, peuvent relever de cette catégorie selon leur fonction et leur contexte d'utilisation, et sont alors soumis aux obligations les plus strictes de l'AI Act.
KOREV PRISM est la couche de contrôle décisionnel développée par KOREV AI. Il confronte plusieurs modèles ou agents qui analysent la même question, détecte leurs divergences et applique des règles de validation configurables avant toute restitution. PRISM signale les désaccords plutôt que de les masquer, suspend la décision lorsque les critères ne sont pas réunis (fail-closed) et conserve une piste d'audit pour chaque traitement.
→ KOREV PRISM : moteur de décisionKOREV Evidence est la couche opérationnelle développée par KOREV AI : l'environnement où les équipes travaillent avec des agents IA spécialisés, conçus à partir des flux métier, des règles et des connaissances de l'entreprise. Les agents prennent en charge le travail opérationnel (analyse, recherche, contrôle, comparaison, synthèse), remontent les manques et contradictions et restituent un résultat exploitable ; les experts gardent les validations et décisions engageantes. Les sorties sourcées conservent les passages et référentiels utilisés, et Evidence consigne le contexte d'exécution (modèles, versions, sources, règles, validations) pour la relecture des processus sensibles.
→ KOREV Evidence : agents spécialisés et workflows métierKOREV Atlas est le moteur de raisonnement d'entreprise développé par KOREV AI. Construit sur Olmo 3 32B, un modèle ouvert publié par l'Allen Institute for AI (Ai2), il est spécialisé sur les connaissances, les règles et le contexte réglementaire de l'organisation, et peut être déployé en cloud européen, en hybride ou on-premise.
→ KOREV Atlas : moteur de raisonnement d'entrepriseUn dossier de décision vérifiable est l'export signé de l'historique d'un traitement d'IA, dont un vérificateur peut contrôler l'intégrité des enregistrements, la continuité de l'historique et la complétude des opérations admises, à partir de clés de confiance fournies séparément du dossier. Il permet de détecter un historique modifié, tronqué ou laissé incomplet ; il ne prouve ni la vérité des contenus, ni la conformité réglementaire.
→ Dossiers de décision vérifiables : note technique