La réglementation de l'IA à travers le monde : pourquoi la supervision humaine occupe désormais le devant de la scène
La réglementation en matière d'intelligence artificielle entre dans une nouvelle phase.
Depuis plusieurs années, une grande partie des débats sur la gouvernance de l'IA s'est concentrée sur les principes : équité, transparence, sécurité, responsabilité et innovation responsable.
Aujourd'hui, ces principes se traduisent de plus en plus par des lois, des normes techniques, des exigences en matière d'essais et des contrôles opérationnels.
Il n'existe toutefois pas de modèle réglementaire unique à l'échelle mondiale.
L'Union européenne met en place un cadre juridique horizontal fondé sur les risques par le biais de la loi européenne sur l'IA. Aux États-Unis, le débat se poursuit quant à l'étendue que devrait avoir la réglementation fédérale, tandis que les États élaborent également leurs propres règles. D'autres régions adoptent diverses combinaisons de réglementations sectorielles, de normes techniques et de cadres de gouvernance.
La question sous-jacente, cependant, tend à se ressembler de plus en plus d'une juridiction à l'autre :
Comment les organisations peuvent-elles démontrer qu'un système d'IA est non seulement performant, mais aussi fiable, maîtrisable et correctement supervisé ?
Cette question prend encore plus d'importance à mesure que l'IA passe de la simple génération de contenu à la prise d'actions concrètes, qu'elle soutient des décisions à fort impact et qu'elle fonctionne par le biais d'agents de plus en plus autonomes.
La réglementation de l'IA a toujours impliqué un compromis.
En réglementant trop tôt ou de manière trop stricte, les gouvernements risquent de freiner l'innovation dans un domaine technologique qui évolue à un rythme extrêmement rapide.
Si la réglementation est insuffisante, les entreprises, les citoyens et les pouvoirs publics risquent d'être exposés à des systèmes dont le comportement est difficile à comprendre, à prévoir ou à contrôler.
Aux États-Unis, cette tension est particulièrement perceptible.
Une partie du débat porte sur la nécessité de privilégier l'innovation et d'éviter d'imposer des contraintes excessives au développement de l'IA. Parallèlement, on observe une intensification des discussions autour du renforcement des mesures de protection, des évaluations indépendantes, du signalement des incidents et d'une définition plus claire des responsabilités des développeurs de systèmes d'IA avancés.
Ce débat comporte également une forte dimension « fédéral contre états », avec un nombre croissant d'initiatives locales et des discussions incessantes sur le rôle d'un cadre national.
Derrière ces débats se cache un autre facteur déterminant : la géopolitique.
Le leadership en matière d'IA est désormais considéré comme un enjeu stratégique, et la réglementation fait de plus en plus l'objet de débats, non seulement sous l'angle de la sécurité, mais aussi sous celui de la compétitivité, de la souveraineté et du leadership technologique.
C'est en Europe que la voie législative a été la plus clairement tracée, avec la loi sur l'intelligence artificielle.
La loi européenne sur l'IA repose sur une approche fondée sur les risques, avec des obligations variables en fonction de l'utilisation des systèmes d'IA et du niveau de risque qu'ils sont susceptibles de présenter.
Pour les entreprises, ce qu'il faut retenir, c'est que cette loi ne se limite pas à énoncer des principes.
Cela suscite des attentes opérationnelles dans des domaines tels que :
Pour isahit, cela ouvre un champ d'action particulièrement pertinent autour du concept « Human-in-the-Loop ».
Le principe de base qui sous-tend notre réflexion actuelle est simple :
La loi sur l'IA ne stipule pas qu'il faille « faire appel à un prestataire proposant une approche « Human-in-the-Loop » », mais elle crée précisément le type de besoin opérationnel auquel cette approche peut contribuer à répondre.
L'un des aspects les plus pertinents de la loi sur l'IA pour notre domaine est l'article 14, qui porte sur le contrôle humain.
Pour les systèmes d’IA à haut risque, la réglementation exige qu’ils puissent faire l’objet d’une supervision effective par des personnes physiques.
Ce mot — en réalité — a son importance.
La supervision humaine ne devrait pas se limiter à placer un employé en fin de processus automatisé.
Les personnes chargées de la supervision devraient, selon le contexte, être capables de :
Cela change la donne.
Au lieu de demander :
« Y a-t-il un être humain qui intervient dans le processus ? »
Les organisations pourraient être de plus en plus amenées à se poser la question suivante :
« Est-ce que la boucle humaine fonctionne vraiment ? »
Par exemple :
Un opérateur est-il capable de repérer une recommandation erronée ?
En combien de temps ?
L'opérateur comprend-il dans quelles circonstances l'IA peut ne pas être fiable ?
L'opérateur va-t-il passer outre une décision erronée — ou se contentera-t-il de faire confiance à la machine ?
Le processus peut-il être interrompu en toute sécurité ?
Les performances varient-elles en fonction de la formation ou de l'expertise de l'opérateur ?
Il ne s'agit pas là de questions abstraites de gouvernance.
Ce sont des questions qui permettent d'évaluer les connaissances.
C'est là que l'évaluation humaine prend toute son importance.
Une procédure écrite expliquant qu’un système d’IA est supervisé est utile, mais elle ne permet pas nécessairement de vérifier si cette supervision fonctionne dans la pratique.
De même, affirmer qu’un système d’IA est « précis » est moins utile que de pouvoir montrer comment il se comporte dans des centaines, voire des milliers de scénarios représentatifs.
Le document sur lequel nous travaillons en interne définit un cadre opérationnel plus large autour de plusieurs exigences de la loi sur l'IA :
Prises dans leur ensemble, ces exigences laissent entrevoir un changement majeur :
La gouvernance de l'IA s'appuie de plus en plus sur des données factuelles.
L'une des idées les plus intéressantes consiste à évaluer non seulement le modèle d'IA, mais aussi l'ensemble du système d'exploitation qui l'entoure :
IA + interface + opérateur humain + procédure.
Par exemple, un test contrôlé pourrait introduire des résultats d'IA erronés ou ambigus dans un flux de travail.
L'évaluation pourrait alors permettre de mesurer :
Cela permet de mesurer l'efficacité du contrôle humain.
Et cela diffère fondamentalement du simple fait de préciser qu’« un être humain peut intervenir ».
Historiquement, les services de type « Human-in-the-Loop » étaient principalement utilisés en amont :
Humain → Données → Entraînement de l'IA
Ensuite, avec le RLHF et l'évaluation du modèle :
Humain → Affiner / Évaluer → Améliorer l'IA
La prochaine étape pourrait bien être :
Humain → Évaluer → Superviser → Produire des données probantes → Surveiller l'IA
En d'autres termes, le rôle de l'humain, qui se situait auparavant principalement en amont du modèle, s'oriente de plus en plus vers une position en amont et en aval de celui-ci.
Cela concerne tout particulièrement :
Chez isahit, cela s'inscrit dans le prolongement naturel des activités que nous menons déjà dans les domaines suivants :
Ce qu’il faut retenir, c’est que nous ne considérons pas Isahit comme une entreprise spécialisée dans la certification au titre de la loi sur l’IA.
La position que nous examinons est différente :
« Nous assurons les tests sur des sujets humains, l'évaluation et la collecte de données probantes nécessaires au respect de la loi sur l'IA. »
Le client, le conseiller juridique, l'équipe chargée de l'IA responsable ou le partenaire spécialisé reste responsable de la conformité réglementaire et du respect global des obligations légales.
isahit peut fournir la couche opérationnelle :
tests → évaluateurs → résultats → indicateurs → journaux → rapports
Le modèle que nous étudions actuellement peut se résumer en quatre axes principaux :
Évaluation humaine structurée des résultats, des décisions et des comportements de l'IA.
Cela pourrait inclure :
Tests menés par des personnes portant sur des scénarios complexes, conflictuels ou imprévus.
En voici quelques exemples :
Vérifier si le processus de contrôle humain fonctionne réellement.
L'accent n'est pas uniquement mis sur le système d'IA.
C'est la combinaison :
IA + être humain + interface + procédure.
Examen humain continu d'un échantillon d'interactions de l'IA en environnement de production.
Par exemple :
1 % des interactions en temps réel → vérification humaine → indicateurs → alertes en cas de dépassement d'un seuil.
C'est d'autant plus important que l'assurance qualité en matière d'IA ne doit pas s'arrêter après le déploiement.
Une autre conséquence majeure est que tous les systèmes d'IA ne peuvent pas être évalués par le même groupe de personnes.
Un évaluateur général peut convenir dans les cas suivants :
Toutefois, certains cas d'utilisation présentant un risque plus élevé ou plus spécialisés peuvent nécessiter :
Cela laisse penser que l'avenir du « Human-in-the-Loop » pourrait reposer de plus en plus sur des viviers d'évaluateurs qualifiés.
Le concept interne que nous étudions actuellement est celui d’un « passeport d’évaluateur », qui combine :
Cela permet de faire de l'évaluation humaine une fonction plus structurée et plus facilement vérifiable.
La mise en œuvre de la loi sur l'IA relève de plusieurs disciplines.
Cela implique :
Nous ne pensons donc pas qu’Isahit doive devenir un cabinet de conseil spécialisé dans la loi sur l’IA générale.
Une approche plus pertinente consiste à travailler en synergie avec des partenaires spécialisés.
La répartition des rôles peut être simple.
Un partenaire peut gérer :
isahit permet de gérer :
Cela donne lieu à un modèle complémentaire.
C'est le partenaire qui définit ce qui doit être contrôlé.
isahit permet de mettre en œuvre les tests effectués sur des personnes et de les documenter.
L'objectif est désormais de passer de la théorie à des projets concrets.
Notre plan d'action actuel prévoit de démarrer par un petit nombre de projets pilotes en octobre 2026, idéalement portant sur différents types de systèmes d'IA.
L'objectif est de tester, dans des conditions réelles, la méthodologie, les critères d'évaluation, les qualifications des évaluateurs, le format des rapports et le déroulement opérationnel.
Les premiers projets pilotes devraient s'appuyer sur les fonctionnalités existantes d'Isahit :
L'idée n'est pas de commencer par mettre en place une vaste plateforme dédiée à la loi sur l'IA.
Il s'agit de partir de cas d'utilisation concrets, puis d'industrialiser progressivement ce qui s'avère utile.
Sur la base de ces projets pilotes, notre objectif est de mettre progressivement en place une offre plus complète d'ici fin 2026, en synergie avec des partenaires spécialisés dans l'IA responsable, la gouvernance de l'IA et la réglementation.
L'objectif ne sera pas d'ajouter une nouvelle couche abstraite de gouvernance de l'IA.
Il s'agira de traduire les principes de gouvernance en mesures concrètes :
des tests, des évaluations humaines, des résultats mesurables, un suivi et des preuves documentées.
Le fond de la question peut se résumer en une phrase :
isahit apporte la dimension humaine nécessaire pour tester, valider et surveiller en continu les systèmes d'IA d'entreprise, transformant ainsi l'évaluation humaine en preuves mesurables et vérifiables.
À mesure que les systèmes d'intelligence artificielle gagneront en performances et en autonomie, les organisations devront trouver de meilleurs moyens de démontrer que ces systèmes peuvent être remis en question, supervisés et contrôlés.
Cela pourrait bien devenir l'un des prochains rôles majeurs de l'approche « Human-in-the-Loop ».
Il ne s'agit pas seulement d'aider l'IA à apprendre.
Mais aider les organisations à faire confiance à l'IA, à la réguler et à la surveiller dans la vie réelle.
Restez à l'écoute : d'autres détails, des projets pilotes et des actualités suivront dans les semaines et les mois à venir.
augmentez vos projets d'annotation numérique avec notre équipe hautement qualifiée force de travail. Accédez à notre service à la demande force de travail pour obtenir la meilleure qualité pour votre jeu de données annotation.
Nous disposons d'une large gamme de solutions et d'outils qui vous aideront à former vos algorithmes. Cliquez ci-dessous pour en savoir plus !