GUIDE · AI ACT

Systèmes d'IA à haut risque : les obligations des déployeurs en entreprise

Ce guide de référence détaille les obligations imposées par l'AI Act à l'entreprise qui déploie un système d'IA à haut risque sans en être le concepteur. Tu sauras identifier ton rôle légal, planifier les actions requises et choisir les chantiers prioritaires. Chaque situation étant unique, valide toujours ton analyse avec un conseiller.

Mis à jour octobre 2026
11 min de lecture
Équipe de rédaction technique Altovar

1. Qui est le déployeur et pourquoi ce statut est décisif

Le règlement opère une distinction nette entre le développeur d'un système d'intelligence artificielle et l'acteur qui l'exploite. Ce dernier, qualifié d'utilisateur ou de déployeur (deployer), désigne l'entité qui met en œuvre le système dans un cadre professionnel. Une entreprise qui acquiert un logiciel de tri de candidatures pour l'intégrer à ses recrutements est un déployeur, même si elle n'a jamais rédigé une seule ligne de code. Cette distinction est cruciale car les régimes de responsabilité diffèrent radicalement, et une même entreprise peut endosser des casquettes distinctes selon les outils.

Le rôle légal ne dépend pas de simples déclarations contractuelles. Si tu personnalises substantiellement le système, si tu en modifies la finalité prévue ou si tu le commercialises sous ta propre marque, ton statut juridique peut basculer vers celui de fournisseur, emportant des obligations beaucoup plus lourdes. Avant de structurer ta démarche, examine précisément la notice d'utilisation fournie par l'éditeur et l'étendue des paramétrages prévus dans tes processus métiers.

2. Quand un système relève-t-il du haut risque

Un système est qualifié de haut risque dans deux situations principales : lorsqu'il constitue un composant de sécurité d'un produit déjà réglementé par la législation européenne, ou lorsque son utilisation figure dans la liste limitative d'annexes du règlement. Cette liste cible des domaines sensibles tels que la gestion des ressources humaines, l'évaluation de solvabilité financière, certains services essentiels et l'éducation. Tous les usages dans ces domaines ne sont pas automatiquement à haut risque : c'est la fonction concrète opérée par l'outil dans ton flux de travail qui fait foi.

La première étape opérationnelle repose sur la classification détaillée dans le guide dédié. Retiens simplement qu'elle s'apprécie au regard de ton usage effectif, et non sur la seule plaquette commerciale de l'éditeur. Un outil générique d'analyse sémantique peut basculer dans la catégorie haut risque dès lors qu'il sert à noter des candidats lors d'une embauche, déclenchant instantanément des contraintes réglementaires renforcées. Ce réexamen doit avoir lieu à chaque modification de finalité, et pas seulement lors de l'achat initial.

3. Les obligations concrètes pesant sur le déployeur

Pour tout système à haut risque, le règlement impose au déployeur une série d'actions concrètes. Il ne s'agit nullement de simples formalités : chacune exige un responsable désigné et des éléments de preuve écrits. Si les modalités précises doivent être arrêtées avec ton conseiller, le cadre fondamental s'articule autour des points suivants, à adapter à ton secteur d'activité et à tes processus internes. Utilise cette liste comme base de travail et personnalise-la selon tes opérations réelles.

La supervision humaine et la gestion des journaux d'événements sont les points les plus fréquemment sous-estimés par les directions. Un collaborateur qui valide aveuglément chaque suggestion de l'algorithme n'exerce aucune supervision réelle. Établis des règles explicites précisant quand une recommandation automatisée doit être contestée, qui a le pouvoir d'interrompre l'outil et sous quel délai le responsable doit intervenir en cas d'anomalie. Documente formellement le choix des superviseurs, leurs rôles et les formations suivies.

  • Exploiter le système en stricte conformité avec les instructions de la notice d'utilisation fournie par l'éditeur.
  • Confier la supervision humaine à des personnes compétentes, investies de l'autorité nécessaire pour intervenir ou stopper le système.
  • Veiller à ce que les données d'entrée soient pertinentes et représentatives au regard de la finalité prévue.
  • Surveiller le fonctionnement continu de l'outil et signaler tout dysfonctionnement notable au fournisseur.
  • Conserver les journaux d'événements (logs) générés par le système pendant la durée requise par la réglementation applicable.
  • Informer les personnes concernées dès lors qu'une décision les affectant s'appuie sur le système d'IA.

4. Salariés et personnes concernées

Lorsque le système impacte les salariés, le règlement exige dans certains cas d'informer les travailleurs et leurs représentants avant tout déploiement sur le lieu de travail. Le droit du travail national peut en outre imposer des étapes supplémentaires, comme la consultation formelle du comité social et économique (CSE). Cette concertation doit être anticipée avec ton conseiller social en amont du projet, et non a posteriori. Si les modalités applicables demeurent incertaines dans ton cas, fais-les valider avant toute activation opérationnelle.

Les personnes faisant l'objet d'une décision assistée par une IA ont le droit de recevoir une information limpide sur le rôle tenu par l'algorithme dans l'arbitrage rendu. Élabore une communication synthétique et accessible intégrée à tes démarches, ainsi qu'une procédure claire pour instruire leurs éventuelles contestations. Ce n'est pas une simple clause de style : c'est le point de contact direct entre la technologie et l'humain, et le premier terrain de contentieux potentiel.

5. L'évaluation d'impact sur les droits fondamentaux

Pour certaines catégories de déployeurs — en particulier les organismes publics ou les entités privées fournissant des services publics — ainsi que pour des usages ciblés comme l'évaluation de solvabilité bancaire ou la tarification des assurances santé et prévoyance, une évaluation d'impact sur les droits fondamentaux (FRIA) est imposée. Cette obligation dépendant de ton statut juridique et du cas d'usage, fais-la confirmer par un juriste : si elle s'applique, elle doit obligatoirement précéder la mise en production.

Cette évaluation décrit la finalité du système, les populations impactées, les risques susceptibles d'affecter les droits fondamentaux et les mesures d'atténuation prévues. C'est un document vivant destiné à être enrichi au fil de l'eau, et non une simple case à cocher. Ce processus fait l'objet d'un guide à part entière, compte tenu de son formalisme spécifique. Veille à ce que sa rédaction soit parfaitement intelligible pour des lecteurs profanes du système technique.

6. Incidents, défaillances et communications d'urgence

Si le système génère un incident grave ou une défaillance opérationnelle majeure, le déployeur est tenu d'en alerter le fournisseur et, le cas échéant, les autorités compétentes. Définis en amont ce qui constitue un incident grave dans ton contexte métier : une erreur de calcul isolée, un biais récurrent ou l'exclusion infondée d'un bénéficiaire. Formaliser cette typologie par écrit évite les atermoiements en période de crise, où chaque heure compte. Consigne systématiquement les résultats de tes contrôles réguliers, qu'ils soient conformes ou anormaux.

Structure également un protocole interne : qui est prévenu, qui dispose de l'autorité pour débrayer l'outil, comment consigner l'incident et comment basculer en mode dégradé manuel. Ce pont avec la continuité d'activité est souvent la mesure la plus salvatrice, car un système arrêté doit immédiatement être relayé par un processus manuel éprouvé. Valide impérativement cette articulation avec les responsables opérationnels de tes métiers.

7. Contrats et fournisseurs : les exigences à formuler

Le contrat conclu avec ton éditeur ou intégrateur est le levier fondamental pour obtenir les éléments dont tu as légalement besoin. Exige la documentation technique relative à l'usage prévu, les modes opératoires, les limites connues, les prérequis sur les données, la gouvernance des mises à jour et le protocole de remontée des incidents. L'incapacité d'un fournisseur à renseigner ces points constitue en soi un risque majeur à consigner dans ton registre. Exige également l'engagement formel de t'avertir de toute évolution affectant ton cas d'usage.

Contrôle avec rigueur qui peut accéder aux données et où celles-ci sont localisées, en traitant ces deux questions de manière distincte. Un éditeur qui se borne à promettre une qualité générale sans engagement précis ne te donne aucun moyen de prouver ta diligence. Exige par écrit les garanties nécessaires à ton pilotage, de l'architecture algorithmique aux modifications futures. En l'absence de réponse probante, considère le risque comme non maîtrisé et fixe une échéance de régularisation ferme.

8. Pistes d'approfondissement dans la thématique

Ce guide constitue une feuille de route générale. Les interrogations méritant des analyses complémentaires sont nombreuses : comment qualifier précisément le niveau de risque, quelles sont les pratiques rigoureusement prohibées, comment conduire l'évaluation d'impact sur les droits fondamentaux, comment articuler l'AI Act avec le RGPD et quels impacts anticiper pour les ressources humaines. Chaque renvoi vers ces thèmes ne prend tout son sens que s'il est inscrit à ton plan de travail avec un pilote et un délai.

Si un système est déjà actif chez toi, commence par lire le guide dédié à la classification des risques. Si tu exploites l'IA pour recruter ou manager, consulte en priorité le guide sur les ressources humaines. Si tu développes un outil métier sur la base d'un modèle fondateur tiers, le guide sur les modèles à usage général t'aidera à identifier les clauses contractuelles indispensables. Ainsi, chaque ressource documentaire intervient au moment opportun pour soutenir ton plan de mise en conformité.

9. Comment démarrer

Dès cette semaine, sélectionne le système qui s'apparente le plus à un cas d'usage à haut risque et réclame trois pièces à ton éditeur : la notice d'utilisation, la description de la finalité prévue et les préconisations relatives à la supervision humaine. Ces documents te permettront d'établir si ton rôle légal et ton périmètre de conformité sont clairs, ou si des précisions préalables sont indispensables. Il n'est pas nécessaire d'être irréprochable pour débuter : il faut savoir par où engager l'effort et qui en est responsable.

Désigne ensuite un pilote interne pour ce système et planifie un premier échange avec ton conseiller juridique et ta direction des ressources humaines si elle est concernée. N'attends pas d'avoir un plan parfait : il importe avant tout de savoir qui arbitre, qui supervise et quelles données manquent à l'appel. Fixe d'emblée la date du point d'étape suivant afin que la dynamique ne s'éteigne pas après la première réunion.

Questions fréquentes

Mon entreprise utilise un logiciel de recrutement : est-il automatiquement à haut risque ?

Pas systématiquement. Tout dépend de la manière dont tu mobilises le logiciel. Si son rôle consiste à trier, classer ou évaluer les candidatures, il entre dans un domaine que le texte qualifie d'éminemment sensible et requiert une vigilance extrême. S'il se contente de centraliser des CV ou de gérer l'envoi de messages, la qualification n'est plus la même. Rédige ta classification en te fondant sur l'usage réel de l'outil et consigne tes motivations.

Une supervision humaine purement formelle est-elle suffisante ?

Non. La supervision humaine doit être effective et concrète : elle doit être confiée à une personne compétente, disposant du temps et de l'autorité nécessaires pour analyser et, le cas échéant, contredire ou désactiver le système. Si le collaborateur valide machinalement chaque proposition sans pouvoir exercer son esprit critique, la supervision est fictive. Documente l'identité des superviseurs, leurs formations et les protocoles d'intervention.

Dois-je obligatoirement conserver les journaux d'événements du système ?

En règle générale, oui : tu dois conserver les logs générés par le système pendant la durée fixée par la réglementation applicable et ton contexte opérationnel. La durée exacte doit être validée avec ton conseiller juridique. Veille à concilier cette conservation avec les exigences de protection des données du RGPD, les logs pouvant renfermer des données à caractère personnel.

L'éditeur doit-il m'expliquer le fonctionnement interne de son système ?

Il doit te transmettre les informations indispensables à une utilisation adéquate et éclairée, telles que les instructions d'usage, les limites connues et les spécifications sur les données. Rien ne l'oblige en revanche à dévoiler l'intégralité de sa propriété intellectuelle ou de ses secrets de fabrique. Tu as besoin d'instructions opérationnelles claires et écrites ; si les réponses restent floues, exige des garanties avant tout usage réel.

Que se passe-t-il lorsque l'éditeur déploie une mise à jour logicielle ?

Une mise à jour peut faire évoluer les fonctionnalités, déplacer les limites techniques ou induire de nouveaux risques. Exige de ton fournisseur un récapitulatif détaillé des changements apportés et évalue si la classification du système ou les consignes de supervision méritent d'être actualisées. Ne pars jamais du principe qu'une mise à jour est anodine, surtout si elle touche aux critères de décision sur les personnes.

À partir de quelle date ces exigences s'appliquent-elles ?

Les dispositions de l'AI Act s'appliquent de façon graduelle et peuvent faire l'objet de précisions par des textes complémentaires. Il est imprudent de fonder ton calendrier sur des dates lues dans un article résumé. Examine toujours la version consolidée du texte officiel et fais confirmer les échéances applicables par ton conseiller avant de prendre des engagements opérationnels.

Peut-on s'en remettre entièrement à l'éditeur pour être en règle ?

Non. Le fournisseur assume ses devoirs sur le produit qu'il met sur le marché, mais l'utilisation effective au sein de ton organisation relève de ta propre responsabilité. Le contrat permet de clarifier les engagements réciproques, mais il ne dispense jamais de la supervision humaine, des contrôles internes et de la tenue des preuves. Conserve par écrit les réponses de l'éditeur et tes décisions internes, qui attesteront de ta diligence en cas d'audit.

About this content

General informational guide. Regulations and technical requirements change over time: always check the official sources and assess your specific case with a qualified technical or legal advisor.

CONTACTEZ-NOUS

Échangez avec notre équipe.

Nous vous montrerons comment Altovar s'intègre à votre infrastructure. Sans engagement, sans argumentaire commercial. Juste une conversation technique.

RÉSERVER UNE DÉMO →