« Une personne décide » : ce que veut dire, en pratique, la révision humaine d’une recommandation de l’IA
Approuver un classement produit par l’IA, ce n’est pas le réviser. Une vraie révision exige le pouvoir de dire non, la candidature sous les yeux, du temps pour la lire et un motif écrit.
7 minutes de lectureL’IA dans l’embauche
La révision humaine d’une recommandation de l’IA est réelle quand la personne qui révise peut être en désaccord sans en payer le prix, qu’elle a la candidature sous les yeux et pas seulement la note, qu’elle a le temps de la lire et qu’elle consigne un motif dans ses propres mots. Retirez un seul de ces éléments et c’est l’outil qui décide pendant que la personne signe. Les personnes candidates voient la différence, et les lignes directrices canadiennes sur l’IA font la même distinction.
Cet article porte sur ce qui se passe une fois qu’un outil de présélection a produit un classement ou une note. La déclaration à inclure dans une offre d’emploi en Ontario est une autre question, traitée dans notre explication sur l’Ontario.
D’où vient cette attente
Trois textes canadiens décrivent ce que doit être la participation humaine, chacun sous un angle différent.
Les commissaires ontariens à la vie privée et aux droits de la personne. Le 21 janvier 2026, le Commissaire à l’information et à la protection de la vie privée de l’Ontario (CIPVP) et la Commission ontarienne des droits de la personne (CODP) ont publié des principes conjoints pour une utilisation responsable de l’IA. Ils s’adressent au secteur public ontarien et au secteur parapublic, et les commissaires précisent que ces principes guideront leur évaluation de la façon dont les organisations adoptent l’IA. Ils ne lient pas les employeurs privés ; nous nous y référons parce qu’ils expriment le plus clairement ce qu’attendent les organismes de réglementation ontariens. Le principe de responsabilisation prévoit une approche fondée sur l’intervention humaine, qui maintient la surveillance humaine et permet d’intervenir en temps réel, ainsi que la désignation d’une ou de plusieurs personnes chargées de suspendre ou de mettre hors service un système qui produit des résultats dangereux. Le principe de protection de la vie privée ajoute que les personnes devraient avoir au moins le droit d’examiner les processus décisionnels automatisés qui ne comportent pas de risque élevé, et pouvoir se soustraire aux processus à risque élevé pour que la décision soit prise par une personne.
La Directive fédérale sur la prise de décisions automatisée. Cette directive du Conseil du Trésor s’applique aux institutions fédérales assujetties à la Politique sur les services et le numérique, pas aux employeurs privés. Elle demeure le texte canadien le plus détaillé sur la question. Elle classe les systèmes en quatre niveaux d’incidence. Aux niveaux I et II, un système peut rendre des décisions sans participation directe du personnel. Aux niveaux III et IV, la décision définitive doit être prise par une personne, et des personnes examinent les décisions ou les recommandations du système pour vérifier qu’elles sont exactes et appropriées, et peuvent les renverser. La directive demande aussi de consigner les dérogations du personnel aux décisions du système et de s’en servir pour cerner les problèmes et les corriger.
La loi québécoise sur le secteur privé. L’article 12.1 impose des obligations lorsqu’une décision est fondée exclusivement sur un traitement automatisé de renseignements personnels : en informer la personne, lui faire connaître sur demande les renseignements utilisés ainsi que les raisons et les principaux facteurs ayant mené à la décision, et lui donner l’occasion de présenter ses observations à un membre du personnel en mesure de réviser la décision. Ces obligations ne visent que les décisions fondées exclusivement sur un traitement automatisé. La loi ne précise pas quel degré de participation humaine fait sortir une décision de l’article 12.1, mais selon notre lecture, une personne qui se contente d’approuver le résultat de l’outil pourrait ne pas suffire à l’en faire sortir. Au Québec, savoir si la personne qui révise décide vraiment est donc plus qu’une formalité.
Quatre conditions d’une vraie révision
La personne peut dire non
Elle doit pouvoir faire avancer une candidature que l’outil a mal classée, ou mettre en attente une candidature qu’il a placée en tête, sans demander la permission et sans étapes supplémentaires réservées aux désaccords. Si contredire l’outil exige l’approbation d’un gestionnaire alors qu’être d’accord prend un clic, le processus penche vers l’accord. Exigez le même effort dans les deux sens : un motif pour chaque décision, quelle qu’elle soit.
La personne voit la candidature
Une note, seule, ne se révise pas. La personne doit pouvoir ouvrir le CV ou les réponses de présélection, voir quelles exigences l’outil a évaluées et sur quelle base, et voir ce qu’il n’a pas pu évaluer. Pour les systèmes à incidence élevée, la directive fédérale exige une formation qui tient à jour la compréhension du fonctionnement du système. Qui ignore ce que l’outil examine ne peut pas savoir quand il se trompe.
La personne a le temps
Prenons une agence de placement fictive qui publie une offre pour un poste en entrepôt et reçoit 400 candidatures. Une recruteuse dispose de six heures pour la présélection. Six heures, c’est 21 600 secondes, soit 54 secondes par candidature, avant le moindre appel. À ce rythme, c’est la note qui décide.
Il y a deux façons honnêtes d’en sortir. Réduire le volume par personne : deux recruteurs qui disposent chacun de six heures ont 108 secondes par candidature. Ou changer ce que les gens examinent : laisser l’outil trier, puis faire lire par une personne chaque candidature que l’outil placerait sous la limite des entrevues, en commençant par celles qui en sont le plus près, ainsi que chaque candidature qu’il n’a pas pu noter. Ce qu’on ne peut pas faire, c’est appeler révision des clics de 54 secondes.
La personne écrit pourquoi
Un motif rédigé par la personne, lié à une exigence du poste, montre que la décision est la sienne et laisse une trace à vérifier plus tard. « Note de 2,1 » ou « selon le classement de l’IA » n’est pas un motif. « Aucun certificat de conduite de chariot élévateur ; le poste en exige un dès le premier quart » en est un.
Pour chaque décision, conservez qui a décidé, quand, ce que l’outil recommandait et si la personne était d’accord. Ce dossier répond à la question d’une personne candidate des mois plus tard. Il vous dit aussi si l’outil dérive, et c’est pour cette raison que la directive fédérale demande de consigner les dérogations.
Les signes d’une révision devenue formalité
- Les personnes qui révisent sont d’accord avec l’outil sur chaque décision depuis des mois. L’accord n’a rien de fautif, mais si personne n’a été en désaccord une seule fois en 1 000 décisions, demandez-vous si quelqu’un aurait pu l’être.
- Un seul clic refuse toutes les candidatures sous un seuil.
- Les messages de refus partent automatiquement après un délai, que quelqu’un ait ouvert le dossier ou non.
- Le champ du motif contient la note, ou un texte copié du résultat de l’outil.
- La personne voit le classement, mais ne peut pas ouvrir la candidature.
- Personne ne sait qui a le droit de suspendre l’outil.
Quand une personne candidate demande à parler à quelqu’un
Les principes du CIPVP et de la CODP s’attendent à ce que les institutions publiques disposent d’un mécanisme pour recevoir les contestations sur la façon dont un système d’IA est arrivé à une décision, et pour y répondre. Pour tout employeur, la même idée se traduit concrètement par une personne-ressource nommée, un délai de réponse que vous pouvez tenir et, si l’équipe est assez grande, une deuxième personne qui n’a pas pris la première décision. Ce deuxième examen part de la candidature, pas de la note laissée par la première personne.
Dites à la personne candidate ce qui a été examiné et quel en est le résultat. Si la deuxième personne arrive à une autre conclusion, consignez-le aussi : c’est l’information la plus utile que vous obtiendrez sur votre propre processus.
Notre façon de faire
Dans TalentInitiator, les résultats de l’IA sont enregistrés comme des recommandations, jamais comme des décisions. Faire avancer une candidature, la mettre en attente ou la refuser exige une personne et un motif, et une décision dont le seul fondement déclaré est la recommandation de l’IA est refusée. Notre page sur l’utilisation de l’IA décrit ces contrôles.
Comment lire cet article
Cet article explique les règles de façon générale, telles qu’elles étaient à la date ci-dessus. Il ne constitue pas un avis juridique pour votre organisation.
Sources
- Principes du CIPVP et de la CODP pour une utilisation responsable de l’IA Publié le 21 janvier 2026
- Directive du Conseil du Trésor sur la prise de décisions automatisée
- Loi sur la protection des renseignements personnels dans le secteur privé, art. 12.1 (décisions fondées exclusivement sur un traitement automatisé) En vigueur depuis le 22 septembre 2023Examen juridique en attente