L’intelligence artificielle contre les étrangers : l’office du juge administratif face aux décisions algorithmiques
Par Maître Hassan KOHEN, avocat au barreau de Paris
Le déploiement des systèmes d’intelligence artificielle dans le contentieux du droit des étrangers constitue l’un des bouleversements les plus profonds et les moins documentés du droit administratif contemporain. De l’agent conversationnel douanier iBorderCtrl au programme Astrée du ministère de l’Intérieur, en passant par les algorithmes de ciblage des mariages suspects du Home Office britannique, les personnes étrangères sont devenues le terrain d’expérimentation privilégié des technologies de contrôle automatisé. Face à cette « algorithmisation » de l’administration des étrangers, le juge administratif français dispose d’outils encore embryonnaires, dont l’efficacité dépendra de sa capacité à imposer une transparence algorithmique effective et un contrôle de proportionnalité rigoureux.
I. L’irruption des systèmes d’intelligence artificielle dans le droit des étrangers : un laboratoire du contrôle sécuritaire
A. Les déploiements de l’IA aux frontières et dans l’administration des étrangers
Les personnes étrangères ont constitué, en France, l’un des premiers publics pour lequel la dématérialisation des démarches administratives a été mise en œuvre de manière radicale. Le Défenseur des droits relevait dès 2019 que cette dématérialisation s’était opérée « de manière radicale et aveugle », alors même que ces personnes se trouvent, la plupart du temps, dans des situations où elles cumulent les difficultés. Le Conseil d’État a d’ailleurs exigé, par une décision du 3 juin 2022, que l’administration rétablisse un accueil physique parallèlement au téléservice pour les demandes de titre de séjour, eu égard au caractère « complexe » et « sensible » de cette démarche (CE, 3 juin 2022, n° 452798).
Cette dynamique de numérisation s’est rapidement étendue au déploiement de systèmes d’intelligence artificielle à des fins de contrôle et de surveillance. À l’échelle européenne, le projet iBorderCtrl, financé par l’Union européenne depuis 2016, a expérimenté un détecteur de mensonges fondé sur l’interprétation des micro-expressions faciales par une IA. Un douanier virtuel devait poser des questions et identifier les signaux non verbaux d’un mensonge, orientant le voyageur soit vers les files rapides, soit vers des contrôles approfondis. Testé aux frontières terrestres de la Hongrie, de la Lettonie et de la Grèce, ce système a été crédité d’un taux de réussite d’environ 75 %, ce qui revenait à considérer qu’un quart des personnes concernées étaient soupçonnées de mentir sans l’être (Gabrielle du Boucher, « Les algorithmes et l’intelligence artificielle contre les étrangers en Europe », Plein droit n° 140, mars 2024).
En Italie, le système de reconnaissance faciale SARI (Sistema Automatico di Riconoscimento Immagini) a été déployé en temps réel pour identifier sur la voie publique les étrangers en situation irrégulière. Son utilisation a été interdite en 2021 par l’autorité italienne de protection des données, qui a relevé le caractère disproportionné de l’atteinte aux libertés fondamentales. Au Royaume-Uni, le Home Office a été mis en cause en 2023 pour son utilisation d’un algorithme de détection des mariages simulés impliquant une personne non britannique. L’évaluation des couples se fondait sur huit facteurs, dont la différence d’âge. Les personnes de nationalités bulgare, grecque, roumaine et albanaise étaient statistiquement plus susceptibles d’être identifiées par l’algorithme, révélant un biais indirectement discriminatoire fondé sur la nationalité.
En France, le programme Astrée, développé par le ministère de l’Intérieur, illustre ce mouvement. Conçu pour assister l’administration dans l’examen des demandes de titres de séjour, il constitue, selon une tribune publiée dans Le Monde, la « phase émergée » d’un recours croissant à l’intelligence artificielle dans le traitement des procédures d’immigration. Un fonctionnaire du ministère de l’Intérieur a d’ailleurs utilisé, de sa propre initiative, un outil d’IA générative pour examiner une demande de visa déposée par une jeune femme afghane se trouvant en Iran, comme l’a révélé Le Canard enchaîné dans son édition du 4 octobre 2023.
B. L’AI Act et la qualification « haut risque » des systèmes d’IA migratoires
Le règlement européen sur l’intelligence artificielle (AI Act), publié au Journal officiel de l’Union européenne le 12 juillet 2024, constitue une réponse normative à ces déploiements. Entré progressivement en application depuis le 1er août 2024, il deviendra pleinement applicable le 2 août 2026 pour les systèmes d’IA à haut risque relevant de son annexe III, qui inclut expressément les domaines de « l’immigration et de l’administration de la justice » (CNIL, « Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL », 12 juillet 2024).
L’AI Act adopte une approche par les risques. Sont interdits les systèmes d’IA présentant un risque inacceptable, tel le score social. Sont soumis à des exigences renforcées les systèmes à haut risque, définis comme ceux pouvant porter atteinte à la sécurité des personnes ou à leurs droits fondamentaux. Parmi ces systèmes figurent « les systèmes d’IA destinés à être utilisés par les autorités publiques compétentes pour les assister dans l’examen des demandes d’asile, de visa et de permis de séjour ainsi que les réclamations connexes, dans le but de vérifier l’éligibilité des personnes physiques qui demandent un statut, y compris pour évaluer la fiabilité des preuves » (Règlement (UE) 2024/1689, annexe III).
Cette classification emporte des obligations substantielles pour les fournisseurs et les déployeurs : système de gestion des risques, contrôle de la qualité des données, transparence et information des utilisateurs, surveillance humaine, garanties de précision et de robustesse. Le Défenseur des droits, dans ses interventions répétées au cours de l’élaboration du texte, a obtenu que toute personne physique puisse déposer une plainte auprès de l’autorité nationale chargée de l’application du règlement. En revanche, de larges exceptions ont été maintenues concernant l’utilisation de systèmes biométriques d’identification en temps réel dans l’espace public, ce qui exigera une vigilance particulière au moment du déploiement de ces systèmes pour le contrôle des étrangers.
Il convient de relever que la CNIL, dans ses recommandations relatives au développement des systèmes d’IA, a rappelé que le règlement IA ne remplace pas les exigences du RGPD mais les complète. L’analyse d’impact sur la protection des données (AIPD) prévue par le RGPD pourra utilement se nourrir des documentations exigées par l’AI Act. Pour les déployeurs publics de systèmes d’IA à haut risque, l’article 27 du règlement IA impose en outre une analyse d’impact sur les droits fondamentaux, qui pourra être rassemblée avec l’AIPD sous la forme d’un document unique.
II. L’office du juge administratif face au défi algorithmique
A. La motivation des décisions prises sur fondement algorithmique : le cadre légal et ses lacunes
Le code des relations entre le public et l’administration (CRPA) pose, à son article L. 211-2, le principe selon lequel « les personnes physiques ou morales ont le droit d’être informées sans délai des motifs des décisions administratives individuelles défavorables qui les concernent ». L’article L. 211-5 précise que « la motivation exigée par le présent chapitre doit être écrite et comporter l’énoncé des considérations de droit et de fait qui constituent le fondement de la décision ».
Ces dispositions, constamment rappelées par le juge administratif, constituent la première ligne de défense contre les décisions stéréotypées. La cour administrative d’appel de Marseille a ainsi jugé, par un arrêt du 2 juillet 2024, qu’un arrêté préfectoral dont le requérant soutenait « que la motivation stéréotypée visée dans l’arrêté du 31 mai 2022 était suffisante et justifiait de l’examen particulier porté à sa situation » ne satisfaisait pas aux exigences de motivation lorsque cette motivation se bornait à reproduire des formules types sans examen personnalisé (CAA Marseille, 2 juillet 2024, n° 23MA02600).
Toutefois, le cadre légal de la motivation classique atteint ses limites lorsqu’il est confronté à une décision fondée sur un traitement algorithmique. L’article L. 311-3-1 du CRPA, issu de la loi du 7 octobre 2016 pour une République numérique, dispose que « sous réserve de l’application du 2° de l’article L. 311-5, une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande ».
Le Conseil d’État, par une décision du 24 juillet 2023 (CE, 10e-9e ch. réunies, n° 462778), a précisé la portée de ces dispositions. Il a jugé que « d’une part, il résulte des termes mêmes de ces dispositions qu’elles ne s’appliquent que lorsqu’un traitement algorithmique a fondé, en tout ou partie, une décision individuelle » et « d’autre part, et en tout état de cause, il résulte également des termes de ces dispositions qu’elles ne permettent pas la communication des documents administratifs relevant de l’une des exceptions mentionnées au 2° de l’article L. 311-5 du code des relations entre le public et l’administration ». Le Conseil d’État a cependant admis que la communication d’un algorithme de sélection aléatoire ne portant pas atteinte à la recherche d’infractions devait être ordonnée.
Appliqué au droit des étrangers, ce cadre révèle ses faiblesses. D’abord, le déclencheur de l’obligation — que la décision soit « fondée sur » un traitement algorithmique — suppose que l’intéressé ait connaissance de l’existence de ce traitement, ce qui est rarement le cas. Ensuite, l’exception du 2° de l’article L. 311-5, qui protège la recherche et la prévention d’infractions, pourrait être invoquée par l’administration pour refuser la communication des algorithmes utilisés dans le contrôle des étrangers. Enfin, l’article L. 311-3-1 ne prévoit aucun mécanisme de sanction spécifique en cas de méconnaissance de l’obligation de mention explicite.
B. Le contrôle du juge administratif : entre exigence de transparence et protection des droits fondamentaux
La jurisprudence administrative révèle une tension entre le contrôle formel de la motivation et le contrôle substantiel de l’examen particulier. La cour administrative d’appel de Lyon a jugé, par un arrêt du 19 septembre 2024, qu’un refus de titre de séjour est entaché « d’une insuffisance de motivation, d’une absence d’examen complet et suffisant de sa situation et d’une erreur de droit quant à cet examen faute d’avoir étudié sa demande » (CAA Lyon, 19 septembre 2024, n° 23LY00679). La cour a ainsi consacré un lien direct entre l’insuffisance de motivation et le défaut d’examen particulier, sanctionnant le caractère stéréotypé de la décision comme révélateur de l’absence d’individualisation du traitement administratif.
La cour administrative d’appel de Versailles a retenu la même solution dans un arrêt du 18 octobre 2024, jugeant qu’une décision de refus de titre de séjour était « insuffisamment motivée » et que la situation du requérant « n’a pas fait l’objet d’un examen particulier », dès lors que le préfet n’avait pas pris en compte sa situation familiale, son insertion professionnelle ni la situation de ses deux enfants mineurs (CAA Versailles, 18 octobre 2024, n° 23VE01829).
Le juge administratif dispose de plusieurs garde-fous procéduraux pour contrôler les décisions fondées sur des traitements algorithmiques. Le premier réside dans le contrôle de l’erreur manifeste d’appréciation, qui impose à l’administration de démontrer qu’elle a procédé à un examen individuel et non à une application mécanique d’un algorithme. La cour administrative d’appel de Nantes, dans un arrêt du 6 décembre 2024 rendu en formation de chambres réunies, a relevé que « les circonstances que l’arrêté mentionne un avis défavorable du médecin de l’OFII sont sans incidence sur la suffisance de la motivation dès lors que la décision comporte les considérations de droit et de fait sur lesquelles elle se fonde » (CAA Nantes, 6 décembre 2024, n° 24NT00335).
Le second garde-fou réside dans le contrôle de proportionnalité opéré au regard de l’article 8 de la Convention européenne de sauvegarde des droits de l’homme et des libertés fondamentales, qui garantit le droit au respect de la vie privée et familiale. La cour administrative d’appel de Marseille a ainsi annulé un refus de titre de séjour en relevant l’absence de vérification, par le préfet, des droits au séjour de l’étranger « compte tenu notamment de la durée de sa présence sur le territoire français, de la nature et de l’ancienneté de ses liens avec la France et des considérations humanitaires pouvant justifier un droit au séjour, une telle vérification constituant une garantie pour l’étranger » (CAA Marseille, 9 janvier 2025, n° 25MA00764).
Pour autant, ces outils classiques du contrôle juridictionnel ne suffisent pas à appréhender la spécificité du traitement algorithmique. Le juge administratif ne peut évaluer la légalité d’une décision fondée sur un algorithme sans accéder aux paramètres de cet algorithme, à ses données d’entraînement et à ses biais potentiels. Or, le cadre procédural actuel ne lui confère pas de pouvoir d’investigation spécifique en la matière, au-delà des pouvoirs généraux d’instruction prévus par le code de justice administrative.
La question se pose avec une acuité particulière dans le contentieux du droit des étrangers, où les décisions administratives sont produites en masse, selon des logiques de traitement standardisé qui peuvent, de facto, s’apparenter à un traitement algorithmique sans en assumer la qualification juridique. La jurisprudence de la cour administrative d’appel de Paris rappelle régulièrement que « l’autorité administrative n’est pas tenue de préciser tous les éléments de la situation d’un ressortissant étranger en l’absence d’obligation en ce sens » (CAA Paris, 24 avril 2024, n° 23PA05155). Cette réserve, légitime dans le cadre d’une motivation classique, devient problématique lorsqu’elle est invoquée pour justifier une décision dont l’administration refuse de révéler si elle a été assistée ou déterminée par un algorithme.
L’entrée en application complète de l’AI Act le 2 août 2026 marquera un tournant. Les obligations de transparence, de documentation technique et de surveillance humaine qu’il impose aux déployeurs de systèmes d’IA à haut risque dans le domaine de l’immigration fourniront au juge administratif de nouveaux points d’appui pour son contrôle. L’article 27 du règlement, qui impose aux déployeurs publics une analyse d’impact sur les droits fondamentaux, pourrait notamment fonder un moyen tiré du défaut d’une telle analyse, permettant au juge d’exiger la production des documents ayant servi à l’élaboration de la décision contestée.
Conclusion
Le déploiement des systèmes d’intelligence artificielle dans le droit des étrangers n’est pas une perspective lointaine : il est déjà à l’œuvre, des frontières extérieures de l’Union européenne aux guichets préfectoraux français. Le juge administratif dispose d’ores et déjà d’outils — motivation, examen particulier, proportionnalité — qui lui permettent de sanctionner les décisions stéréotypées. Mais ces outils, conçus pour un contentieux de la décision humaine, atteignent leurs limites face à l’opacité des traitements algorithmiques.
L’effectivité du contrôle juridictionnel dépendra de la capacité du juge à mobiliser les nouvelles exigences de l’AI Act — transparence, documentation, surveillance humaine — pour exiger de l’administration qu’elle révèle, dans chaque décision individuelle défavorable, si un algorithme en a fondé le sens. La mention explicite prévue par l’article L. 311-3-1 du CRPA, combinée aux obligations de l’AI Act, pourrait ainsi devenir un instrument puissant au service du justiciable étranger, pour peu que le juge administratif en impose le respect avec la même vigueur qu’il sanctionne aujourd’hui le défaut d’examen particulier.
Il ne s’agit pas de refuser le progrès technologique, mais d’exiger que les garanties fondamentales du droit au recours et du droit à une bonne administration ne soient pas dissoutes dans l’automatisation. L’office du juge administratif, garant de la légalité et des libertés, est à ce prix.
Maître Hassan KOHEN, avocat au barreau de Paris, intervient en droit des étrangers devant les juridictions administratives, notamment pour contester les refus de titre de séjour, les obligations de quitter le territoire français et les arrêtés d’expulsion.
Pour toute consultation, vous pouvez joindre le cabinet :
Sources et références :
- Conseil d’État, 10e-9e chambres réunies, 24 juillet 2023, n° 462778, ECLI:FR:CECHR:2023:462778.20230724 — legifrance.gouv.fr
- Article L. 311-3-1 du code des relations entre le public et l’administration — legifrance.gouv.fr
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (AI Act) — eur-lex.europa.eu
- CNIL, « Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL », 12 juillet 2024 — cnil.fr
- Gabrielle du Boucher, « Les algorithmes et l’intelligence artificielle contre les étrangers en Europe », Plein droit n° 140, mars 2024, GISTI — gisti.org
- CAA Marseille, 4e chambre, 2 juillet 2024, n° 23MA02600 — legifrance.gouv.fr
- CAA Lyon, 7e chambre, 19 septembre 2024, n° 23LY00679 — legifrance.gouv.fr
- CAA Versailles, 4e chambre, 18 octobre 2024, n° 23VE01829 — legifrance.gouv.fr
- CAA Nantes, 4e+1ère+3e chambres réunies, 6 décembre 2024, n° 24NT00335 — legifrance.gouv.fr
- CAA Marseille, 5e chambre, 9 janvier 2025, n° 25MA00764 — legifrance.gouv.fr
- CAA Paris, 7e chambre, 24 avril 2024, n° 23PA05155 — legifrance.gouv.fr
- CE, 3 juin 2022, n° 452798 (dématérialisation des demandes de titres de séjour)
- Considérant 28 et article 15 du RGPD (décision entièrement automatisée) — Règlement (UE) 2016/679
- Article L. 211-2 du code des relations entre le public et l’administration (motivation obligatoire)
- Article L. 211-5 du CRPA (contenu de la motivation)
- Article L. 114-1 et suivants du CRPA (transparence administrative)