Cabinet Kohen Avocats · Paris 16ᵉ
L’usage des algorithmes et de l’intelligence artificielle dans la justice pénale : enjeux et limites

Maître Hassan KOHEN intervient en urgence, du commissariat à la cour d'assises. Première analyse stratégique : 80 € TTC, réponse personnelle sous 24 heures.

100 % confidentiel · Secret professionnel · Sans engagement

Article généré par une intelligence artificielle, selon un processus conçu et contrôlé par le cabinet

Source : Cour de cassation – Base Open Data « Judilibre » & « Légifrance ».

Barreau de Paris Garde à vue, instruction, assises Fiche CNB avocat.fr
Maître Hassan Kohen, avocat pénaliste à Paris
Maître Hassan KOHEN
Avocat au Barreau de Paris

L’usage des algorithmes et de l’intelligence artificielle dans la justice pénale : enjeux et limites

Parler à un avocat 06 89 11 34 45

I. Les outils d’aide à la décision face aux exigences de la procédure pénale

A. La transparence des algorithmes et le droit à l’information des parties

L’intégration d’outils algorithmiques dans le processus judiciaire, qu’il s’agisse de gestion des flux, d’aide à la rédaction ou de support à l’évaluation des risques, soulève des questions fondamentales sur la transparence. En droit administratif, la jurisprudence rappelle que une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Ce principe de transparence doit impérativement trouver son équivalent en procédure pénale pour garantir le respect des droits de la défense. Le mis en cause doit pouvoir comprendre les critères qui influencent les décisions le concernant, qu’il s’agisse de mesures de sûreté ou d’évaluations de personnalité. Cette nécessité de transparence s’inscrit directement dans le cadre des principes directeurs de la procédure pénale, notamment le droit à l’information de la personne poursuivie dès le stade de l’enquête préliminaire ou de l’enquête de flagrance. L’article 63-1 du code de procédure pénale impose par exemple, dès le placement en garde à vue, la notification immédiate des droits fondamentaux : le droit de faire prévenir un proche, le droit d’être examiné par un médecin, le droit d’être assisté par un avocat dès la première heure, et le droit de connaître la qualification, la date et le lieu présumés de l’infraction. Si, au cours de cette mesure privative de liberté dont la durée initiale de vingt-quatre heures peut être prolongée sur autorisation écrite et motivée du procureur de la République, un outil algorithmique de profilage ou d’évaluation de la récidive est utilisé pour orienter la décision du magistrat quant aux suites de la procédure, l’absence d’information sur le fonctionnement de cet outil porterait une atteinte irrémédiable aux droits de la défense.

La loyauté des débats, principe directeur du procès pénal, exige que les parties disposent des mêmes armes. Si un algorithme est utilisé pour préparer un réquisitoire ou pour évaluer la dangerosité d’un prévenu, son fonctionnement, ses données d’entrée et ses règles de calcul doivent être communicables. Une procédure où le juge s’appuierait sur des recommandations opaques, issues d’un « traitement algorithmique » non documenté, serait incompatible avec les garanties procédurales, comme l’illustre la rigueur avec laquelle la Cour de cassation contrôle la procédure de comparution immédiate et le respect des droits de la défense (Crim. 23 juillet 2024, n° 24-82.989). La transparence n’est pas seulement technique ; elle est juridique. L’avocat doit pouvoir contester la logique même de l’outil. Cette contestation s’exerce à travers les mécanismes stricts de la procédure de nullité prévus par le code de procédure pénale. Au stade de l’information judiciaire, l’article 114 du code de procédure pénale garantit à l’avocat le droit d’accéder au dossier de la procédure et d’en demander la copie, laquelle doit lui être délivrée par le greffe dans un délai de quatre jours ouvrables. C’est grâce à cet accès au dossier que la défense peut vérifier si un acte d’enquête a été fondé sur une analyse automatisée. Le cas échéant, l’avocat dispose, en vertu de l’article 170 du code de procédure pénale, de la faculté de saisir la chambre de l’instruction d’une requête en nullité. L’article 173-1 du même code encadre cette action par un délai de forclusion extrêmement rigoureux : la nullité d’un acte doit être soulevée dans un délai de six mois à compter de sa notification ou de la connaissance que la partie en a eue. Devant la juridiction de jugement, telle que le tribunal correctionnel, l’avocat peut soulever ces exceptions de nullité in limine litis, c’est-à-dire impérativement avant toute défense au fond, conformément à l’article 385 du code de procédure pénale. Toute dissimulation des paramètres d’un algorithme par les autorités de poursuite constituerait un grief au sens de l’article 802 du code de procédure pénale, justifiant l’annulation de la procédure dans la mesure où elle empêcherait la défense d’exercer son contrôle contradictoire sur les éléments à charge. De plus, lors d’une procédure de comparution immédiate régie par les articles 395 et suivants du code de procédure pénale, où la peine encourue doit être au moins égale à deux ans d’emprisonnement, ou six mois en cas de délit flagrant, le prévenu est obligatoirement informé par le président du tribunal de son droit de demander un délai pour préparer sa défense. S’il exerce ce droit, le tribunal est tenu de renvoyer l’affaire à une audience ultérieure, comprise dans un délai de deux à six semaines, voire de deux à quatre mois si la peine encourue est supérieure à sept ans. Ce délai de renvoi est la condition sine qua non pour permettre à la défense, face à un dossier potentiellement monté avec l’appui d’outils techniques de traitement de masse des données, de réunir les éléments nécessaires à la contestation de la preuve.

B. Le contrôle judiciaire des outils d’aide à la décision

Le juge pénal reste le seul maître de la décision. Les algorithmes, quelles que soient leurs performances, ne peuvent être que des outils d’aide. Le contrôle judiciaire s’exerce sur la finalité de la décision et sur la validité des preuves. La Cour de cassation veille au respect des procédures, garantissant que chaque étape, y compris celle de la détention provisoire, soit justifiée par des éléments objectifs et contrôlables (Crim. 5 mars 2025, n° 24-87.031). La détention provisoire, mesure privative de liberté par excellence avant tout jugement définitif, est strictement encadrée par les articles 137 à 148-8 du code de procédure pénale. Elle ne peut être ordonnée que par le juge des libertés et de la détention (JLD), juridiction spécialisée créée par la loi du 15 juin 2000, à l’issue d’un débat contradictoire tenu en audience publique, sauf demande expresse de huis clos par la défense. L’avocat doit avoir accès au dossier au moins deux jours ouvrables avant ce débat, afin de préparer ses observations. Pour placer une personne en détention provisoire, le JLD doit motiver sa décision au regard des critères alternatifs et exhaustifs de l’article 144 du code de procédure pénale : conserver les preuves ou les indices matériels, empêcher une pression sur les témoins ou les victimes, prévenir une concertation frauduleuse entre la personne mise en examen et ses coauteurs ou complices, protéger la personne mise en examen, garantir son maintien à la disposition de la justice, mettre fin à l’infraction ou prévenir son renouvellement, ou encore faire cesser un trouble exceptionnel et persistant à l’ordre public provoqué par la gravité de l’infraction (ce dernier critère étant exclusif à la matière criminelle et aux délits punis d’au moins dix ans d’emprisonnement). Aucun algorithme de prédiction de la récidive ne peut se substituer à la motivation en fait et en droit de l’ordonnance du JLD, qui doit démontrer le caractère insuffisant des obligations du contrôle judiciaire (prévues à l’article 138 du CPP) ou de l’assignation à résidence avec surveillance électronique (ARSE, prévue à l’article 142-5 du CPP). Toute ordonnance de placement en détention provisoire peut faire l’objet d’un appel devant la chambre de l’instruction dans un délai de dix jours, et l’avocat peut également utiliser la procédure du référé-liberté (article 148-1-1 du CPP) pour demander au président de la chambre de l’instruction de suspendre l’incarcération si les conditions légales ne sont pas manifestement réunies.

Les outils d’aide à la décision ne doivent jamais préjuger de la décision finale, qui doit être le fruit d’une analyse humaine, souveraine et motivée. L’article 41 du code de procédure pénale impose, dans certains cas, une enquête sociale préalable indispensable à une décision éclairée (Crim. 23 juillet 2024, n° 24-82.989). L’enquête sociale rapide (ESR), souvent confiée au Service pénitentiaire d’insertion et de probation (SPIP) ou à une association habilitée, vise à recueillir des renseignements sur la situation matérielle, familiale et sociale de la personne, ainsi que sur les mesures propres à favoriser son insertion sociale. Elle est obligatoire avant toute réquisition de placement en détention provisoire en matière correctionnelle, ainsi qu’avant tout jugement rendu selon la procédure de comparution immédiate. L’absence d’une telle enquête, ou son remplacement par un traitement automatisé de données administratives qui ne tiendrait pas compte des explications directes de la personne interrogée, entache la procédure d’une nullité substantielle. Le juge ne peut se reposer sur une simple fiche générée par un logiciel ; il a l’obligation de s’assurer que les investigations ont été matériellement accomplies. Le recours à un algorithme pour cette enquête ou pour toute autre phase procédurale ne saurait dispenser le magistrat de son devoir de contrôle effectif des éléments recueillis. La validité d’un procès-verbal ou d’une saisie dépend de la régularité de l’acte et non de la sophistication de l’outil utilisé pour l’accomplir (Crim. 10 février 2026, n° 25-80.975). Ce contrôle doit être concret et porter sur les données utilisées par l’algorithme, leur pertinence et leur fiabilité. Le domaine des perquisitions et saisies, régi par les articles 56 et suivants du code de procédure pénale, illustre parfaitement cette nécessité de contrôle. Une perquisition ne peut légalement commencer avant 6 heures et après 21 heures, sauf exceptions très strictes tenant à la nature de l’infraction (terrorisme, criminalité organisée) et nécessitant l’autorisation préalable et motivée du JLD (article 706-90 du CPP). L’acte doit être réalisé en présence de la personne au domicile de laquelle il a lieu ou, en cas d’impossibilité, en présence de son représentant ou de deux témoins indépendants requis à cet effet par l’officier de police judiciaire (OPJ). Tout objet ou document saisi, même s’il s’agit de supports informatiques traités ultérieurement par des algorithmes d’analyse forensique, doit être inventorié et placé sous scellés, avec la signature de la personne présente. En l’absence de respect de ce formalisme, qui garantit l’intégrité de la preuve, la nullité d’ordre public de la perquisition et de l’ensemble de la procédure subséquente est encourue. La technique algorithmique d’extraction des données d’un téléphone ou d’un ordinateur saisi ne peut pallier une irrégularité dans la procédure initiale de recueil de la preuve. Le magistrat instructeur ou la juridiction de jugement a le devoir absolu de vérifier la conformité des actes de procédure aux exigences du code, la légalité du recueil primant toujours sur la pertinence du résultat obtenu par l’outil technique.

II. Les risques pour les droits de la défense et la loyauté des débats

A. L’atteinte potentielle à l’individualisation de la peine

L’individualisation de la peine est une pierre angulaire du droit pénal français. Le juge doit tenir compte de la personnalité du prévenu, des circonstances de l’infraction et de sa situation personnelle. L’usage d’algorithmes basés sur des statistiques agrégées risque de figer la situation du mis en cause dans une catégorie prédéfinie, au détriment de l’analyse fine de son parcours et de son évolution. Devant le tribunal correctionnel, le prononcé de la peine est une phase distincte de la déclaration de culpabilité, bien qu’elle intervienne lors de la même audience. Le président du tribunal examine le bulletin numéro 1 du casier judiciaire (exclusivement réservé aux magistrats et autorités publiques) ou le bulletin numéro 2, mais s’appuie également sur l’enquête de personnalité prévue à l’article 81 alinéa 6 du code de procédure pénale en matière criminelle, ou sur les éléments de l’instruction et de l’enquête sociale. Pour individualiser la peine, le juge dispose d’un éventail de mesures procédurales permettant de s’éloigner d’une sanction standardisée. L’article 132-60 du code pénal autorise notamment la juridiction à ordonner l’ajournement du prononcé de la peine. Si la culpabilité est reconnue, le tribunal peut différer le prononcé de la sanction pour une durée maximale d’un an, afin de permettre au prévenu de démontrer ses efforts de réinsertion, de s’acquitter de la réparation du dommage causé à la victime, ou de suivre un traitement médical. De plus, le code de procédure pénale impose au juge, lorsqu’il prononce une peine d’emprisonnement ferme inférieure ou égale à un an (ou six mois en cas de récidive), de procéder à son aménagement ab initio à l’audience, conformément à l’article 712-6 du code de procédure pénale. La juridiction de jugement doit examiner la possibilité de convertir cette peine en détention à domicile sous surveillance électronique (DDSE), en semi-liberté ou en placement à l’extérieur, sauf impossibilité matérielle constatée et motivée. L’introduction d’un logiciel de recommandation de peines viendrait percuter de plein fouet ces obligations légales d’examen in concreto. Si un juge se fiait à un calcul statistique pour décider du quantum de la peine ou rejeter un aménagement, il violerait son obligation de motivation spécifique.

La justice pénale n’est pas une science purement prédictive. Une approche algorithmique, en se fondant sur des comportements passés de groupes de populations, pourrait pérenniser des jugements basés sur des profils plutôt que sur des actes individuels. Le respect des droits fondamentaux, tels que garantis par les textes et la jurisprudence, impose de préserver l’espace de liberté du juge pour apprécier, au cas par cas, la juste réponse pénale, loin de toute automaticité programmée. L’individualisation exige une empathie et une compréhension que seule une interaction humaine peut offrir. Cette exigence se poursuit au-delà du prononcé de la peine, lors de son exécution sous le contrôle du Juge de l’application des peines (JAP). Le JAP est la juridiction de première instance chargée de suivre les condamnés et d’ordonner, modifier ou révoquer les mesures d’aménagement de peine. Le processus décisionnel du JAP est encadré par des règles procédurales strictes, reposant sur l’organisation de la commission de l’application des peines (CAP) et de débats contradictoires (article 712-6 et suivants du CPP). Lorsqu’une libération conditionnelle, un bracelet électronique ou un placement à l’extérieur est envisagé, le JAP doit convoquer le condamné, son avocat et le représentant du ministère public pour une audience en chambre du conseil, qui peut se tenir au sein même de l’établissement pénitentiaire. Le condamné doit pouvoir présenter ses bulletins de salaire, ses promesses d’embauche, ses garanties d’hébergement ou ses attestations de suivi médical. Si l’administration pénitentiaire devait utiliser un algorithme de calcul du risque d’évasion ou de récidive pour formuler son avis préalable au JAP, cet outil technique devrait impérativement être soumis au débat contradictoire. Le condamné et son avocat disposent en effet du droit d’attaquer les éléments factuels du dossier et d’exercer des voies de recours. Les ordonnances et jugements rendus par le JAP peuvent être frappés d’appel par le procureur de la République (qui dispose d’un délai de vingt-quatre heures pour former un appel suspensif dans certains cas précis prévus à l’article 712-14 du CPP) ou par le condamné dans un délai de dix jours, devant la chambre de l’application des peines de la cour d’appel. Cette structure procédurale complexe a été conçue précisément pour empêcher l’exécution purement administrative et automatique de la peine, et garantir qu’un magistrat de l’ordre judiciaire évalue à intervalles réguliers la réalité de l’évolution du justiciable.

B. La nécessaire protection contre les biais algorithmiques

Les données qui alimentent les algorithmes peuvent refléter des biais sociétaux. Si les jeux de données utilisés pour entraîner ces modèles sont imprégnés de préjugés, les recommandations générées seront nécessairement biaisées. La justice pénale ne peut admettre que des outils techniques, présentés comme neutres, puissent reproduire des discriminations sous couvert d’objectivité. En droit processuel français, le principe fondamental de la liberté de la preuve est consacré par l’article 427 du code de procédure pénale. Cet article dispose que, hors les cas où la loi en dispose autrement, les infractions peuvent être établies par tout mode de preuve, et le juge décide d’après son intime conviction. Toutefois, ce même article impose une condition d’ordre public : le juge ne peut fonder sa décision que sur des preuves qui lui sont apportées au cours des débats et contradictoirement discutées devant lui. Par conséquent, si un algorithme est utilisé pour extraire, analyser ou structurer des données qui serviront de preuve au procès (par exemple, pour établir la géolocalisation d’un suspect, analyser ses communications chiffrées ou profiler ses relations sociales), le fonctionnement de cet algorithme devient lui-même un élément de preuve soumis à la discussion. Pour garantir cette discussion, le code de procédure pénale prévoit une procédure extrêmement encadrée concernant les expertises techniques, aux articles 156 à 169-1. Lorsqu’une question d’ordre technique se pose, le juge d’instruction ou la juridiction de jugement peut, soit d’office, soit à la demande du ministère public ou des parties, ordonner une expertise. Le juge commet alors un expert choisi, en principe, sur la liste nationale dressée par la Cour de cassation ou sur l’une des listes dressées par les cours d’appel. L’expert, avant d’accomplir sa mission, doit prêter le serment d’apporter son concours à la justice en son honneur et en sa conscience, conformément à l’article 160 du CPP. C’est à travers cette procédure d’expertise que la défense peut exiger l’analyse des algorithmes utilisés par les autorités.

La loyauté des débats exige que la défense puisse contester non seulement la décision elle-même, mais aussi la validité de l’outil utilisé pour la préparer. Toute méfiance vis-à-vis d’un logiciel dont la conception échappe au débat contradictoire doit être prise au sérieux. Comme l’a rappelé le Tribunal judiciaire de Paris dans une affaire technique, la loyauté des débats est un principe qu’aucune pièce ou logiciel ne peut remettre en cause (TJ Paris, 8 février 2024, n° 19/13447). Les juridictions doivent rester vigilantes face à toute technologie qui viendrait opacifier le processus de décision pénale. Une expertise technique indépendante doit pouvoir être demandée par la défense pour vérifier l’absence de biais. Cette faculté est rigoureusement garantie par le code de procédure pénale. En effet, l’article 161-1 du code de procédure pénale prévoit qu’une copie de la décision ordonnant l’expertise est adressée sans délai au procureur de la République et aux avocats des parties. Ces derniers disposent alors d’un délai strict, fixé à dix jours ou à un mois selon les cas, pour demander au magistrat instructeur de modifier ou de compléter les questions posées à l’expert, ou pour solliciter l’adjonction d’un autre expert de leur choix. À l’issue des opérations, l’expert rédige un rapport d’expertise, dont les conclusions doivent être notifiées aux parties par le juge d’instruction (article 167 du CPP). La notification fait courir un nouveau délai impératif (de quinze jours ou un mois) pendant lequel la défense peut formuler des observations ou demander expressément une contre-expertise ou un complément d’expertise. Le refus du juge d’ordonner ces actes doit faire l’objet d’une ordonnance spécialement motivée, susceptible d’appel devant la chambre de l’instruction. En audience devant le tribunal correctionnel ou la cour criminelle départementale, les experts commis peuvent être cités à comparaître comme témoins (articles 436 et suivants du CPP). La défense a le droit de procéder au contre-interrogatoire de l’expert à la barre (cross-examination encadrée par le président du tribunal) pour mettre en évidence les limites de l’outil algorithmique, les biais potentiels de sa base de données d’apprentissage ou la marge d’erreur de son code source. Si l’expert a outrepassé sa mission ou n’a pas respecté le contradictoire lors de ses opérations, son rapport encourt la nullité. La rigueur de cette chaîne procédurale est le seul rempart légal permettant de s’assurer que la technologie est auditée et confrontée à la réalité du terrain judiciaire, neutralisant ainsi les risques d’arbitraire algorithmique.

Conclusion

L’usage des algorithmes et de l’intelligence artificielle dans la justice pénale représente un défi majeur pour les années à venir. Si ces outils peuvent, sous réserve de garanties, faciliter la gestion procédurale, ils ne sauraient en aucun cas se substituer au discernement du juge ni affaiblir les droits de la défense. Le contrôle judiciaire doit rester vigilant pour garantir que la technique demeure au service du droit et non l’inverse. L’exigence de transparence, le respect du contradictoire et le maintien d’une individualisation réelle de la peine demeurent les conditions *sine qua non* de toute innovation procédurale. Aucun accident, aucune intrusion ni aucun dommage constaté par une source officielle n’a été signalé à ce jour concernant l’usage de ces outils dans les dossiers consultés, et seul le juge décide, dans le respect des textes cités et des droits garantis par les décisions susvisées. La justice doit rester humaine, ancrée dans la réalité des faits et des personnes, loin des promesses d’une automatisation qui méconnaîtrait la complexité de l’âme humaine et la singularité de chaque affaire pénale. L’application des règles procédurales impératives constitue le filtre essentiel qui protège le justiciable. Dès qu’un jugement est rendu, qu’il s’agisse d’une peine d’emprisonnement, d’une amende ou d’une relaxe, le droit positif garantit l’accès aux voies de recours, outils fondamentaux de contrôle de l’office du juge. L’article 498 du code de procédure pénale accorde à la personne condamnée, au ministère public, et à la partie civile quant à ses intérêts civils, un délai de dix jours francs à compter du prononcé du jugement contradictoire pour interjeter appel au greffe du tribunal. En cas d’appel d’une partie, l’article 500 du même code octroie un délai supplémentaire de cinq jours aux autres parties pour former un appel incident. L’affaire est alors réexaminée intégralement en fait et en droit par la cour d’appel, composée de trois magistrats du siège. En ultime recours, le pourvoi en cassation, régi par l’article 568 du code de procédure pénale, permet de contester la régularité juridique de l’arrêt d’appel. La déclaration de pourvoi doit être effectuée au greffe de la juridiction qui a rendu la décision attaquée dans le délai extrêmement bref de cinq jours francs. La chambre criminelle de la Cour de cassation, juge du droit, sanctionnera alors toute décision qui serait entachée d’une violation de la loi, d’un manque de base légale ou d’un défaut de motivation, notamment si la juridiction du fond s’était contentée d’entériner le résultat d’un algorithme sans procéder à une analyse personnelle et concrète du dossier. L’intelligence artificielle peut être une alliée si elle est maîtrisée, encadrée et soumise aux principes immuables de notre procédure pénale. Chaque étape de cette intégration doit être soumise à une vigilance permanente, à un débat contradictoire rigoureux et à une obligation de justification de chaque recommandation issue de ces outils. Il en va de la confiance des citoyens dans leur justice.

📄 Circulaire officielle