Les preuves générées par l'IA peuvent-elles être utilisées dans les affaires criminelles ? La place des preuves issues de l'IA dans le système pénal turc

Entrée

Grâce aux progrès de l'intelligence artificielle, il est désormais possible de produire rapidement des enregistrements vocaux, des vidéos, des photos, des captures d'écran de messages et des documents qui semblent appartenir à une personne réelle. Ces images et sons réalistes, appelés « deepfakes », peuvent donner l'impression qu'une personne a dit des choses qu'elle n'a jamais dites ou s'est rendue dans un endroit où elle n'est jamais allée.

Ces évolutions soulèvent une question importante en matière de justice pénale : un enregistrement audio, une vidéo, une photographie ou une correspondance générée par l’intelligence artificielle peuvent-ils être utilisés comme preuve dans une affaire criminelle ?

En droit pénal procédural turc, la réponse à cette question ne se limite pas à la possibilité de verser le document ou l'enregistrement au dossier. Le véritable enjeu est le suivant :

• Que le contenu soit vrai ou non,
• Sur quel appareil a-t-il été créé et comment ?
• Qu'il ait été modifié par la suite ou non,
• Qu'elle ait été obtenue légalement ou non,
• Que la source soit vérifiable ou non,
• Elle peut être examinée et discutée par le prévenu et son avocat
• Que cela soit étayé par d'autres preuves

Il se concentre sur ces questions.

Lors de l'évaluation de contenus générés par l'IA, il convient de distinguer entre « recevabilité des preuves » et « preuve de la preuve ». Même si un contenu est versé au dossier, cela ne prouve pas automatiquement son exactitude ni sa pertinence comme fondement d'une condamnation.

Que signifient les preuves générées par l'IA ?

Le concept de « preuve générée par l’IA » peut englober différents types de contenu. Il est donc nécessaire de distinguer au préalable trois catégories distinctes.

1. Contenu entièrement généré artificiellement

À ce groupe ;

• Enregistrements sonores créés en imitant la voix d'une personne,
• Vidéos dans lesquelles le visage d'une personne est superposé à une autre image,
• Captures d'écran de messages montrant une conversation qui n'a jamais eu lieu
• Images de signatures ou de documents générées par l'IA,
• Des photos qui n'ont jamais été prises,
• Images truquées montrant une personne à un endroit précis

Il entre.

Un tel contenu ne saurait constituer une preuve fiable établissant directement un fait allégué. À moins que son authenticité ne puisse être techniquement vérifiée, une condamnation ne devrait pas reposer uniquement sur son apparence.

2. Traitement des preuves réelles par l'intelligence artificielle

Dans certains cas, l'intelligence artificielle est utilisée non pas pour générer un son ou une image existants, mais pour les analyser ou les améliorer. Par exemple :

• Agrandir l'image de la caméra,
• Réduction du bruit de fond dans l'enregistrement audio,
• Transcrire un long discours par écrit,
• Classification des personnes ou des véhicules sur l'image,
• Réaliser une analyse de ressemblance faciale ou vocale,
• Établir des liens entre les données numériques

L'intelligence artificielle peut être utilisée à cette fin.

Ici, le résultat généré par l'intelligence artificielle ne remplace pas les preuves originales. Ces preuves originales sont l'enregistrement audio, l'image, l'appareil ou les données numériques d'origine. Le résultat de l'IA constitue une étude secondaire ou dérivée qui contribue à l'examen de ces preuves.

En particulier lors des opérations d'agrandissement et d'amélioration de la netteté d'images réalisées par intelligence artificielle générative, il convient de tenir compte du risque que le système crée des détails absents de l'enregistrement original en les estimant. Par conséquent, la simple présentation de l'« image améliorée » au tribunal est insuffisante. L'enregistrement original doit également être versé au dossier, et les opérations effectuées doivent être expliquées.

3. Analyses et rapports générés par l'intelligence artificielle

Les réponses obtenues en téléchargeant des documents de l'affaire dans un système d'intelligence artificielle et en posant des questions telles que « L'accusé est-il coupable ? », « À qui appartient cette voix ? » ou « Quelle est la probabilité que cette personne soit sur l'image ? » ne peuvent pas être considérées comme un rapport d'expert à elles seules.

Le système du Code de procédure pénale relatif aux témoignages d'experts stipule que les expertises doivent être réalisées dans les affaires nécessitant des connaissances spécialisées ou techniques. L'identité de l'expert, son expertise, les méthodes utilisées, les éléments d'examen et les conclusions auxquelles il parvient doivent être vérifiables. Une réponse non expliquée ou non vérifiable fournie par un système d'intelligence artificielle ne saurait se substituer à un rapport d'expertise dûment établi.

Il est toutefois possible pour l'expert d'utiliser l'intelligence artificielle comme outil technique. Dans ce cas, le système, les méthodes et les données utilisés doivent être divulgués ; l'expert doit vérifier les résultats par sa propre évaluation professionnelle et assumer la responsabilité du rapport qu'il rédige.

Exigences fondamentales en matière de preuve dans la procédure pénale turque

Le système de procédure pénale turc adopte généralement un système de preuve libre. Cependant, cette liberté n'est pas illimitée.

Conformément au sixième alinéa de l'article 38 de la Constitution, les éléments de preuve obtenus illégalement ne peuvent être admis. L'article 206 du Code de procédure pénale dispose que les preuves obtenues illégalement sont irrecevables, et l'article 217 du même code précise que l'infraction alléguée ne peut être prouvée qu'au moyen de preuves licites. Le juge ne peut fonder sa décision que sur les éléments de preuve présentés à l'audience et examinés en présence des parties.

Ces dispositions ont les implications suivantes pour les preuves relatives à l'intelligence artificielle :

1. Le mode d'obtention du contenu doit être licite.
2. La source des preuves doit être identifiable.
3. Il convient de vérifier que le contenu n'a pas été altéré ni falsifié.
4. L’accusé et son avocat doivent pouvoir examiner les preuves.
5. Les objections relatives à la fiabilité technique des preuves doivent faire l'objet d'une enquête.
6. Les preuves doivent être examinées par le tribunal.
7. Le tribunal doit expliquer dans sa décision motivée les raisons pour lesquelles il a accordé foi aux preuves.

Le fait qu'un enregistrement ait été obtenu légalement ne garantit pas son authenticité. De même, un enregistrement authentique peut avoir été obtenu illégalement. Par conséquent, la légalité, l'authenticité et la fiabilité doivent être examinées séparément.

Le contenu généré par l'IA peut-il être utilisé comme preuve dans les affaires criminelles ?

Il n'est pas possible de répondre à cette question par un simple « oui » ou « non ».

Si cela est présenté comme preuve d'un événement réel

Si un enregistrement audio, une image ou un message entièrement généré par une intelligence artificielle est utilisé pour prouver un événement réel, l'authenticité du contenu doit faire l'objet d'une enquête rigoureuse.

Par exemple, si un enregistrement audio censé montrer un accusé demandant un pot-de-vin a été créé à l'aide d'une intelligence artificielle, cet enregistrement ne prouve pas que l'accusé a réellement tenu ces propos. L'authenticité de la voix dépend de…

• Dispositif d'enregistrement d'origine,
• La date de création du fichier,
• Informations métadonnées,
• Format d'enregistrement,
• La valeur de hachage du fichier,
• L'historique des journaux de l'appareil,
• Comparatif audio,
• Enregistrements de communication et de localisation,
• Témoignages,
• Autres preuves matérielles liées à l'incident

Il faut approfondir l'enquête.

Un contenu présenté uniquement sous forme de capture d'écran ou de fichier copié, dont la source ne peut être expliquée, ne doit pas être utilisé comme preuve unique et concluante à l'appui d'une condamnation.

Si le contenu artificiel fait l'objet d'un autre crime

Le contenu généré par l'IA, même s'il ne constitue pas une preuve directe de l'événement qu'il représente, peut être considéré comme une preuve directe d'un autre crime.

Par exemple, si une fausse image obscène créée à partir du visage d'une personne est envoyée à des fins de chantage, cette image ne prouve pas que la victime a réellement commis l'acte. Cependant, la fausse image ;

• Chantage,
• Menaçant,
• Fraude,
• Violation de la vie privée,
• Diffusion illicite de données personnelles,
• Insulte

Cela peut constituer une preuve matérielle relative à leurs crimes.

Ici, l'important n'est pas de savoir si le faux contenu est « réel ou non », mais qui l'a créé, dans quel but et comment il est utilisé.

Une condamnation peut-elle reposer uniquement sur les résultats de l'intelligence artificielle ?

En matière pénale, la condamnation exige que la culpabilité de l'accusé soit prouvée hors de tout doute raisonnable au moyen de preuves concluantes et convaincantes. La jurisprudence de la Cour suprême établit également que des données douteuses, non vérifiées ou spéculatives sont insuffisantes pour obtenir une condamnation.

Parce que;

• Analyse de la criminalité générée par l'intelligence artificielle,
• Résultat de la correspondance faciale automatique,
• Le taux de similarité vocale généré par l'intelligence artificielle,
• L'interprétation d'un fichier par un modèle de langage,
• Résumé d'événement généré par l'IA

Cela ne devrait pas, à lui seul, constituer un motif suffisant de condamnation.

Ces résultats peuvent servir à orienter l'enquête ou à mettre au jour de nouveaux éléments de preuve. Toutefois, leurs conclusions doivent être vérifiées par un examen technique indépendant et étayées par d'autres preuves.

Par exemple, si un système de reconnaissance faciale suggère qu'une personne figurant sur une image de caméra est la même personne, cette conclusion ne doit être prise en compte qu'en conjonction avec l'enregistrement vidéo original, la qualité de l'image, les caractéristiques distinctives de la personne, d'autres preuves recueillies sur les lieux et un examen par un expert.

Comment vérifier l'intégrité des preuves numériques ?

Dans les affaires impliquant des allégations de manipulation à l'aide de l'intelligence artificielle, l'un des aspects les plus importants des preuves numériques est l'intégrité de ces preuves.

Lors de l'examen de documents numériques, autant que possible ;

• L'appareil d'origine doit être conservé
• Une copie numérique médico-légale de l'appareil doit être réalisée
• Les données originales ne doivent pas être traitées directement
• Il convient de déterminer les valeurs de hachage du fichier original et de la copie de révision
• Les personnes qui reçoivent et examinent les preuves doivent être identifiées
• Il convient d'examiner les dates de création et de modification du fichier
• Les métadonnées et les enregistrements système doivent être préservés
• Le programme d'enquête et la méthode utilisée doivent être expliqués
• Toute action entreprise doit être signalée.

Dans les décisions de la Cour constitutionnelle relatives aux documents numériques, il est important de constituer une image du document, de consigner le processus d'examen et de préserver les données numériques de manière vérifiable. L'examen technique des fichiers audio, afin de déterminer s'il y a eu suppressions, ajouts, altérations ou manipulations, est également crucial pour la fiabilité des preuves.

Dans la plupart des cas, une simple capture d'écran WhatsApp, une copie d'un fichier audio ou une vidéo téléchargée depuis les réseaux sociaux ne suffit pas. Si possible, il convient également d'examiner l'appareil où se trouve le contenu, l'activité du compte, la base de données des messages, les sauvegardes, les informations du serveur et l'historique des communications.

Examen d'experts concernant les allégations de manipulation par intelligence artificielle

S’il est allégué qu’un fichier audio ou une image a été créé ou modifié par une intelligence artificielle, le simple fait d’envoyer le fichier à un expert informatique généraliste ne suffit pas toujours.

Selon la nature de l'enquête ;

• Criminalistique numérique,
• Analyse sonore,
• Analyse d'images,
• Phonétique,
• Comparaison des visages,
• Analyse des médias numériques,
• Examen des documents

Les rapports doivent être obtenus auprès d'experts dans leurs domaines respectifs.

Une simple conclusion comme « il y a eu manipulation » ou « il n'y a pas eu manipulation » ne saurait être considérée comme suffisante dans un rapport d'expertise. Ce rapport doit comprendre :

1. Quels matériaux ont été examinés ?
2. Que le fichier original existe ou non,
3. Quelle est la valeur de hachage du fichier ?
4. Quels programmes et méthodes ont été utilisés ?
5. Que le fichier contienne des interruptions, des fusions ou des réencodages,
6. Des résultats techniques qui indiquent la possibilité d'une production artificielle,
7. Les limites de l'étude,
8. Si aucune conclusion définitive ne peut être tirée, quelles en sont les raisons ?

Il faudrait l'expliquer.

L’accusé et son avocat doivent avoir la possibilité de contester efficacement non seulement les conclusions du rapport d’expertise, mais aussi les données et les méthodes techniques utilisées lors de l’enquête. À défaut, les principes du contradictoire et de l’égalité des armes pourraient être bafoués.

Responsabilité pénale pour la fabrication de preuves à l'aide de l'intelligence artificielle

Bien que le Code pénal turc ne définisse pas la « production de faux témoignages au moyen d'intelligence artificielle » comme un crime distinct et général, différentes infractions peuvent être constatées en fonction des caractéristiques de l'acte.

Crime de diffamation

La génération de fichiers audio, vidéo ou de documents utilisant l'intelligence artificielle pour présenter faussement une personne comme ayant commis un acte qu'elle sait ne pas avoir commis, dans le but de déclencher une enquête ou d'imposer des sanctions, peut être considérée comme un crime de diffamation tel que défini à l'article 267 du Code pénal turc.

La diffamation, lorsqu'elle consiste à fabriquer de faux éléments de preuve, peut entraîner des sanctions plus sévères. Par conséquent, la création d'un faux enregistrement vidéo ou audio dans le but de faire croire qu'une personne a commis un crime constitue non seulement une violation de la déontologie, mais aussi un acte passible de poursuites pénales.

fabriquer un crime

Le fait de signaler aux autorités un crime connu comme s'il avait été commis, ou de fabriquer des preuves et des indices d'un crime qui ne s'est pas produit de manière à déclencher une enquête, peut être considéré comme la fabrication d'un crime tel que défini dans l'article 271 du Code pénal turc.

Si l'accusation vise une personne en particulier, les dispositions relatives à la diffamation peuvent s'appliquer ; toutefois, si un crime qui n'a pas réellement eu lieu est présenté comme s'il avait eu lieu, sans cibler une personne en particulier, les dispositions relatives à la fabrication d'un crime peuvent s'appliquer.

Détruire, dissimuler ou altérer les preuves d'un crime

L'altération d'un son réel, d'une image ou de données numériques à l'aide de l'intelligence artificielle, et ce dans l'intention d'empêcher que la vérité ne soit révélée, peut être considérée, selon les circonstances spécifiques de l'affaire, comme relevant de l'article 281 du Code pénal turc, qui concerne le crime de destruction, de dissimulation ou d'altération de preuves.

Par exemple, le fait de supprimer une personne des images de la caméra d'une manière qui favorise l'auteur des faits, de modifier certaines parties d'une conversation ou d'ajouter des images qui présentent un récit différent de l'événement peuvent tous être examinés dans ce cadre.

falsification de documents

Si l'intelligence artificielle est utilisée pour créer des contrats, des reçus, des procès-verbaux, des rapports médicaux, des relevés bancaires ou des documents officiels falsifiés, des délits de faux en écriture publique ou de faux en écriture privée peuvent survenir, selon la nature du document.

L'article 207 du Code pénal turc érige en infraction la création de faux documents privés, la modification trompeuse de documents privés authentiques et l'utilisation de tels faux documents.

Cependant, toutes les images générées par l'IA ne sont pas automatiquement considérées comme des « documents ». Pour qu'il y ait délit de faux, le contenu doit légalement être qualifié de document et présenter un potentiel de tromperie.

Comment la défense doit-elle formuler une objection ?

Lorsqu'une preuve présentée contre un accusé est soupçonnée d'avoir été créée ou modifiée à l'aide d'une intelligence artificielle, une simple objection générale telle que « cet enregistrement est falsifié » ne devrait pas suffire.

Plus précisément, la défense a déclaré :

• Nous demandons que les preuves originales soient produites
• Examiner le dispositif contenant le contenu,
• La soumission de copies médico-légales et de valeurs de hachage au fichier,
• Il convient d'expliquer qui a obtenu les preuves et quand
• En examinant les métadonnées,
• Nous demandons que les enregistrements de communication et du serveur soient obtenus
• Effectuer des ajouts, des suppressions et des fusions de commentaires sur des fichiers audio ou vidéo,
• Nommer un expert en intelligence artificielle ou en analyse de deepfakes,
• Il convient de fournir à la défense les données brutes qui serviront de base à l'expertise
• Prévoir le temps de soumettre des avis d'experts indépendants,
• Une enquête sera menée afin de déterminer si le contenu est corroboré par d'autres preuves matérielles

devrait exiger.

Il convient de soutenir que des preuves ne peuvent servir de fondement à une condamnation si leur source ne peut être expliquée, si le fichier original est manquant, si seule une capture d'écran est présentée, si le processus d'examen n'est pas consigné ou si le rapport d'expertise ne peut être vérifié.

Conclusion

En droit pénal turc, les preuves relatives à l'intelligence artificielle ne sont ni systématiquement interdites ni systématiquement admises. Chaque élément de preuve doit être évalué au cas par cas, en fonction des spécificités de l'affaire.

La distinction fondamentale est toutefois claire :

• Un contenu artificiel généré entièrement par une IA ne peut pas, à lui seul, prouver que l'événement qu'il représente s'est réellement produit.
• Lorsque des preuves réelles sont traitées par une intelligence artificielle, les données originales restent les preuves principales.
• Un résultat généré par une IA ne peut à lui seul être considéré comme un rapport d'expert.
• Un contenu dont la source ne peut être vérifiée et qui n'est pas techniquement vérifiable ne doit pas être utilisé comme preuve unique ou concluante de condamnation.
• Si un contenu artificiel a été utilisé dans la commission d'un autre crime, ce contenu lui-même peut constituer une preuve matérielle de ce crime.
• La production de faux témoignages ou l'altération de preuves authentiques peuvent constituer des délits tels que la diffamation, la fabrication de preuves, la falsification de preuves et le faux.

Dans le cadre d'une procédure pénale, ce qui importe n'est pas le réalisme apparent du contenu, mais sa vérification scientifique et juridique. À l'ère de l'intelligence artificielle, les tribunaux doivent prendre en compte non seulement ce qu'ils voient ou entendent, mais aussi sa source, son processus de création, son intégrité technique et sa cohérence avec les autres éléments de preuve.

Autrement, une contrefaçon techniquement réussie pourrait se substituer à la vérité matérielle. Cela porterait gravement atteinte à la présomption d'innocence, au droit à la défense et à la crédibilité de la justice pénale.