È possibile utilizzare prove generate dall'intelligenza artificiale nei casi penali? Il ruolo delle prove basate sull'IA nel sistema penale turco

Entrata

Con l'avanzamento delle tecnologie di intelligenza artificiale, è diventato possibile produrre rapidamente registrazioni vocali, video, foto, screenshot di messaggi e documenti che sembrano appartenere a una persona reale. Queste immagini e suoni realistici, noti come "deepfake", possono far sembrare che una persona abbia detto cose che non ha mai detto o che sia stata in un luogo in cui non è mai stata.

Questi sviluppi sollevano un'importante questione nell'ambito della giustizia penale: una registrazione audio, un video, una fotografia o una corrispondenza generati dall'intelligenza artificiale possono essere utilizzati come prove in un procedimento penale?

Nel diritto processuale penale turco, la risposta a questa domanda non si limita a stabilire se il documento o la registrazione possano essere inseriti nel fascicolo. La vera questione è:

• Che il contenuto sia vero o meno,
• Su quale dispositivo è stato creato e come,
• Che sia stato modificato in seguito o meno,
• Che sia stato ottenuto legalmente o meno,
• Indipendentemente dal fatto che la fonte possa essere verificata o meno,
• Può essere esaminato e discusso dall'imputato e dal suo avvocato
• Se ciò sia supportato da altre prove

Si concentra su queste problematiche.

Nella valutazione dei contenuti generati dall'IA, occorre distinguere tra "ammissibilità delle prove" e "prova delle prove". Anche se un contenuto viene incluso in un fascicolo processuale, ciò non ne dimostra automaticamente l'accuratezza o l'idoneità come base per una condanna.

Che cosa si intende per prove generate dall'intelligenza artificiale?

Il concetto di "prove generate dall'IA" può comprendere diverse tipologie di contenuto. Pertanto, è necessario innanzitutto distinguere tra tre categorie separate.

1. Contenuti generati interamente in modo artificiale

A questo gruppo;

• Registrazioni sonore create imitando la voce di una persona,
• Video in cui il volto di una persona è sovrapposto a un'altra immagine,
• Screenshot di messaggi che mostrano una conversazione che in realtà non ha mai avuto luogo,
• Immagini di firme o documenti generate dall'IA,
• Foto che in realtà non sono mai state scattate,
• Immagini false che mostrano una persona in un luogo specifico

Sta entrando.

Tali contenuti non possono essere accettati come prove attendibili che dimostrino direttamente un presunto evento. A meno che l'autenticità del contenuto non possa essere verificata tecnicamente, una condanna non dovrebbe basarsi esclusivamente sul suo aspetto.

2. Elaborazione di dati reali tramite intelligenza artificiale

In alcuni casi, l'intelligenza artificiale non viene utilizzata per generare un suono o un'immagine esistenti, ma per analizzarli o migliorarli. Ad esempio;

• Ingrandire l'immagine della fotocamera,
• Riduzione del rumore di fondo nella registrazione audio,
• Trascrivere un lungo discorso in forma scritta,
• Classificazione di persone o veicoli nell'immagine,
• Eseguire analisi di somiglianza facciale o vocale,
• Stabilire connessioni tra dati digitali

L'intelligenza artificiale può essere utilizzata a questo scopo.

In questo caso, il risultato generato dall'intelligenza artificiale non sostituisce la prova originale. La prova originale è costituita dalla registrazione audio, dall'immagine, dal dispositivo o dai dati digitali originali. L'output dell'IA è uno studio secondario o derivato che contribuisce all'esame di tale prova.

Soprattutto nelle operazioni di ingrandimento e nitidezza delle immagini eseguite con l'intelligenza artificiale generativa, occorre considerare la possibilità che il sistema possa creare, tramite stima, dettagli non presenti nella registrazione originale. Pertanto, non è sufficiente presentare al tribunale solo l'"immagine migliorata". È necessario allegare al fascicolo anche la registrazione originale e spiegare le operazioni eseguite.

3. Analisi e report generati dall'intelligenza artificiale

Le risposte ottenute caricando i documenti del caso in un sistema di intelligenza artificiale e ponendo domande come "L'imputato è colpevole?", "Di chi è questa voce?" o "Qual è la probabilità che questa persona sia nell'immagine?", non possono essere considerate di per sé una perizia.

Il sistema del Codice di procedura penale in materia di perizie stabilisce che le perizie debbano essere effettuate in questioni che richiedono conoscenze specialistiche o tecniche. L'identità dell'esperto, la sua competenza, i metodi utilizzati, i materiali d'esame e le conclusioni raggiunte devono essere verificabili. Una risposta non motivata o non verificabile fornita da un sistema di intelligenza artificiale non può sostituire una perizia redatta correttamente.

Tuttavia, è possibile che l'esperto utilizzi l'intelligenza artificiale come strumento tecnico. In questo caso, però, il sistema, i metodi e i dati utilizzati devono essere resi noti; l'esperto deve verificare i risultati con la propria valutazione professionale e assumersi la responsabilità della relazione redatta.

Requisiti probatori fondamentali nel procedimento penale turco

Il sistema processuale penale turco adotta generalmente un sistema di libera prova. Tuttavia, questa libertà non è illimitata.

Secondo il sesto comma dell'articolo 38 della Costituzione, le prove ottenute illegalmente non possono essere ammesse. L'articolo 206 del Codice di procedura penale stabilisce che le prove ottenute illegalmente devono essere respinte, e l'articolo 217 del Codice di procedura penale afferma che il reato contestato può essere provato solo con prove ottenute legalmente. Il giudice può basare la sua decisione solo sulle prove presentate in udienza e discusse in presenza delle parti.

Queste disposizioni hanno le seguenti implicazioni per le prove relative all'intelligenza artificiale:

1. Il metodo con cui si ottiene il contenuto deve essere lecito.
2. La fonte delle prove deve essere identificabile.
3. Occorre verificare che il contenuto non sia stato alterato o falsificato.
4. L'imputato e il suo avvocato devono poter esaminare le prove.
5. Le obiezioni relative all'affidabilità tecnica delle prove devono essere oggetto di indagine.
6. Le prove devono essere discusse in tribunale.
7. Il tribunale deve spiegare nella sua sentenza motivata perché ha ritenuto credibile la prova.

Il fatto che una registrazione sia stata ottenuta legalmente non significa necessariamente che sia autentica. Allo stesso modo, una registrazione autentica potrebbe essere stata ottenuta illegalmente. Pertanto, legalità, autenticità e affidabilità dovrebbero essere esaminate separatamente.

I contenuti generati dall'intelligenza artificiale possono essere utilizzati come prove nei processi penali?

Non è possibile dare una singola risposta "sì" o "no" a questa domanda.

Se viene presentato come prova di un evento reale

Se un audio, un'immagine o un messaggio generato interamente dall'intelligenza artificiale viene utilizzato per provare un evento reale, l'autenticità del contenuto deve essere rigorosamente verificata.

Ad esempio, se una registrazione audio che presumibilmente mostra un imputato che chiede una tangente è stata creata utilizzando l'intelligenza artificiale, questa registrazione non prova che l'imputato abbia effettivamente pronunciato quelle frasi. L'autenticità della voce dipende da..

• Dispositivo di registrazione originale,
• La data di creazione del file,
• Informazioni sui metadati,
• Formato di registrazione,
• Il valore hash del file,
• La cronologia dei registri del dispositivo,
• Recensione comparativa audio,
• Registri di comunicazione e localizzazione,
• Resoconti dei testimoni,
• Altre prove fisiche relative all'incidente

La questione necessita di ulteriori indagini.

I contenuti presentati solo come screenshot o file copiati, di cui non è possibile spiegare la provenienza, non devono essere utilizzati come unica e definitiva prova di condanna.

Se il contenuto artificiale è oggetto di un altro reato

I contenuti generati dall'intelligenza artificiale, anche se non costituiscono prova diretta dell'evento che raffigurano, possono essere considerati prova diretta di un altro reato.

Ad esempio, se un'immagine oscena falsa creata utilizzando il volto di una persona viene inviata a scopo di ricatto, l'immagine non prova che la vittima abbia effettivamente commesso l'atto. Tuttavia, l'immagine falsa;

• Ricatto,
• Minaccioso,
• Frode,
• Violazione della privacy,
• Diffusione illecita di dati personali,
• Insulto

Potrebbe costituire una prova materiale relativa ai loro crimini.

In questo caso, l'importante non è se il contenuto falso sia "reale o meno", ma chi lo ha creato, per quale scopo e come viene utilizzato.

È possibile emettere una condanna basandosi esclusivamente sul risultato di un'intelligenza artificiale?

Nei procedimenti penali, la condanna richiede che la colpevolezza dell'imputato sia provata al di là di ogni ragionevole dubbio, con prove conclusive e convincenti. Le sentenze della Corte Suprema stabiliscono inoltre che dati dubbi, non verificati o speculativi non sono sufficienti per una condanna.

Perché;

• Analisi dei crimini generata dall'intelligenza artificiale,
• Risultato del riconoscimento automatico del volto,
• Il rapporto di somiglianza vocale generato dall'intelligenza artificiale,
• L'interpretazione di un file da parte di un modello linguistico,
• Riepilogo dell'evento generato dall'IA

Ciò da solo non dovrebbe essere considerato motivo sufficiente per una condanna.

Questi risultati possono essere utilizzati per orientare l'indagine o per scoprire nuove prove. Tuttavia, le loro conclusioni devono essere verificate da una revisione tecnica indipendente e supportate da altre prove.

Ad esempio, se un sistema di riconoscimento facciale suggerisce che una persona ripresa da una telecamera sia la stessa persona, tale conclusione dovrebbe essere considerata solo in combinazione con il filmato originale, la qualità dell'immagine, le caratteristiche distintive della persona, altre prove rinvenute sulla scena e una perizia tecnica.

Come verificare l'integrità delle prove digitali?

Nei casi che riguardano presunte manipolazioni tramite intelligenza artificiale, uno degli aspetti più importanti delle prove digitali è l'integrità delle prove stesse.

Quando si esaminano materiali digitali, per quanto possibile;

• Il dispositivo originale deve essere conservato
• È necessario realizzare una copia forense digitale del dispositivo
• I dati originali non devono essere elaborati direttamente
• È necessario determinare i valori hash del file originale e della copia di revisione
• È necessario registrare i nomi delle persone che ricevono ed esaminano le prove
• È necessario esaminare le date di creazione e di modifica del file
• I metadati e i record di sistema devono essere conservati
• È necessario illustrare il programma di indagine e il metodo utilizzato
• Ogni azione intrapresa deve essere segnalata.

Nelle decisioni della Corte Costituzionale relative ai materiali digitali, è fondamentale creare un'immagine del materiale, documentare il processo di esame e conservare i dati digitali in modo verificabile. Anche l'esame tecnico dei file audio, volto a determinare l'eventuale presenza di cancellazioni, aggiunte, alterazioni o manipolazioni, è cruciale per l'attendibilità delle prove.

Nella maggior parte dei casi, non basta avere uno screenshot di WhatsApp, una copia di un file audio trasmesso o un video scaricato dai social media. Se possibile, è opportuno esaminare anche il dispositivo su cui si trova il contenuto, l'attività dell'account, il database dei messaggi, i backup, le informazioni sul server e la cronologia delle comunicazioni.

Perizia tecnica sulle accuse di manipolazione tramite intelligenza artificiale

Se si sospetta che un file audio o un'immagine siano stati creati o modificati dall'intelligenza artificiale, il semplice invio del file a un esperto informatico generico potrebbe non essere sempre sufficiente.

A seconda della natura dell'indagine;

• Informatica forense,
• Analisi del suono,
• Analisi delle immagini,
• Fonetico,
• Contributo al volto,
• Analisi dei media digitali,
• Revisione del documento

Le relazioni dovrebbero essere richieste a esperti nei rispettivi settori.

Una semplice conclusione come "si è verificata una manipolazione" o "non si è verificata alcuna manipolazione" non dovrebbe essere considerata sufficiente in una perizia. La perizia dovrebbe includere:

1. Quale materiale è stato esaminato,
2. Indipendentemente dal fatto che il file originale esista,
3. Qual è il valore hash del file?
4. Quali programmi e metodi sono stati utilizzati,
5. Sia che il file contenga interruzioni, unioni o ricodifica,
6. Risultati tecnici che indicano la possibilità di produzione artificiale,
7. I limiti della revisione,
8. Se non si riesce a raggiungere una conclusione definitiva, quali sono le ragioni?

Bisogna spiegarlo.

All'imputato e al suo legale deve essere data la possibilità di opporsi efficacemente non solo alle conclusioni della perizia, ma anche ai dati e ai metodi tecnici utilizzati nell'indagine. In caso contrario, i principi del contraddittorio e della parità delle armi potrebbero essere compromessi.

Responsabilità penale per la fabbricazione di prove tramite intelligenza artificiale

Sebbene il codice penale turco non definisca la "produzione di false prove mediante intelligenza artificiale" come reato a sé stante, possono configurarsi reati diversi a seconda delle caratteristiche dell'atto.

reato di diffamazione

Generare audio, video o documenti utilizzando l'intelligenza artificiale per rappresentare falsamente una persona come autrice di un atto che sa di non aver commesso, con lo scopo di avviare un'indagine o imporre sanzioni, può essere considerato un reato di diffamazione ai sensi dell'articolo 267 del codice penale turco.

L'atto di diffamazione perpetrato mediante la falsificazione di prove e documenti può comportare sanzioni più severe. Pertanto, la creazione di una falsa registrazione video o audio con l'obiettivo di far apparire qualcuno colpevole di un reato non è solo una violazione dell'etica, ma anche un atto che può comportare direttamente responsabilità penale.

fabbricare un crimine

Denunciare alle autorità un reato noto come se fosse stato commesso, o fabbricare prove e indizi di un reato non avvenuto in modo tale da innescare un'indagine, può essere considerato come fabbricazione di un reato ai sensi dell'articolo 271 del codice penale turco.

Se l'accusa è rivolta a una persona specifica, possono applicarsi le disposizioni in materia di diffamazione; tuttavia, se un reato che in realtà non è stato commesso viene presentato come se fosse avvenuto, senza prendere di mira una persona specifica, possono applicarsi le disposizioni in materia di invenzione di reato.

Distruggere, occultare o alterare le prove di un reato

L'alterazione di un suono, un'immagine o dati digitali reali mediante l'intelligenza artificiale, con l'intento di impedire che la verità venga rivelata, può essere considerata, a seconda delle circostanze specifiche del caso, come rientrante nell'ambito dell'articolo 281 del Codice penale turco, relativo al reato di distruzione, occultamento o alterazione di prove.

Ad esempio, la rimozione di una persona dalle riprese video in modo da favorire il colpevole, la modifica di alcune parti di una conversazione o l'aggiunta di filmati che presentano una versione diversa dei fatti possono essere tutti esaminati in quest'ottica.

falsificazione di documenti

Se l'intelligenza artificiale viene utilizzata per creare contratti, ricevute, verbali, referti medici, estratti conto bancari o documenti ufficiali falsificati, possono configurarsi i reati di falsificazione di documenti ufficiali o falsificazione di documenti privati, a seconda della natura del documento.

L'articolo 207 del codice penale turco criminalizza la creazione di documenti privati ​​falsificati, l'alterazione fraudolenta di documenti privati ​​autentici e l'uso di tali documenti falsificati.

Tuttavia, non tutte le immagini generate dall'IA si qualificano automaticamente come "documenti". Affinché si configuri il reato di falsificazione, il contenuto deve essere legalmente qualificabile come documento e avere il potenziale di ingannare.

Come deve la difesa presentare un'obiezione?

Quando contro un imputato vengono presentate prove che si ritiene siano state create o alterate mediante intelligenza artificiale, una semplice obiezione generica come "questa registrazione è falsificata" non dovrebbe essere sufficiente.

Nello specifico, la difesa ha dichiarato:

• Chiediamo che vengano presentate le prove originali
• Esaminando il dispositivo contenente il contenuto,
• L'invio di copie forensi e valori hash al file,
• Occorre chiarire chi ha ottenuto le prove e quando
• Esaminando le informazioni sui metadati,
• Richiediamo che vengano acquisiti i registri delle comunicazioni e del server
• Eseguire aggiunte, cancellazioni e unire revisioni su audio o video,
• Nominare un esperto in intelligenza artificiale o analisi deepfake,
• La difesa deve ricevere i dati grezzi che costituiranno la base della perizia
• Lasciando il tempo necessario per presentare pareri di esperti indipendenti,
• Indagine per verificare se il contenuto sia corroborato da altre prove materiali

dovrebbe richiederlo.

Si dovrebbe sostenere che le prove non possono essere utilizzate come base per una condanna se non è possibile spiegarne la fonte, se il file originale è mancante, se viene presentata solo una schermata, se il processo di esame non è documentato o se la perizia non può essere verificata.

Conclusione

Le prove relative all'intelligenza artificiale non sono né categoricamente proibite né categoricamente accettate come valide nella procedura penale turca. Ogni elemento di prova deve essere valutato in base alle caratteristiche specifiche del caso.

Tuttavia, la distinzione fondamentale è chiara:

• I contenuti artificiali generati interamente dall'intelligenza artificiale non possono, di per sé, dimostrare che l'evento che raffigurano sia realmente accaduto.
• Quando le prove reali vengono elaborate dall'intelligenza artificiale, i dati originali rimangono la prova primaria.
• Un output generato dall'intelligenza artificiale da solo non può essere considerato una relazione di un esperto.
• I contenuti la cui fonte non può essere verificata e non sono tecnicamente verificabili non devono essere utilizzati come unica o definitiva prova di condanna.
• Se un contenuto artificiale è stato utilizzato nella commissione di un altro reato, il contenuto stesso può costituire prova materiale di tale reato.
• La produzione di prove false o l'alterazione di prove autentiche possono configurarsi come reati quali diffamazione, fabbricazione di prove, manomissione di prove e falsificazione.

Nei procedimenti penali, ciò che conta non è quanto realistico appaia il contenuto, ma se la sua autenticità possa essere verificata scientificamente e legalmente. Nell'era dell'intelligenza artificiale, i tribunali devono considerare non solo ciò che vedono o sentono, ma anche la sua fonte, il processo di creazione, l'integrità tecnica e la coerenza con altre prove.

Altrimenti, una falsificazione tecnologicamente riuscita potrebbe sostituire la verità materiale. Ciò minerebbe seriamente la presunzione di innocenza, il diritto alla difesa e la credibilità della giustizia penale.