Wenn KI die Akte liest, wer trifft dann die Entscheidung? Rechtliche Grenzen des KI-Einsatzes in Staatsanwaltschaften und Gerichten

Ein Staatsanwalt, der innerhalb von Minuten Tausende von Seiten Kontoauszüge klassifiziert, ein Gericht, das Tausende von Entscheidungen zum selben Rechtsstreit vergleicht, die automatische Transkription von Gerichtsverhandlungsprotokollen oder die Identifizierung von Unstimmigkeiten in einer Akte durch Software können alle wesentlich zur Beschleunigung des Gerichtsverfahrens beitragen.

Das System der künstlichen Intelligenz hingegen:

• Vorschlagen, ein öffentliches Strafverfahren gegen eine Person einzuleiten,
• Bewertung der Notwendigkeit einer Verhaftung
• Beurteilung, ob der Zeuge die Wahrheit sagt oder nicht
• Der Angeklagte muss die Wahrscheinlichkeit eines erneuten Straffälligwerdens berücksichtigen
• Vorhersage, welche Seite den Fall gewinnen wird
• Ausarbeitung der begründeten Entscheidung

In diesem Fall geht es nicht mehr nur um technologische Effizienz.

In dieser Situation können die richterliche Unabhängigkeit, die Unparteilichkeit der Staatsanwaltschaft, die Unschuldsvermutung, das Recht auf ein begründetes Urteil, das Recht auf Verteidigung, der Schutz personenbezogener Daten, die Waffengleichheit und die Gewährleistung eines rechtsstaatlichen Richters unmittelbar beeinträchtigt werden.

Die Justizpolitik der Türkei zielt darauf ab, KI-gestützte Entscheidungssysteme zu stärken und einen ethischen und rechtlichen Rahmen für KI-Anwendungen zu schaffen. Der Strategieplan des Justizministeriums für den Zeitraum 2024–2028 sieht die Stärkung von Entscheidungshilfesystemen durch die Nutzung künstlicher Intelligenz und die Etablierung eines ethischen und rechtlichen Rahmens für KI-Anwendungen vor. Darüber hinaus wurde bekannt gegeben, dass die im Ministerium eingerichtete Abteilung für Künstliche Intelligenz Studien durchführt, die die Funktionsweise der Justiz anhand von Echtzeitdaten überwachen und Mechanismen zur Entscheidungsunterstützung entwickeln.

Diese Entwicklungen deuten darauf hin, dass die Debatte darüber, ob künstliche Intelligenz in der Justiz eingesetzt werden sollte oder nicht, weitgehend beigelegt ist. Die eigentliche Frage, die diskutiert werden muss, ist folgende:

In welchen Berufen kann künstliche Intelligenz lediglich ein unterstützendes Werkzeug sein, in welchen Bereichen sollte sie nicht eingesetzt werden und welche Schutzmaßnahmen sollten den beteiligten Parteien bei ihrer Anwendung gewährt werden?

Welche Bedeutung hat künstliche Intelligenz in der Justiz?

Der Einsatz künstlicher Intelligenz in der Justiz beschränkt sich nicht auf eine einzige Technologie. Viele verschiedene Systeme werden unter demselben Konzept betrachtet.

Die wichtigsten Anwendungsgebiete sind:

• Klassifizierung der Akten nach Thema und Art des Verbrechens,
• Automatische Zusammenfassung von Anträgen und Dokumenten,
• Recherche zu Fallrecht und Gesetzgebung,
• Ähnliche Dateien identifizieren,
• Transkription der Gerichtsverhandlung,
• Extraktion von persönlichen, historischen, kontobezogenen und unternehmensbezogenen Informationen aus den Dokumenten
• Analyse zahlreicher Banktransaktionen
• Scannen digitaler Beweismittel,
• Erstellung von Entwürfen für juristische Korrespondenz und Vermerke,
• Abschätzung der Dauer und des Arbeitsaufwands des Falls,
• Anonymisierung personenbezogener Daten bei Entscheidungen,
• Ausarbeitung von Anklageschriften, Gutachten oder Urteilsentwürfen,
• Berechnung des Risikos, ein Verbrechen zu begehen oder Wiederholungstäter zu werden
• Bewertung der Zuverlässigkeit der Beweise,
• Die wahrscheinliche Folge einer Entscheidung vorhersagen.

Nicht alle dieser Systeme bergen das gleiche rechtliche Risiko.

Ein Algorithmus, der aufgrund der Ansetzung eines Verhandlungstermins die Verhaftung eines Angeklagten empfiehlt, kann nicht auf dieselbe Weise bewertet werden. Es besteht ein wesentlicher Unterschied in Bezug auf die Grundrechte zwischen einem System zur Korrektur von Tippfehlern und einem System zur Bewertung der Glaubwürdigkeit von Zeugenaussagen.

Daher sollten Anwendungen künstlicher Intelligenz in der Justiz nach ihren Risiken klassifiziert werden.

Administrative und technische Anwendungen mit geringem Risiko

Transaktionen, bei denen künstliche Intelligenz keine direkten rechtlichen Bewertungen vornimmt oder keine entscheidenden Auswirkungen auf die Rechte der Parteien hat, sind relativ risikoarm.

Zum Beispiel:

• Klassifizierung von Dokumenten,
• Bearbeiten von Dateinamen,
• Rechtschreib- und Grammatikprüfung,
• Planung von Gerichtssälen,
• Erstellung von Benachrichtigungen und Fristwarnungen,
• Anonymisierung personenbezogener Daten,
• Die Audioaufnahmen in ein Transkript transkribieren,
• Erkennung von Mehrfacheinreichungen desselben Dokuments

Es kann die Arbeitsbelastung reduzieren.

Doch selbst risikoarme Verfahren sind nicht völlig risikofrei. Ein Rechtschreibfehler im Gerichtsprotokoll, die falsche Schreibweise von „Ich gab“ als „Ich gab nicht“ oder ein unvollständiges Protokoll der Aussage einer Partei können den Ausgang des Verfahrens beeinflussen.

Daher müssen automatisierte Datensätze, Übersetzungen oder Dokumentenklassifizierungen immer von einem Menschen überprüft werden.

Hochrisikoanwendungen

Es birgt ein hohes Risiko für ein System künstlicher Intelligenz, rechtliche Einschätzungen vorzunehmen oder Empfehlungen auszusprechen, die die Grundrechte einer Person beeinträchtigen könnten.

Insbesondere die folgenden Anwendungsbereiche sollten als risikoreich eingestuft werden:

• Identifizierung von Verdächtigen,
• Bewertung des Verdachts auf ein Verbrechen,
• Der Vorschlag, ein öffentliches Strafverfahren einzuleiten,
• Festnahme oder gerichtliche Kontrollbeurteilung,
• Zuverlässigkeitsanalyse von Zeugen,
• Bewertung der Zuverlässigkeit von Nachweisen
• Berechnung der Verurteilungswahrscheinlichkeit
• Die Höhe der Strafe oder der vorgeschlagenen Sanktion,
• Rückfallrisikobewertung
• Eine Empfehlung für Schutz- oder Strafmaßnahmen in Bezug auf das Kind
• Automatische Ermittlung der Entschädigungshöhe,
• Der Prozess der Ausarbeitung eines Entscheidungs- oder Regelungsvorschlags.

Die EU-Verordnung über künstliche Intelligenz stuft KI-Systeme, die Justizbehörden bei der Untersuchung, Auslegung und Anwendung des Rechts in bestimmten Fällen unterstützen, als Hochrisikosysteme ein. Dies liegt daran, dass diese Systeme schwerwiegende Auswirkungen auf die Rechtsstaatlichkeit, das Recht auf ein faires Verfahren und die individuellen Freiheiten haben könnten.

Die EU-Verordnung ist zwar keine direkt anwendbare nationale Rechtsnorm für die Türkei, stellt aber einen wichtigen vergleichenden Rechtsstandard im Hinblick auf die Risikoklassifizierung dar.

Der Einsatz künstlicher Intelligenz in Staatsanwaltschaften

Wenn ein Staatsanwalt von Umständen erfährt, die den Eindruck erwecken, dass ein Verbrechen begangen wurde, ist er verpflichtet, die tatsächlichen Umstände zu untersuchen, um festzustellen, ob Gründe für die Einleitung eines öffentlichen Strafverfahrens vorliegen.

Gemäß Artikel 160 der Strafprozessordnung ist der Staatsanwalt verpflichtet, nicht nur Beweise gegen den Verdächtigen, sondern auch Beweise zu seinen Gunsten zu sammeln und die Rechte des Verdächtigen zu schützen.

Künstliche Intelligenz kann bei dieser Aufgabe helfen. Sie kann jedoch nicht die Aufgaben und Verantwortlichkeiten eines Staatsanwalts übernehmen.

Klassifizierung von Beschwerden

Bei den Staatsanwaltschaften sind zahlreiche Anträge eingegangen:

• Abhängig von der Art des Verbrechens,
• An das zuständige Ermittlungsbüro,
• Im Notfall,
• Informationen zum Täter und zum Opfer,
• Verknüpfung mit anderen Dateien

Es ist möglich, sie danach zu klassifizieren.

Beispielsweise kann dasselbe Bankkonto, dieselbe Telefonnummer oder dieselbe Website-Adresse automatisch als in Hunderten von verschiedenen Betrugsermittlungen aufgetaucht identifiziert werden.

Diese Vorgehensweise könnte zu einer schnelleren Aufdeckung organisierter und serieller Verbrechen führen.

Es ist jedoch inakzeptabel, dass ein Antrag die Staatsanwaltschaft gar nicht erst erreicht, nur weil das System ihn als „Rechtsstreitigkeit“, „ohne strafrechtlichen Bezug“ oder „niedrige Priorität“ einstuft. Die rechtliche Natur jeder Beschwerde kann nicht allein anhand von Schlüsselwörtern bestimmt werden.

Künstliche Intelligenz kann den Antrag klassifizieren; die endgültige Beurteilung muss jedoch vom Staatsanwalt vorgenommen werden.

Analyse von Beweismitteln und großen Datensätzen

Besonders:

• Banktransaktionen,
• HTS- und Basisstationsdatensätze,
• Geldtransfers zwischen Unternehmen,
• Krypto-Asset-Transaktionen
• E-Mail-Aufzeichnungen,
• Telefon- und Computerdaten,
• Zahlreiche Kamerabilder

Es können Datensätze entstehen, die manuell schwer zu analysieren sind.

Systeme der künstlichen Intelligenz können ungewöhnliche Geldbewegungen, Gemeinschaftskonten, wiederkehrende IP-Adressen oder Kommunikationsnetzwerke identifizieren, die möglicherweise mit kriminellen Handlungen in Verbindung stehen.

Allerdings ist nicht jede „ungewöhnliche“ Handlung eine Straftat. Die vom System angezeigte Korrelation kann lediglich den Beginn einer Untersuchung darstellen. Die strafrechtliche Verantwortlichkeit einer Person lässt sich nicht allein auf algorithmische Ähnlichkeit oder statistische Korrelation stützen.

Erstellung eines Verdächtigenprofils

Die Berechnung der Wahrscheinlichkeit, dass eine Person ein Verbrechen begeht, auf der Grundlage ihrer früheren Ermittlungen, ihres Wohnorts, ihrer Kontakte, ihres wirtschaftlichen Status oder ihrer Aktivitäten in sozialen Medien, führt zu ernsthaften rechtlichen Problemen.

Person:

• Die Tatsache, dass gegen ihn in der Vergangenheit bereits ermittelt wurde,
• Leben in einer bestimmten Region
• Mit bestimmten Personen verwandt sein,
• Zugehörigkeit zu einer bestimmten sozialen Gruppe

Aus diesem Grund kann man nicht verdächtigt werden.

Der Verdacht sollte auf konkreten Fakten und Beweisen beruhen, nicht auf der Identität einer Person oder der Gruppe, der sie angehört.

Algorithmische Profilerstellung kann Diskriminierungen aus vergangenen Daten reproduzieren. Intensivere Strafverfolgungsmaßnahmen in bestimmten Gebieten können dazu führen, dass das System Personen in diesen Gebieten künftig als risikoreicher einstuft.

Vorbereitung der Anklageschrift

Künstliche Intelligenz, in der Datei:

• Informationen zu Verdächtigen und Opfern,
• Termine der Ereignisse,
• Die Liste der Beweismittel,
• Anwendbare Rechtsvorschriften,
• Ähnliche Präzedenzfälle

Durch das Sammeln von Beweismaterial können sie einen Anklageentwurf vorbereiten.

Die Anklageschrift im Sinne von Artikel 170 der Strafprozessordnung ist jedoch nicht bloß ein formales Dokument. Der Staatsanwalt muss durch persönliche und rechtliche Prüfung feststellen, ob die gesammelten Beweise einen hinreichenden Verdacht auf eine Straftat begründen.

Ein System künstlicher Intelligenz:

• Absichtlich,
• Gründe für die Legalität,
• Der Widerspruch zwischen den Beweisen,
• Aussagen zugunsten des Verdächtigen,
• Das psychische Element des Verbrechens,
• Form der Teilnahme

Es kann nicht automatisch eine endgültige Bewertung vornehmen.

Künstliche Intelligenz kann einen Anklageentwurf erstellen; die rechtliche Verantwortung für die Erstellung der Anklage liegt jedoch beim Staatsanwalt.

Wenn ein Staatsanwalt einen von einer KI generierten Text abzeichnet, ohne ihn zu lesen oder mit den Beweismitteln zu vergleichen, stellt dies eine Verletzung seiner persönlichen Ermittlungspflichten dar.

Entscheidung über die Einstellung des Verfahrens ohne Anklageerhebung

Künstliche Intelligenz kann einen Beschlussentwurf zur Einstellung des Verfahrens erstellen, wenn sie feststellt, dass die Beweislage im jeweiligen Fall nicht ausreicht. Die endgültige Beurteilung, ob eine Straftat begangen wurde oder ob ein hinreichender Tatverdacht besteht, darf jedoch nicht dem Algorithmus überlassen werden.

Besonders:

• Gewalt gegen Frauen
• Sexualverbrechen,
• Häusliche Gewalt
• Verbrechen gegen Kinder
• Folter und Misshandlung,
• Verbrechen von Amtsträgern

Bei Ermittlungen, in denen die Beweislage heikel ist, können Systeme, die sich ausschließlich auf frühere Gerichtsentscheidungen stützen, zu schwerwiegenden Rechtsverletzungen führen.

Ein System, das mit Daten aus vergangenen Fällen trainiert wurde, die nicht ausreichend untersucht wurden, läuft Gefahr, dieselben fehlerhaften Ermittlungspraktiken in die Zukunft zu tragen.

Kann KI Verhaftungen empfehlen?

Die Verhaftung ist eine der schwerwiegendsten Schutzmaßnahmen, die die Freiheit einer Person unmittelbar einschränkt.

Zur Festnahme gemäß Artikel 100 der Strafprozessordnung:

• Konkrete Indizien, die einen starken Verdacht auf ein Verbrechen begründen,
• Grund für die Festnahme
• Mäßigkeit,
• Unzureichende richterliche Aufsicht

Es sollte evaluiert werden.

Ein System gehört einer Person:

• Sein Alter,
• Wirtschaftliche Lage
• Wohnort,
• Seine früheren Verurteilungen
• Sein sozialer Kreis,
• Beschäftigungsstatus

Ein Wert, der ein „78%iges Fluchtrisiko“ oder ein „hohes Rückfallrisiko“ anzeigt, ist allein kein ausreichender Grund für eine Verhaftung.

Ein Haftbefehl muss eine individuelle Begründung enthalten, die auf konkreten Fakten beruht. Statistisch ähnliches Verhalten von Personen lässt keine eindeutige Vorhersage darüber zu, was ein bestimmter Verdächtiger in Zukunft tun wird.

Ist die Methode, mit der die algorithmische Risikobewertung berechnet wird, unbekannt, kann der Angeklagte diese Bewertung nicht wirksam anfechten.

Künstliche Intelligenz kann als Warnsystem eingesetzt werden, um zu prüfen, ob in der Akte ein Haftgrund vorliegt. Sie kann jedoch nicht diejenige Instanz sein, die den Freiheitsentzug einer Person empfiehlt oder festlegt.

Der Einsatz künstlicher Intelligenz vor Gericht

Künstliche Intelligenz kann in verschiedenen Phasen von Gerichtsverfahren eingesetzt werden, um die Arbeitsbelastung zu reduzieren.

Erstellung einer Aktenübersicht

Eine Datei, die aus Hunderten von Ordnern besteht:

• Die Parteien,
• Ihre Forderungen
• Ihre Beweise,
• Verfahrensmaßnahmen
• Expertenberichte
• Zeugenaussagen,
• Frühere Gerichtsentscheidungen

Man kann es zusammenfassen.

Dieses System kann dem Richter die allgemeine Struktur des Falles aufzeigen. Die Zusammenfassung kann jedoch die Akte nicht ersetzen.

Das Zusammenfassungssystem kann eine entscheidende Ausnahme, einen einzelnen Satz in einer Zeugenaussage oder die Hauptforderung einer Partei übersehen. Ein Richter kann seine Entscheidung nicht allein auf Grundlage der KI-Zusammenfassung treffen.

Recherche zu Gesetzgebung und Rechtsprechung

Künstliche Intelligenz:

• Die Bestimmungen, die auf den Streitfall Anwendung finden können,
• Ähnliche Entscheidungen des Obersten Gerichtshofs und des Staatsrats,
• Rechtsprechung des Verfassungsgerichts und des EGMR
• Unterschiede zwischen der Rechtsprechung

kann feststellen.

Das größte Risiko dieser Systeme besteht in der Erzeugung nicht existierender Entscheidungen oder Rechtsvorschriften. Generative KI-Systeme können scheinbar überzeugende Entscheidungsnummern, Parteinamen und Begründungen generieren, die in Wirklichkeit nicht existieren.

Weil:

• Der vollständige Text der Entscheidung sollte veröffentlicht werden
• Die Fall- und Entscheidungsnummern müssen überprüft werden
• Es sollte geprüft werden, ob die Entscheidung noch Gültigkeit hat
• Es sollte geprüft werden, ob die Entscheidung tatsächlich mit dem konkreten Fall vergleichbar ist.

Die unkritische Übernahme von Präzedenzfällen, die von künstlicher Intelligenz geschaffen wurden, kann zu sachlichen Fehlern und rechtlich unhaltbaren Argumentationen führen.

Gerichtsprotokolle und Übersetzung

Spracherkennungssysteme können gesprochene Worte in einem Gerichtssaal automatisch transkribieren. Diese Methode könnte die Prozessdauer verkürzen.

Das System jedoch:

• Man könnte ähnliche Wörter verwechseln
• Sie könnten juristische Begriffe falsch schreiben
• Möglicherweise sind sie nicht in der Lage, die Unterschiede zwischen Dialekten und regionalen Akzenten zu verstehen
• Es kann möglicherweise nicht zwischen Personen unterscheiden, die gleichzeitig sprechen
• Die Aufzeichnungen können unvollständig sein, wenn die Informationen über einen Dolmetscher übermittelt werden.

Die Genauigkeit des Gerichtsprotokolls hat unmittelbare Auswirkungen auf das Recht auf Verteidigung, insbesondere in Strafverfahren. Daher sollte der automatisiert erstellte Text vom Richter und dem Gerichtsschreiber überprüft werden, und den Parteien sollte die Möglichkeit gegeben werden, Korrekturen zu beantragen.

Ausarbeitung der Resolution

Künstliche Intelligenz kann anhand der Akteninformationen einen Entscheidungsentwurf erstellen. Sie kann formale Abschnitte bearbeiten, die Ansprüche und Einreden der Parteien auflisten oder Informationen zu Rechtsbehelfen hinzufügen.

Das Urteil lautet jedoch:

• Auswertung der Beweismittel,
• Welcher Aussage wurde Vorrang eingeräumt und warum?
• Erfüllung der Hauptforderungen der Parteien,
• Anwendung der Rechtsnorm auf den konkreten Fall,
• Erläuterung, wie die Schlussfolgerung zustande kam

Die einzelnen Abschnitte sollten vom Richter festgelegt werden.

Gemäß Artikel 141 der Verfassung müssen alle Gerichtsentscheidungen begründet werden. Das Verfassungsgericht betrachtet das Recht auf eine begründete Entscheidung zudem als Bestandteil des Rechts auf ein faires Verfahren.

Von künstlicher Intelligenz generierte allgemeine und stereotype Aussagen stellen keine echte Rechtfertigung dar.

Zum Beispiel:

„Aufgrund einer umfassenden Auswertung der Akten und Beweismittel wurde festgestellt, dass der Angeklagte die Straftat begangen hat.“

Eine Stellungnahme, die nicht erklärt, welche Beweise als zuverlässig gelten und warum, erfüllt nicht das Recht auf ein begründetes Urteil.

Ein Richter kann einen von künstlicher Intelligenz erstellten Text nicht einfach abzeichnen. Die Begründung für die Entscheidung muss die persönliche und rechtliche Einschätzung des Richters im jeweiligen Fall widerspiegeln.

Kann die richterliche Gewalt an künstliche Intelligenz übertragen werden?

Gemäß Artikel 9 der Verfassung wird die richterliche Gewalt von unabhängigen und unparteiischen Gerichten im Namen der türkischen Nation ausgeübt.

Artikel 138 der Verfassung legt fest, dass Richter bei der Ausübung ihrer Pflichten unabhängig sind und Urteile nach ihrem Gewissen und in Übereinstimmung mit der Verfassung, dem Gesetz und den Rechtsgrundsätzen fällen.

Aufgrund dieser Bestimmungen wird künstliche Intelligenz:

• Er kann in seiner Funktion als Richter keine Entscheidungen treffen
• Es kann kein Urteil der Verurteilung oder des Freispruchs fällen
• Sie können keinen Haftbefehl ausstellen
• Es kann den Fall weder annehmen noch ablehnen
• Es kann das gewissenhafte Urteil des Richters nicht ersetzen.

„Menschliche Aufsicht“ sollte nicht einfach bedeuten, dass der Richter die Entscheidung der KI billigt.

Der Richter schlug die künstliche Intelligenz vor:

• Die Fähigkeit, abzulehnen,
• Veränderungsfähigkeit
• Die Fähigkeit, seine Grundlagen zu hinterfragen,
• Fähigkeit, Systemfehler zu erkennen

Sie müssen über die Fähigkeiten und Kompetenzen verfügen.

Wenn das System im Grunde in jedem Fall das gleiche Ergebnis empfiehlt und Richter diese Empfehlung in der Praxis nicht ändern können, dann kann es sich, selbst wenn formal eine menschliche Entscheidung vorliegt, in Wirklichkeit um eine algorithmische Entscheidung handeln.

Algorithmische Eingriffe in die richterliche Unabhängigkeit

Richterliche Unabhängigkeit bedeutet nicht nur Schutz vor politischem oder administrativem Druck. Auch technologische Systeme, die den Entscheidungsprozess eines Richters beeinflussen, können die Unabhängigkeit beeinträchtigen.

System:

• „Die durchschnittliche Freiheitsstrafe für dieses Verbrechen beträgt 4 Jahre und 8 Monate.“
• „92 Prozent dieser Richter haben Haftbefehle ausgestellt.“
• „Vom Angeklagten besteht ein hohes Risiko, dass er erneut straffällig wird.“
• „84 Prozent ähnlicher Fälle wurden abgelehnt.“

Wenn ein Richter solche Warnungen ausspricht, kann er sich bewusst oder unbewusst dieser Schlussfolgerung annähern.

Diese Situation kann als „Automatisierungsverzerrung“ bezeichnet werden. Menschen schenken den Empfehlungen eines Systems möglicherweise mehr Vertrauen, als es eigentlich verdient, basierend auf der Annahme, dass der Computer unvoreingenommen und mathematisch korrekt ist.

Das Risiko, dass ein Richter eine KI-Empfehlung als Standardentscheidung akzeptiert, steigt insbesondere bei hoher Arbeitsbelastung.

Daher lautet die Empfehlung des Systems:

• Es sollte nicht bindend sein
• Dies sollte nicht zur Standardentscheidung werden
• Dem Richter sollte es nicht erschwert werden, eine andere Entscheidung zu treffen
• Die Einhaltungsquote des Algorithmus durch die Richter sollte nicht als Leistungskriterium herangezogen werden.

Andernfalls könnte künstliche Intelligenz zu einem unsichtbaren übergeordneten Gericht oder einem Instrument der Verwaltungsaufsicht werden.

Überwachung der Leistung von Richtern und Staatsanwälten mithilfe künstlicher Intelligenz

Künstliche Intelligenz kann nicht nur in Gerichtsverfahren, sondern auch bei der Leistungsbeurteilung von Justizpersonal eingesetzt werden.

System:

• Anzahl der Aktenschließungen,
• Zielzeitüberschreitung
• Die Rate, mit der Entscheidungen aufgehoben werden,
• Festnahme- oder Freilassungsrate
• Die Rücklaufquote der Anklagen

Es kann Daten wie diese analysieren.

Die Ermittlung von Arbeitsbelastung und Verzögerungen kann für die Organisationsplanung hilfreich sein. Eine Leistungsbewertung, die sich ausschließlich auf numerische Daten stützt, kann jedoch schwerwiegende Probleme verursachen.

Ein Richter oder Staatsanwalt:

• Es kann auch komplexere Dateien verarbeiten
• Verfassen detaillierter, begründeter Urteile,
• Er sollte die unvollständigen Ermittlungen abschließen lassen
• Hören Sie den Parteien mehr zu

Daher können weniger Dateien finalisiert werden.

Die von künstlicher Intelligenz festgelegten Effizienzziele sollten Justizbeamte nicht dazu verleiten, Fälle schnell abzuschließen oder Entscheidungen zu fällen, die das System erwartet.

Das Recht auf ein Verfahren innerhalb einer angemessenen Frist ist zwar wichtig, doch dürfen Qualität, Integrität und Fairness des Verfahrens nicht der Schnelligkeit geopfert werden.

Evidenzbewertung mit künstlicher Intelligenz

Künstliche Intelligenz in der Strafjustiz:

• Die Person auf dem Kamerabild erkennen,
• Messung der Klangähnlichkeit
• Erkennung von Deepfake-Inhalten,
• Zur Auswertung von Fingerabdruck- oder DNA-Übereinstimmungen,
• Um den Zusammenhang zwischen Finanztransaktionen zu ermitteln,
• Die Emotionen oder Absichten in der Korrespondenz analysieren

Es kann für diesen Zweck verwendet werden.

Gemäß Artikel 217 der Strafprozessordnung darf ein Richter seine Entscheidung ausschließlich auf die im Gericht vorgelegten und erörterten Beweise stützen. Die Beweise werden vom Richter nach seinem Gewissen frei gewürdigt.

Daher kann ein algorithmisches Ergebnis, das dem Gericht nicht bekannt ist, zu dem die Parteien keinen Zugang haben oder dessen Methode nicht offengelegt wurde, nicht die versteckte Grundlage der Entscheidung sein.

Ist das Ergebnis der KI ein Expertenbericht?

Ein System künstlicher Intelligenz ist für sich selbst kein Experte.

Wurde künstliche Intelligenz für eine technische Überprüfung eingesetzt, muss der Experte, der den Bericht erstellt hat, Folgendes beachten:

• Welches System verwenden Sie?
• Die Systemversion,
• Die verwendeten Daten,
• Die Fehlerrate
• Wie das Ergebnis erzielt wurde
• Wie er das Ergebnis selbst bestätigte,
• Alternative Möglichkeiten

Eine Erklärung ist erforderlich.

Der Bericht mit der Aussage „Das Programm hat eine Übereinstimmung gefunden“ ist nicht überprüfbar.

Gemäß Artikel 63 der Strafprozessordnung und Artikel 266 der Zivilprozessordnung geben Sachverständige Gutachten zu technischen Fragen ab; die rechtliche Bewertung und die endgültige Entscheidung obliegen dem Gericht. Sachverständige dürfen die Ergebnisse von KI-gestützten Analysen nicht ohne vorherige Prüfung in ihr Gutachten aufnehmen.

Das Recht der Verteidigung, gegen den Algorithmus Einspruch zu erheben

Wird künstliche Intelligenz gegen eine Person eingesetzt, sollte der Verteidiger oder Rechtsbeistand mindestens Zugriff auf folgende Informationen haben:

• Systemname und Version,
• Verwendungszweck
• Die analysierten Daten,
• Die Quelle der Daten,
• Fehler- und Genauigkeitsraten,
• Schwellenwerte,
• Die vom System erzeugten alternativen Ergebnisse,
• Kontrolle durch Menschen
• Transaktions- und Zugriffsprotokolle,
• Die Auswirkungen des Ergebnisses auf die Entscheidung.

Wenn die gesamte Methode aus Gründen des Geschäftsgeheimnisses oder der öffentlichen Sicherheit verschwiegen wird, kann dies es der Verteidigung unmöglich machen, die Beweise zu widerlegen.

Es ist möglicherweise nicht zwingend erforderlich, den gesamten Quellcode jeder Datei offenzulegen. Die Folgen können jedoch gegen den Angeklagten oder die Partei verwendet werden

• Wie es entstanden ist,
• Auf welchen Daten basiert es?
• Welche potenziellen Fehler birgt es?

Er/Sie muss in der Lage sein, dies zu verstehen.

Andernfalls könnten die Grundsätze der Waffengleichheit und des kontradiktorischen Verfahrens verletzt werden.

Sollen die beteiligten Parteien darüber informiert werden, dass künstliche Intelligenz eingesetzt wird?

Wird künstliche Intelligenz nur für technische Aufgaben wie Tippen und Ablage verwendet, dann ist es möglicherweise nicht notwendig, jeden Vorgang einzeln zu melden.

Aber künstliche Intelligenz:

• Sie führten eine Beweisanalyse durch
• Es wurde eine Risikobewertung für den Verdächtigen oder die beteiligte Person erstellt
• Es wurden rechtliche Konsequenzen vorgeschlagen
• Er leistete einen wesentlichen Beitrag zur Ausarbeitung der Entscheidungsbegründung
• Wenn es die Zuverlässigkeit der von der Partei vorgelegten Beweise bewertet hat

Diese Verwendung sollte den Parteien nicht verschwiegen werden.

Eine Person sollte wissen, ob die gegen sie verwendete Bewertung von einem Menschen oder einem Algorithmus erstellt wurde.

Wird der Verwendungszweck nicht erläutert, verliert das Recht der Partei, Einspruch zu erheben und sich zu verteidigen, jegliche Bedeutung.

Übertragung personenbezogener Daten und Gerichtsakten an künstliche Intelligenz

Gerichtsakten enthalten eine Vielzahl sensibler Informationen:

• Gesundheitsakten,
• Informationen zum Sexualleben,
• Die Identitäten der Kinder,
• Strafrechtliche Verurteilungen
• Bankkonten,
• Geschäftsgeheimnisse,
• Telefon- und Standortdaten,
• Informationen zum Familienleben,
• Biometrische und genetische Daten.

Gemäß Artikel 28/1-d des Gesetzes zum Schutz personenbezogener Daten (KVKK) gelten die Bestimmungen dieses Gesetzes nicht für die Verarbeitung personenbezogener Daten durch Justizbehörden oder Strafverfolgungsbehörden im Zusammenhang mit Ermittlungs-, Anklage-, Gerichts- oder Vollstreckungsverfahren. Der Datenschutzbeirat bestätigt, dass auch Maßnahmen von Gerichten im Rahmen von Gerichtsverfahren unter diese Ausnahme fallen.

Diese Ausnahme bedeutet jedoch nicht, dass Justizdaten uneingeschränkt verwendet werden dürfen.

Die Bestimmungen der Verfassung hinsichtlich des Schutzes des Privatlebens und personenbezogener Daten, des Grundsatzes der Verhältnismäßigkeit, der Vertraulichkeit von Ermittlungen und der einschlägigen Verfahrensgesetze bleiben weiterhin anwendbar.

Dies gilt insbesondere dann, wenn Dateiinformationen in ein öffentlich zugängliches ausländisches System künstlicher Intelligenz eingegeben werden:

• In welchem ​​Land werden die Daten gespeichert?
• Ob das Modell zu Trainingszwecken verwendet wird,
• Ob es an Dritte weitergegeben wurde,
• Ob es später gelöscht wurde,
• Systemmitarbeiter haben Zugriff auf

Es mag ungewiss sein.

Daher sollten Richter, Staatsanwälte und Gerichtsmitarbeiter keine tatsächlichen Akteninhalte über persönliche Konten an allgemeine KI-Systeme übertragen.

Systeme, die in der Justiz eingesetzt werden sollen:

• Es operiert innerhalb einer geschlossenen und sicheren Infrastruktur
• Einrichtung einer kontrollierten Integration mit UYAP,
• Es protokolliert Benutzerzugriffe
• Die Daten werden nicht für andere Zwecke verwendet
• Es werden keine Daten außerhalb der Datei extrahiert
• Festlegung von Lager- und Entsorgungsfristen,
• Bestehen von Cybersicherheitstests

ist notwendig.

Vertraulichkeit der Ermittlungen

Gemäß Artikel 157 der Strafprozessordnung sind Ermittlungsverfahren grundsätzlich vertraulich.

Die Übermittlung von Aussagen, Kommunikationsaufzeichnungen oder Überwachungsinformationen aus der Ermittlungsakte an einen externen Anbieter von künstlicher Intelligenz könnte die Vertraulichkeit der Ermittlungen gefährden.

Dieses Risiko beschränkt sich nicht auf die öffentliche Weitergabe von Daten. Auch die Speicherung von Daten auf den Servern des Dienstanbieters oder deren Verarbeitung zu Modelltrainingszwecken kann Datenschutzbedenken hervorrufen.

Staatsanwaltschaft und Strafverfolgungsbehörden gaben an, dass folgendes System verwendet wurde:

• Ob die Daten gespeichert wurden oder nicht,
• Unabhängig davon, ob er/sie es für Bildungszwecke nutzt oder nicht,
• Unabhängig davon, ob Sie es aus dem System entfernt haben oder nicht,
• Wie es vor unbefugtem Zugriff geschützt wird

sollte man wissen.

Risiko algorithmischer Diskriminierung

Systeme der künstlichen Intelligenz lernen aus vergangenen Daten. Sind diese Daten nicht unvoreingenommen, so ist möglicherweise auch die Schlussfolgerung des Systems nicht unvoreingenommen.

Zum Beispiel in der Vergangenheit:

• In bestimmten Gebieten wurden verstärkte Identitätskontrollen durchgeführt
• Bestimmte Gruppen wurden im Zusammenhang mit spezifischen Verbrechen intensiver untersucht
• Menschen mit geringen wirtschaftlichen Mitteln wurden häufiger verhaftet
• Wenn die Beschwerden bestimmter Opfergruppen weniger ernst genommen wurden

Künstliche Intelligenz kann diese Muster als "richtige Vorgehensweise" erlernen.

Die Ungleichheit aus der Vergangenheit besteht somit fort, wenn auch in mathematischer Form.

Die Ethik-Charta des Europarats (CEPEJ) bekräftigt fünf Grundprinzipien: Achtung der Grundrechte, Verhinderung von Diskriminierung, Qualität und Sicherheit, Transparenz, Unparteilichkeit und Fairness sowie Nutzerkontrolle. Sie betont insbesondere, dass künstliche Intelligenz unter der Kontrolle von Justizbeamten bleiben und algorithmische Prozesse nachvollziehbar und überprüfbar sein müssen.

Welche Daten sollten zum Trainieren künstlicher Intelligenz verwendet werden?

Die Trainingsdaten eines im Justizsystem verwendeten Modells beeinflussen die Zuverlässigkeit des Systems unmittelbar.

Trainingsdaten:

• Es muss wahr und verifiziert sein
• Es sollte die aktuelle Gesetzgebung widerspiegeln
• Trennung von für ungültig erklärten oder widerrufenen Entscheidungen,
• Bereinigung personenbezogener Daten,
• Prüfung auf diskriminierende Muster,
• ausreichende Vertretung

ist notwendig.

Ein System, das ausschließlich auf früheren Gerichtsentscheidungen basiert, könnte diese früheren Entscheidungen als ideales Recht akzeptieren.

Aber das Gesetz:

• Gesetzesänderungen
• Entscheidungen des Verfassungsgerichts zur Aufhebung von Verfassungsgesetzen
• Änderungen in der Rechtsprechung,
• Urteile des EGMR
• Soziale und technologische Entwicklungen

Deshalb ändert es sich ständig.

Die Rolle der künstlichen Intelligenz besteht nicht darin, vergangene Mehrheitsentscheidungen zu wiederholen, sondern Richtern zuverlässige Unterstützung bei ihren Ermittlungen zu bieten.

Das Gleichgewicht zwischen Transparenz und Geschäftsgeheimnissen

Das im Gerichtsverfahren eingesetzte System für künstliche Intelligenz wurde möglicherweise von einem privaten Unternehmen entwickelt. Dieses Unternehmen möchte die Struktur des Algorithmus möglicherweise als Geschäftsgeheimnis schützen.

Ein System, das die Freiheit, das Eigentum oder den Ruf einer Person beeinträchtigt, kann jedoch nicht völlig abgeschottet bleiben.

Mindestens die folgenden Informationen sollten der Öffentlichkeit oder den beteiligten Parteien offengelegt werden:

• Das allgemeine Funktionsprinzip des Systems ist:
• Verwendungszweck
• Wichtigste Merkmale der Trainingsdaten,
• Genauigkeit und Fehlerraten,
• In welchen Bereichen es nicht verwendet werden kann,
• Menschlicher Kontrollmechanismus
• Systemaktualisierungen,
• Ergebnisse der unabhängigen Prüfung.

Gerechtigkeit erfordert nicht nur, die richtigen Entscheidungen zu treffen, sondern auch, dass der Entscheidungsprozess transparent und nachvollziehbar ist.

Die Erklärung „Der Algorithmus hat es so gesagt“ ist in einem Rechtsstaat nicht ausreichend.

Wer wird für den KI-Fehler zur Verantwortung gezogen?

Wenn künstliche Intelligenz falsche Entscheidungsempfehlungen liefert, kann das System nicht dafür verantwortlich gemacht werden. Künstliche Intelligenz besitzt keine Rechtspersönlichkeit und ist nicht strafrechtlich verantwortlich.

Die Haftung hängt von der Art des Vorfalls ab:

• Der Richter oder Staatsanwalt, der das System nutzt,
• Die Institution,
• Der Softwareentwickler,
• Der Auftragnehmer, der das System installiert oder betreibt,
• Die Person, die die falschen Daten angegeben hat

Es könnte auf der Tagesordnung stehen.

Allerdings muss zwischen dem richterlichen Charakter der Entscheidung und dem technischen Fehler in der Software unterschieden werden.

Software:

• Er hat das Dokument in der Akte nicht gezeigt
• Sie haben die falsche Person zugeordnet
• Er schlug ein Gesetz vor, das inzwischen aufgehoben wurde
• Es wurden Präzedenzfälle geschaffen, die es zuvor nicht gab
• Wenn er/sie ein Beweisstück falsch klassifiziert hat

Die technischen und administrativen Zuständigkeiten sind umstritten.

Wenn ein Richter oder Staatsanwalt jedoch ein Ergebnis einer KI verwendet hat, ohne es zu überprüfen, kann er sich nicht vollständig von seiner beruflichen Verantwortung freisprechen, indem er einfach sagt: „Das System hat es vorgeschlagen.“.

Wie sollte eine rechtliche Überprüfung durchgeführt werden?

Wurde künstliche Intelligenz bei einer Entscheidung eingesetzt, muss das Berufungs- oder Kassationsgericht in der Lage sein, die Auswirkungen dieses Einsatzes auf die Entscheidung zu beurteilen.

Im Rahmen des rechtlichen Prüfverfahrens sollten folgende Fragen gestellt werden:

1. In welchem ​​Prozess wurde künstliche Intelligenz eingesetzt?
2. Hat das System nur technische Unterstützung geleistet oder auch rechtliche Konsequenzen vorgeschlagen?
3. Wurden die Parteien über die Verwendung informiert?
4. Ist die Systemausgabe in der Datei verfügbar?
5. Wurde den Parteien die Möglichkeit gegeben, gegen das Ergebnis Einspruch zu erheben?
6. Hat der Richter das Ergebnis der KI unabhängig bewertet?
7. Enthält die Begründung für die Entscheidung eine echte juristische Bewertung?
8. Hat ein algorithmischer Fehler das Ergebnis der Entscheidung beeinflusst?

Wenn die Entscheidung auf einer algorithmischen Auswertung beruht, bei der die eigentliche Begründung nicht ersichtlich ist, dann ist die gerichtliche Überprüfung wirkungslos.

Vorgeschlagenes Rechtsmodell für künstliche Intelligenz in der Justiz

In der Türkei sollte ein spezifischer und detaillierter Rechtsrahmen für Systeme der künstlichen Intelligenz in der Justiz geschaffen werden.

Innerhalb dieses Rahmens sollten mindestens die folgenden Prinzipien berücksichtigt werden:

1. Risikobasierte Klassifizierung

Systeme:

• Administrative und technische,
• Entscheidungsunterstützung
• Evidenzanalyse,
• Hohes Risiko, das die Grundrechte unmittelbar beeinträchtigt

Sie sollten als Anträge eingestuft werden.

2. Verbotene Verwendungen

Künstliche Intelligenz:

• Die endgültige Entscheidung anstelle eines Richters oder Staatsanwalts zu treffen
• Jemanden allein aufgrund seines Profils als schuldig oder risikoreich einzustufen
• Lügenerkennung durch Stimmungsanalyse,
• Es kann ein Risiko der Bestrafung aufgrund von Merkmalen der sozialen Gruppe oder der Persönlichkeit erzeugen
• Bewertung vertraulicher Beweismittel durch die Verteidigung

Es sollte verboten werden.

3. Menschliche Kontrolle

Jedes Hochrisikoergebnis:

• Es sollte von einer sachkundigen Person überprüft werden
• Es sollte veränderbar sein
• Eine Ablehnung sollte möglich sein
• Das System sollte bei Bedarf angehalten werden können.

Die EU-Verordnung über künstliche Intelligenz schreibt außerdem vor, dass Hochrisikosysteme so konzipiert sein müssen, dass eine effektive menschliche Überwachung möglich ist, und dass diejenigen, die diese Aufgabe übernehmen, über die notwendige Kompetenz, Ausbildung und Genehmigung verfügen müssen.

4. Recht auf Benachrichtigung und Beschwerde

Wurde eine KI-Bewertung hinsichtlich einer Person vorgenommen, sollte dies der betreffenden Person mitgeteilt werden.

Seite:

• Als ich das Ergebnis sah,
• Informationen über die Methode einholen,
• Widersprechen Sie nicht,
• Eine Überprüfung durch einen Menschen anfordern

sollte das Recht haben.

5. Aufzeichnungen und Rückverfolgbarkeit

Zum System:

• Von wem?
• An welchem ​​Datum?
• In welcher Datei?
• Welche Daten werden verwendet?
• Welches Ergebnis wurde erzielt?

Transaktionsdatensätze müssen in einem unveränderlichen Format gespeichert werden.

6. Unabhängige Prüfung

Hochrisikosysteme:

• Anwälte,
• Experten für künstliche Intelligenz,
• Cybersicherheitsexperten,
• Datenschutzexperten
• Von Menschenrechtsexperten

Sie sollten regelmäßig von unabhängigen Gremien geprüft werden.

7. Kenntnisse im Bereich künstliche Intelligenz

Richter, Staatsanwälte und Gerichtsmitarbeiter:

• Wie künstliche Intelligenz funktioniert
• Risiko von Fehlern und Halluzinationen,
• Algorithmische Diskriminierung
• Sicherheit personenbezogener Daten,
• Überprüfung der Ergebnisse

Sie sollten in diesem Bereich ausgebildet werden.

Grundregeln für die sichere Verwendung in Staatsanwaltschaften und Gerichten

Folgende Grundprinzipien sollten hinsichtlich der im Justizwesen einzusetzenden Systeme künstlicher Intelligenz beachtet werden:

1. Künstliche Intelligenz sollte niemals die letztendliche Entscheidungsgewalt haben.
2. Staatsanwälte oder Richter sollten die Ergebnisse der KI nicht verwenden, ohne sie mit der vollständigen Akte abzugleichen.
3. Die Risiken einer risikoreichen Nutzung sollten den beteiligten Parteien erläutert werden.
4. Die Parteien sollten das Recht haben, das algorithmische Ergebnis anzufechten und eine unabhängige Überprüfung zu beantragen.
5. Rechtsprechung und Gesetzgebung, die von künstlicher Intelligenz vorgeschlagen werden, müssen anhand der Originalquelle überprüft werden.
6. Die eigentlichen Dateidaten sollten nicht in öffentlich zugängliche Systeme der künstlichen Intelligenz hochgeladen werden.
7. Untersuchungs- und Versuchsdaten dürfen nicht ohne Genehmigung für das Modelltraining verwendet werden.
8. Die alleinige Ausgabe eines Algorithmus sollte kein Grund für Verhaftung, Verurteilung oder Entlassung sein.
9. Systeme sollten regelmäßig auf Diskriminierungsfähigkeit, Fehlerrate und Sicherheit getestet werden.
10. Es sollte für Richter und Staatsanwälte weder technisch noch administrativ schwierig sein, zu unterschiedlichen Entscheidungen zu gelangen.
11. Von künstlicher Intelligenz generierte Entscheidungsentwürfe sollten eine reale und individuelle Begründung enthalten.
12. Der Einsatz künstlicher Intelligenz sollte nicht dazu führen, dass Justizbeamte hinsichtlich ihrer numerischen Leistung unter Druck gesetzt werden.

Abschluss

Künstliche Intelligenz bietet erhebliche Chancen für Strafverfolgung und Gerichte. Die Analyse tausender Datenseiten, das Auffinden ähnlicher Fälle, die Recherche von Präzedenzfällen, die Überwachung von Fristen und die Automatisierung von Routineprozessen können die Geschwindigkeit und Zugänglichkeit des Rechtssystems verbessern.

Die Aufgabe der Justiz besteht jedoch nicht nur darin, schnelle Entscheidungen zu treffen.

Der Zweck der Gerechtigkeit:

• Rechtskonform,
• Unvoreingenommen,
• Individualisiert,
• Es ist überprüfbar
• Mit Begründung,
• Gerecht

Das ist eine Entscheidung, die getroffen werden muss.

Die Staatsanwaltschaft muss im Rahmen ihrer eigenen rechtlichen Beurteilung feststellen, ob eine Straftat begangen wurde, ob ein hinreichender Verdacht besteht und ob ein Strafverfahren eingeleitet werden sollte.

Der Richter muss die Beweise unmittelbar prüfen, die Behauptungen und Einwände der Parteien berücksichtigen und seine Entscheidung nach dem Gesetz und seinem Gewissen fällen.

Künstliche Intelligenz:

• Sie können die Datei bearbeiten
• Es kann Informationen klassifizieren
• Sie können Präzedenzfälle finden
• Man kann auf die Widersprüche hinweisen
• Es kann einen Entwurf erstellen.

Aber:

• Der Verdächtige kann nicht ausgewählt werden
• Es kann kein Schuldurteil fällen
• Es kann nicht über die Notwendigkeit einer Verhaftung entscheiden
• Man kann die Ehrlichkeit des Zeugen nicht feststellen
• Es kann das gewissenhafte Urteil des Richters nicht ersetzen.

Die akzeptable Grenze für künstliche Intelligenz in der Justiz ist dort erreicht, wo Technologie Richter und Staatsanwalt unterstützt. Das Recht auf ein faires Verfahren ist gefährdet, wenn Technologie beginnt, die rechtliche Beurteilung zu beeinflussen, Entscheidungen im Verborgenen zu treffen oder Ergebnisse zu erzielen, die die Parteien nicht anfechten können.

Daher sollte der Grundsatz lauten:

Künstliche Intelligenz kann einen Fall lesen, klassifizieren und Empfehlungen dazu abgeben; die rechtliche und moralische Verantwortung für Anklage, Haftbefehl, Freispruch oder Verurteilung muss jedoch immer bei einem Menschen bleiben.

Die Zukunft der Justiz sollte nicht in einem Algorithmus gesucht werden, der den Richter ersetzt, sondern in unabhängigen Richtern und unparteiischen Staatsanwälten, die die Technologie verstehen, überwachen und, wenn nötig, ablehnen.