Algoritma Suç İşlerse Kelepçe Kime Takılır? Yapay Zekâ, Mühendis ve İşletenin Ceza Sorumluluğu

Giriş

Yapay zekâ sistemleri artık yalnızca metin veya görsel üreten yardımcı araçlar olmaktan çıkmıştır. Kredi başvurularını değerlendiren, tıbbi teşhis önerileri sunan, araçları yönlendiren, güvenlik sistemlerini çalıştıran, kişileri profilleyen ve insan müdahalesi olmaksızın belirli kararlar verebilen sistemler günlük hayatın parçası hâline gelmiştir.

Bu gelişme, ceza hukuku bakımından temel bir soruyu ortaya çıkarmaktadır:

Bir yapay zekâ sistemi insanın ölümüne, yaralanmasına, dolandırılmasına veya kişisel verilerinin ele geçirilmesine neden olursa suçun faili kim olacaktır?

Yapay zekâ sisteminin kendisi mi, sistemi geliştiren mühendis mi, yazılım şirketi mi, sistemi piyasaya süren yönetici mi, yoksa sistemi somut olayda kullanan kişi mi sorumlu tutulacaktır?

Türk Ceza Kanunu’nda yapay zekâ sistemlerini doğrudan suç faili kabul eden özel bir düzenleme bulunmamaktadır. TBMM kayıtlarında yapay zekâ teknolojilerine genel bir hukuki çerçeve oluşturmayı amaçlayan kanun teklifleri yer almakla birlikte bu teklifler hâlen komisyon aşamasındadır. Bu nedenle günümüzde yapay zekâ kaynaklı olayların cezai değerlendirmesi, mevcut Türk Ceza Kanunu ve Ceza Muhakemesi Kanunu hükümleri üzerinden yapılmaktadır.

Mevcut hukuk düzeninde temel yaklaşım, yapay zekânın bağımsız bir suç faili değil, insan tarafından tasarlanan, eğitilen, işletilen veya kullanılan bir araç olduğu yönündedir. Ancak bu yaklaşım, yapay zekâyı geliştiren her mühendisin meydana gelen her zarardan otomatik olarak sorumlu tutulacağı anlamına gelmez.

Ceza sorumluluğu bakımından kişinin sisteme ne ölçüde müdahale ettiği, riski bilip bilmediği, sonucu isteyip istemediği, sonucu öngörüp öngörmediği, müdahale etme imkânı ve yükümlülüğü bulunup bulunmadığı ayrı ayrı incelenmelidir.

Yapay Zekâ Sistemi Suçun Faili Olabilir mi?

Günümüzde doğrudan ceza sorumluluğu mümkün değildir

Anayasa’nın 38. maddesinde suç ve cezaların kanuniliği ile ceza sorumluluğunun şahsiliği ilkeleri kabul edilmiştir. Buna göre kanunun suç saymadığı bir fiil nedeniyle ceza verilemez ve herkes yalnızca kendi fiilinden sorumlu tutulabilir.

Türk Ceza Kanunu’nun 2. maddesi de kanunun açıkça suç saymadığı bir fiil için kimseye ceza verilemeyeceğini düzenlemektedir. TCK’nın 20. maddesine göre ceza sorumluluğu şahsidir; kimse başkasının fiilinden dolayı sorumlu tutulamaz. Kanun, tüzel kişiler hakkında dahi doğrudan ceza yaptırımı uygulanamayacağını, ancak kanunda açıkça öngörülen güvenlik tedbirlerinin uygulanabileceğini belirtmektedir.

Yapay zekâ sistemi ise gerçek kişi olmadığı gibi mevcut hukuk düzeninde bağımsız bir tüzel kişiliğe de sahip değildir. Bu nedenle bir yapay zekâ sistemi hakkında;

• Hapis cezası,
• Adli para cezası,
• Hak yoksunluğu,
• Denetimli serbestlik,
• Tekerrür,
• Hükmün açıklanmasının geri bırakılması

gibi kişiye özgü ceza hukuku kurumlarının uygulanması mümkün değildir.

Yapay zekâya “elektronik kişilik” tanınması yönündeki teorik tartışmalar, mevcut Türk ceza hukuku bakımından doğrudan sonuç doğurmamaktadır. Suç ve cezada kanunilik ilkesi nedeniyle yapay zekânın fail sayılması, kanun koyucunun açık bir düzenlemesi bulunmadan yorum veya kıyas yoluyla kabul edilemez.

Yapay zekânın iradesi ile hukuki anlamda kast aynı şey değildir

Bir yapay zekâ sistemi teknik olarak seçim yapabilir, belirli seçenekleri puanlayabilir ve insan müdahalesi olmaksızın çıktı üretebilir. Ancak ceza hukukundaki kast, yalnızca teknik bir karar üretme kabiliyeti değildir.

TCK’nın 21. maddesine göre kast, suçun kanuni tanımındaki unsurların bilerek ve istenerek gerçekleştirilmesidir. Olası kast ise kişinin suçun meydana gelebileceğini öngörmesine rağmen fiili gerçekleştirmesini ifade eder. Taksir de kişinin dikkat ve özen yükümlülüğüne aykırı davranışıyla bağlantılıdır.

Bu kavramların merkezinde hukuki anlamda bir insan iradesi, kusur yeteneği ve davranışın hukuka aykırılığını kavrayabilme kapasitesi bulunmaktadır. Bir algoritmanın istatistiksel hesaplama sonucunda zararlı bir çıktı üretmesi, tek başına ceza hukukundaki kast veya taksir kavramına karşılık gelmez.

Bu nedenle yapay zekânın “kendi kararıyla” hareket etmiş görünmesi, ceza sorumluluğunun sistemin üzerine bırakılmasını sağlamaz. Soruşturmanın yapması gereken, sistemin arkasındaki insan davranışlarını ve karar zincirini ortaya çıkarmaktır.

Yapay Zekâyı Geliştiren Mühendis Her Durumda Sorumlu mudur?

Hayır. Bir yapay zekâ sistemini geliştiren mühendis, sistemin neden olduğu her zarardan otomatik olarak cezalandırılamaz.

Ceza sorumluluğunun şahsiliği ilkesi uyarınca yalnızca “sistemi geliştirmiş olmak” yeterli değildir. Mühendisin cezai sorumluluğundan söz edilebilmesi için en azından;

1. Suç teşkil eden bir neticenin meydana gelmesi,
2. Mühendisin kişisel bir fiilinin veya ihmalinin bulunması,
3. Bu fiil ile netice arasında nedensellik bağının kurulması,
4. Neticenin hukuken mühendise yüklenebilir olması,
5. Mühendisin kast veya kanunda cezalandırılan bir taksir derecesiyle hareket etmesi,
6. İhlal edilen somut bir dikkat ve özen yükümlülüğünün belirlenmesi

gerekir.

Bir yazılım projesinde yüzlerce kişinin çalışması, bütün çalışanların aynı şekilde sorumlu tutulmasını mümkün kılmaz. Her kişinin görev alanı, bilgi seviyesi, karar yetkisi, sisteme müdahale gücü ve zararlı sonucu önleme imkânı ayrı ayrı araştırılmalıdır.

Mühendisin Kasten Sorumlu Olabileceği Durumlar

Yapay zekânın suç işlemek amacıyla tasarlanması

Bir mühendis yapay zekâ sistemini doğrudan suç işlemek amacıyla geliştirirse cezai sorumluluğu doğabilir.

Örneğin sistem;

• Kişilerin banka bilgilerini ele geçirmek,
• Kimlik avı mesajları üretmek,
• Başkasının sesini taklit ederek dolandırıcılık yapmak,
• Zararlı yazılım geliştirmek,
• Çocukların cinsel istismarına ilişkin içerik üretmek,
• Yasa dışı sistemlere erişim sağlamak,
• Sahte delil oluşturmak

amacıyla tasarlanmışsa yapay zekâ, suçu gerçekleştiren bağımsız fail değil, insan failin kullandığı icra aracı olarak değerlendirilebilir.

Burada suçun gerçek faili, suç işleme iradesini taşıyan ve sistemi bu amaçla geliştiren veya kullanan kişidir.

TCK’nın 37. maddesine göre suçun kanuni tanımındaki fiili birlikte gerçekleştiren kişiler fail olarak sorumlu olur. TCK’nın 38 ve 39. maddeleri ise azmettirme ve yardım etme sorumluluğunu düzenlemektedir. Sistemi geliştiren, kullanan ve piyasaya süren kişiler arasında ortak suç işleme kararı bulunması hâlinde müşterek faillik; yalnızca bilerek teknik destek sağlanması hâlinde ise yardım etme hükümleri gündeme gelebilir.

Ancak TCK’nın 37/2. maddesindeki “başkasını araç olarak kullanma” hükmünün yapay zekâya doğrudan uygulanması tartışmalıdır. Maddede “başkası” ifadesi kullanıldığından, suçta ve cezada kanunilik ilkesi gereğince hükmün yapay zekâya kıyas yoluyla genişletilmemesi gerekir. Yapay zekâyı kullanan kişinin sorumluluğu, çoğu durumda doğrudan faillik veya iştirak hükümleri üzerinden kurulmalıdır.

Zararlı sonucu bilerek serbest bırakma

Bir mühendis veya yönetici, sistemin suç teşkil eden sonuçlar doğuracağını bilmesine rağmen sistemi bilerek devreye alırsa doğrudan kast veya olası kast tartışması gündeme gelir.

Örneğin yapılan testlerde sistemin belirli kişileri öldürme tehlikesi taşıdığı açıkça ortaya çıkmış, buna rağmen ticari kazanç amacıyla sistem piyasaya sürülmüşse yalnızca teknik hata veya basit ihmalden söz edilmesi mümkün olmayabilir.

Olası kast ile bilinçli taksir arasındaki ayrım özellikle önemlidir:

• Kişi neticenin meydana gelebileceğini öngörmüş ve bunu kabullenmişse olası kast,
• Neticeyi öngörmesine rağmen gerçekleşmeyeceğine güvenmişse bilinçli taksir

gündeme gelir.

Bu ayrım; iç yazışmalar, hata raporları, test sonuçları, risk değerlendirmeleri, yöneticilerin kararları ve sistemin durdurulmamasına ilişkin gerekçeler üzerinden yapılmalıdır.

Taksirli Sorumluluk Ne Zaman Doğar?

TCK’nın 22. maddesine göre taksirli fiiller yalnızca kanunda açıkça belirtilen hâllerde cezalandırılabilir. Taksir, dikkat ve özen yükümlülüğüne aykırılık nedeniyle neticenin öngörülmeden meydana gelmesidir. Birden fazla kişinin taksirle hareket ettiği durumlarda herkes yalnızca kendi kusurundan sorumlu tutulur.

Bu düzenleme yapay zekâ sistemleri bakımından son derece önemlidir. Çünkü mühendis veya şirket çalışanı, meydana gelen her sonuçtan “taksirle” sorumlu tutulamaz. Öncelikle ilgili suçun taksirli şeklinin kanunda düzenlenmiş olması gerekir.

Örneğin yapay zekâ sistemi nedeniyle bir kişinin ölmesi veya yaralanması hâlinde;

• Taksirle öldürme,
• Taksirle yaralama

hükümleri değerlendirilebilir.

Buna karşılık hakaret, dolandırıcılık veya iftira gibi yalnızca kasten işlenebilen suçlar bakımından “mühendisin daha dikkatli davranması gerekirdi” denilerek taksirli ceza sorumluluğu kurulamaz.

Dikkat ve özen yükümlülüğünün kaynağı

Mühendisin taksirli sorumluluğu değerlendirilirken hangi yükümlülüğü ihlal ettiği somut şekilde gösterilmelidir. Bu yükümlülük;

• Kanundan,
• Yönetmelikten,
• Mesleki standartlardan,
• Sözleşmeden,
• Görev tanımından,
• Şirket içi güvenlik prosedürlerinden,
• Teknik test protokollerinden,
• Daha önce tespit edilen hata ve uyarılardan

kaynaklanabilir.

Soyut biçimde “daha güvenli bir sistem yapılabilirdi” denilmesi ceza sorumluluğu için yeterli değildir. Hangi teknik önlemin alınması gerektiği, bu önlemin uygulanabilir olup olmadığı ve alınması hâlinde neticenin önlenip önlenemeyeceği belirlenmelidir.

Öngörülebilirlik ve önlenebilirlik

Mühendisin taksirli sorumluluğu bakımından neticenin objektif olarak öngörülebilir ve önlenebilir olması gerekir.

Sistemin daha önce hiç görülmemiş, teknik olarak öngörülmesi mümkün olmayan ve makul testlerle tespit edilemeyecek bir davranış göstermesi hâlinde mühendis bakımından kusur bulunmayabilir.

Buna karşılık;

• Aynı hata daha önce meydana gelmişse,
• Güvenlik ekibi uyarıda bulunmuşsa,
• Testlerde ciddi risk tespit edilmişse,
• Kritik güvenlik önlemleri maliyet nedeniyle kaldırılmışsa,
• Sistem gerekli denetim yapılmadan piyasaya sürülmüşse,
• Bilinen güvenlik açığı kapatılmamışsa

neticenin öngörülebilir olduğu kabul edilebilir.

Yapay zekânın karmaşık veya “kara kutu” niteliğinde olması, tek başına sorumluluğu ortadan kaldırmaz. Ancak sistemin açıklanamaması da tek başına mühendisin suçlu olduğu anlamına gelmez. Ceza sorumluluğu, somut ve ispatlanmış bir yükümlülük ihlaline dayanmalıdır.

Mühendisin İhmali Davranıştan Sorumluluğu

Bazı olaylarda sorun, mühendisin zararlı bir kod yazmasından değil, ortaya çıkan tehlikeye rağmen müdahale etmemesinden kaynaklanabilir.

Örneğin mühendis;

• Sistemin ölümcül hata verdiğini tespit etmiş,
• Sistemi uzaktan durdurma yetkisine sahip olmuş,
• Tehlikeyi gidermekle sözleşme veya görev tanımı gereği yükümlü bulunmuş,
• Buna rağmen bilerek müdahale etmemişse

ihmali davranıştan doğan ceza sorumluluğu gündeme gelebilir.

TCK’nın 83. maddesine göre ihmali davranışla ölümden sorumluluk için kişinin kanundan veya sözleşmeden kaynaklanan bir müdahale yükümlülüğünün bulunması ya da önceden gerçekleştirdiği davranışla tehlikeli bir durum yaratmış olması gerekir. Kasten yaralamanın ihmali davranışla işlenmesinde de benzer şartlar uygulanmaktadır.

Bu nedenle sistemde çalışan herkesin değil, müdahale konusunda hukuki ve fiilî yükümlülüğü bulunan kişilerin sorumluluğu araştırılmalıdır.

Bir yazılım geliştiricinin sisteme erişim yetkisi bulunmaması veya sistemi tek başına durduramaması hâlinde meydana gelen sonuç doğrudan ona yüklenemez. Buna karşılık riskten haberdar olan ve sistemi durdurabilecek yetkiye sahip yönetici veya operasyon sorumlusunun sorumluluğu daha ağır olabilir.

Sistemi Üreten Şirketin Ceza Sorumluluğu

Türk Ceza Kanunu’nun 20/2. maddesi uyarınca tüzel kişiler hakkında doğrudan ceza yaptırımı uygulanamaz. Ancak kanunda açıkça öngörülen hâllerde tüzel kişilere özgü güvenlik tedbirleri uygulanabilir. TCK’nın 60. maddesinde bunlar belirli şartlarda izin iptali ve müsadere olarak düzenlenmiştir.

Dolayısıyla yapay zekâ sistemini geliştiren şirket hakkında hapis cezasından söz edilemez. Bununla birlikte;

• Şirket yöneticileri,
• Proje sorumluları,
• Güvenlik yöneticileri,
• Yazılım mühendisleri,
• Sistemi kullanan personel

kendi kişisel fiilleri ve kusurları nedeniyle cezai sorumluluk taşıyabilir.

Şirketin büyüklüğü veya kararların kurul hâlinde alınmış olması, bireysel sorumluluğu ortadan kaldırmaz. Soruşturma makamı, “şirket yaptı” şeklindeki genel bir değerlendirmeyle yetinmemeli; hangi gerçek kişinin hangi kararı aldığını belirlemelidir.

Şirketin organizasyon yapısındaki görev dağılımı, yetki belgeleri, toplantı tutanakları, elektronik postalar, onay kayıtları ve teknik raporlar bu nedenle kritik öneme sahiptir.

Sistemi Kullanan Kişinin Sorumluluğu

Yapay zekâ sisteminin kullanıcısı, sistemi suç işlemek amacıyla kullanmışsa genel hükümlere göre sorumlu tutulur.

Örneğin bir kişi yapay zekâdan;

• Sahte ses kaydı üretmesini,
• Sahte WhatsApp görüntüsü hazırlamasını,
• Dolandırıcılık metni oluşturmasını,
• Başkasının sistemine izinsiz girilmesini,
• Tehdit veya şantaj içeriği hazırlanmasını

ister ve ortaya çıkan içeriği suçta kullanırsa “yapay zekâ yaptı” savunması sorumluluğunu ortadan kaldırmaz.

Burada yapay zekâ, suç kararını veren fail değil, failin kullandığı araçtır. Suçun niteliğine göre dolandırıcılık, iftira, sahtecilik, kişisel verilerin hukuka aykırı kullanılması, bilişim suçları, tehdit veya şantaj hükümleri uygulanabilir.

Yapay zekâ şirketinin sistemi genel amaçlı olarak geliştirmiş olması, kullanıcının bağımsız suç kararından sorumlu tutulmasını gerektirmez. Sıradan ve hukuka uygun kullanımlar için oluşturulmuş bir sistemin öngörülemeyen biçimde kötüye kullanılması hâlinde geliştiricinin cezai sorumluluğu kural olarak doğmaz.

Ceza Soruşturmasında Hangi Sistem İzlenmelidir?

Yapay zekâ kaynaklı bir olayda soruşturma yalnızca meydana gelen sonuca bakılarak yürütülmemelidir. Cumhuriyet savcılığı teknik ve hukuki sorumluluk zincirini ortaya çıkaracak aşamalı bir inceleme yapmalıdır.

1. Suç şüphesi ve insan aktörlerin belirlenmesi

CMK’nın 160. maddesine göre Cumhuriyet savcısı, bir suçun işlendiği izlenimini öğrenir öğrenmez maddi gerçeği araştırmaya başlamalı; şüphelinin lehine ve aleyhine olan delilleri toplamalı ve muhafaza altına almalıdır.

İlk aşamada şu kişiler belirlenmelidir:

• Sistemin sahibi,
• Modeli geliştiren ekip,
• Kaynak kodu yazan kişiler,
• Veri setini hazırlayan kişiler,
• Test ve güvenlik birimi,
• Sistemi piyasaya sürme kararını veren yöneticiler,
• Sistemi somut olayda işleten kişi,
• Son kullanıcı,
• Sisteme sonradan müdahale eden kişiler.

Her kişi doğrudan şüpheli kabul edilmemelidir. CMK’ya göre soyut ve genel nitelikteki ihbarlar nedeniyle araştırma yapılmaksızın kişilere şüpheli sıfatı verilmesi mümkün değildir.

2. Dijital delillerin derhâl korunması

Yapay zekâ sistemlerindeki kayıtlar kolaylıkla silinebilir, değiştirilebilir veya üzerine yeni veri yazılabilir. Bu nedenle delillerin kaybolmasını önlemek için erken aşamada koruma tedbirleri alınmalıdır.

Özellikle şu veriler muhafaza altına alınmalıdır:

• Kaynak kodun olay tarihindeki sürümü,
• Model dosyaları ve sürüm numarası,
• Eğitim ve ince ayar verileri,
• Kullanıcının sisteme verdiği komutlar,
• Sistem tarafından üretilen çıktılar,
• API erişim kayıtları,
• Kullanıcı ve yönetici logları,
• Hata ve güvenlik kayıtları,
• Model değişiklik geçmişi,
• Test sonuçları,
• Risk değerlendirme raporları,
• Şirket içi yazışmalar,
• Sistem durdurma ve müdahale kayıtları,
• Olaydan sonra yapılan değişiklikler.

Delillerin yalnızca ekran görüntüsü şeklinde alınması yeterli görülmemelidir. Verilerin orijinal yapısı korunmalı, hash değerleri alınmalı ve kim tarafından, ne zaman, hangi yöntemle elde edildiği tutanağa bağlanmalıdır.

3. Cihazlarda ve bilgisayar sistemlerinde inceleme

CMK’nın 134. maddesi; somut delillere dayanan kuvvetli şüphe sebeplerinin bulunması ve başka şekilde delil elde etme imkânının olmaması hâlinde bilgisayarlar, bilgisayar programları ve bilgisayar kütüklerinde arama, kopyalama ve elkoyma yapılmasına imkân tanımaktadır. Kural olarak hâkim kararı gerekir; gecikmesinde sakınca bulunan hâllerde Cumhuriyet savcısının kararı yirmi dört saat içinde hâkim onayına sunulmalıdır.

Elkoyma sırasında sistemdeki verilerin yedeği alınmalı ve alınan yedekten bir kopya şüpheliye veya vekiline verilerek işlem tutanağa bağlanmalıdır.

Bilgisayarın veya sunucunun tamamına ölçüsüz şekilde elkonulması yerine, olayla ilgili sürüm, tarih aralığı, hesap ve veri bölümleri belirlenmelidir. Ticari sırlar, üçüncü kişilerin verileri ve soruşturmayla ilgisiz kişisel veriler yönünden ölçülülük ilkesi gözetilmelidir.

4. Fiziksel ve dijital eşyanın muhafaza altına alınması

CMK’nın 123. maddesine göre ispat aracı olarak yararlı görülen eşya ve malvarlığı değerleri muhafaza altına alınabilir; rıza ile teslim edilmemesi hâlinde bunlara elkonulabilir. Elkoymanın usulü CMK’nın 127. maddesinde düzenlenmiştir.

Bu kapsamda;

• Sunucular,
• Geliştirici bilgisayarları,
• Test cihazları,
• Otonom araç kontrol üniteleri,
• Mobil cihazlar,
• Haricî diskler,
• Güvenlik anahtarları

delil niteliğine göre muhafaza altına alınabilir.

5. Bilirkişi heyeti oluşturulması

Yapay zekâ kaynaklı olayların yalnızca genel adli bilişim bilirkişisine gönderilmesi çoğu zaman yeterli olmayabilir.

CMK’nın 63 ve devamı maddelerine göre çözümü özel veya teknik bilgiyi gerektiren konularda bilirkişi incelemesi yapılabilir. Bilirkişiye yöneltilecek sorular teknik konularla sınırlandırılmalı; hukuki nitelendirme mahkeme ve savcılık tarafından yapılmalıdır.

Somut olayın niteliğine göre heyette;

• Yapay zekâ ve makine öğrenmesi uzmanı,
• Yazılım mühendisi,
• Siber güvenlik uzmanı,
• Adli bilişim uzmanı,
• İlgili sektörden uzman,
• Ölüm veya yaralanma varsa adli tıp uzmanı

yer almalıdır.

Bilirkişiden yalnızca “sistem hatalı mıdır?” şeklinde genel bir görüş istenmemelidir. Şu sorular ayrı ayrı yöneltilmelidir:

• Zararlı çıktı hangi teknik süreç sonucunda oluşmuştur?
• Olay tarihindeki model sürümü hangisidir?
• Sisteme hangi komutlar verilmiştir?
• Çıktı insan müdahalesiyle değiştirilmiş midir?
• Bilinen güvenlik açığı mevcut mudur?
• Risk daha önce testlerde ortaya çıkmış mıdır?
• Uygulanabilir bir güvenlik önlemi var mıdır?
• Bu önlem alınsaydı netice önlenebilir miydi?
• Hangi kişi veya birim sisteme müdahale yetkisine sahiptir?
• Sistem amaçlanan kullanım dışında mı kullanılmıştır?
• Kullanıcı tarafından koruma tedbirleri aşılmış mıdır?
• Sistem kayıtları sonradan değiştirilmiş veya silinmiş midir?

Bilirkişi raporu taraflara tebliğ edilmeli, taraflara itiraz ve yeni bilirkişi incelemesi talep etme imkânı tanınmalıdır. Şüpheli, sanık veya müdafi ayrıca uzmanından bilimsel mütalaa alabilir.

6. Nedensellik bağının kurulması

Yapay zekâ sisteminin zararlı bir çıktı üretmiş olması, her teknik hatanın ceza hukuku bakımından neticenin sebebi olduğu anlamına gelmez.

Şu sorular cevaplandırılmalıdır:

• Mühendisin fiili olmasaydı netice meydana gelir miydi?
• Sisteme daha sonra üçüncü kişi müdahale etmiş midir?
• Kullanıcı açık güvenlik uyarılarına aykırı davranmış mıdır?
• Sistem amaç dışı kullanılmış mıdır?
• Başka bir yazılım veya donanım arızası etkili olmuş mudur?
• Mağdurun veya üçüncü kişinin bağımsız davranışı nedensellik bağını kesmiş midir?
• İhlal edilen kural, meydana gelen neticeyi önlemeyi amaçlamakta mıdır?

Ceza sorumluluğu yalnızca teknik nedenselliğe değil, neticenin hukuken faile yüklenebilir olmasına da dayanmalıdır.

7. Kast ve taksir incelemesi

Soruşturma makamı, şüphelilerin bilgi ve irade durumunu somut delillerle ortaya koymalıdır.

Bu kapsamda;

• Güvenlik uyarıları,
• Hata bildirimleri,
• Toplantı tutanakları,
• Mühendislerin yönetime gönderdiği raporlar,
• Yöneticilerin sistemi devreye alma talimatları,
• Maliyet nedeniyle kaldırılan önlemler,
• Sistemin durdurulmasına karşı çıkan kişilerin yazışmaları

önem taşıyabilir.

Teknik bilirkişi yalnızca riskin bilinebilir olup olmadığını açıklamalıdır. Kişinin kastla mı, olası kastla mı, bilinçli taksirle mi veya basit taksirle mi hareket ettiğine ilişkin nihai değerlendirme hukuki bir meseledir ve yargı makamına aittir.

8. İddianamenin kişiselleştirilmesi

CMK’nın 170. maddesine göre yeterli şüphe bulunması hâlinde düzenlenen iddianamede yüklenen fiiller, suçun delilleriyle ilişkilendirilerek açıklanmalıdır.

Yapay zekâ dosyasında iddianamede yalnızca “şirket yapay zekâ sistemini hatalı üretmiştir” şeklinde genel bir isnat bulunması yeterli değildir.

Her şüpheli bakımından;

• Görev ve yetkisi,
• Gerçekleştirdiği veya ihmal ettiği fiil,
• Riskten ne zaman haberdar olduğu,
• Müdahale imkânı,
• İhlal ettiği dikkat ve özen yükümlülüğü,
• Neticeyle bağlantısı,
• Kast veya taksir biçimi

ayrı ayrı gösterilmelidir.

9. Delillerin duruşmada tartışılması

CMK’nın 217. maddesine göre hâkim kararını ancak duruşmaya getirilen ve huzurunda tartışılan delillere dayandırabilir. Yüklenen suç, hukuka uygun şekilde elde edilmiş delillerle ispat edilebilir.

Bu nedenle yapay zekâ sistemine ilişkin gizli algoritma, kapalı kaynak kod veya şirket tarafından hazırlanmış tek taraflı teknik rapor, savunmanın incelemesine kapalı şekilde mahkûmiyete esas alınmamalıdır.

Ticari sırların korunması gerekli olsa dahi savunmanın isnadın temelini oluşturan teknik delillere etkili biçimde erişebilmesi ve bilirkişi raporuna itiraz edebilmesi sağlanmalıdır.

Mühendisin Sorumluluğunu Ortadan Kaldırabilecek Durumlar

Mühendis veya geliştirici bakımından şu durumlar ceza sorumluluğunun bulunmadığını gösterebilir:

• Sistem hukuka uygun ve olağan amacı dışında kullanılmışsa,
• Kullanıcı güvenlik önlemlerini bilinçli biçimde aşmışsa,
• Mühendisin sisteme müdahale veya karar yetkisi bulunmuyorsa,
• Risk teknik olarak öngörülemez durumdaysa,
• Gerekli bütün test ve güvenlik önlemleri alınmışsa,
• Zarar üçüncü kişinin bağımsız ve kasıtlı müdahalesinden kaynaklanmışsa,
• Mühendis riski zamanında bildirmiş ancak yönetim uyarıları dikkate almamışsa,
• Meydana gelen netice ile mühendisin fiili arasında nedensellik bağı kurulamıyorsa,
• İsnat edilen suçun taksirli şekli kanunda düzenlenmemişse.

Ancak şirket içinde üst makamın talimatı, her durumda sorumluluğu ortadan kaldırmaz. TCK’nın 24. maddesine göre konusu suç teşkil eden emir yerine getirilemez; aksi durumda emri veren ile yerine getirenin sorumluluğu gündeme gelebilir.

Sonuç

Mevcut Türk ceza hukuku sisteminde yapay zekâ, bağımsız bir suç faili olarak cezalandırılamaz. Yapay zekânın hukuki kişiliği, cezai kusur yeteneği ve ceza yaptırımlarına muhatap olma kapasitesi bulunmamaktadır.

Ancak bu durum yapay zekâ aracılığıyla meydana gelen suçların cezasız kalacağı anlamına gelmez.

Somut olayın özelliklerine göre;

• Sistemi suç işlemek amacıyla kullanan kişi,
• Sistemi bu amaçla geliştiren mühendis,
• Suça bilerek teknik destek sağlayan kişiler,
• Bilinen ölüm veya yaralanma riskine rağmen sistemi devreye alan yöneticiler,
• Müdahale yükümlülüğü olduğu hâlde tehlikeyi önlemeyen sorumlular

cezai sorumluluk taşıyabilir.

Buna karşılık yalnızca yazılım ekibinde çalışmak, kodun küçük bir bölümünü yazmak veya sistemi teknik olarak geliştiren şirkette görev yapmak tek başına ceza sorumluluğu doğurmaz. Ceza sorumluluğu kolektif değil, kişiseldir.

Yapay zekâ kaynaklı ceza soruşturmalarında doğru yaklaşım, “Yapay zekâ suç işledi.” şeklindeki soyut kabul yerine şu soruları sormaktır:

Sistemi kim tasarladı, kim yönetti, kim kullandı, riski kim biliyordu, kim müdahale edebilirdi ve kim kendi kusurlu davranışıyla suç teşkil eden neticeye neden oldu?

Bu sorular teknik delillerle cevaplandırılmadan bir mühendisin, yöneticinin veya kullanıcının cezalandırılması mümkün değildir. Yapay zekâ ne tek başına bir cezasızlık kalkanı ne de sistemde çalışan herkesin sorumlu tutulmasını sağlayan bir gerekçedir.

Ceza hukukunun merkezinde algoritma değil; algoritmayı tasarlayan, yönlendiren, kullanan ve denetlemekle yükümlü olan insanın kişisel kusuru bulunmaktadır.