Yapay Zekâ Çağında Manevi Unsur (Kast–Taksir)
Yapay Zekâ Çağında Manevi Unsur (Kast–Taksir)
Giriş: Algoritmalar Çağında “Kusurlu Zihin” Ayakta Kalabilir mi?
Ceza hukukunun temel sütunlarından biri manevi unsur, yani mens rea’dır. Ceza sorumluluğu, yalnızca bir zarar meydana geldiği için değil, aynı zamanda failin zihinsel durumu bu zararı haklı şekilde kınamaya elverişli olduğu için doğar.
Yapay zekâ (YZ) çağında ise zararlı sonuçlar giderek daha çok karmaşık sosyo-teknik sistemlerden kaynaklanmaktadır: kendini geliştiren algoritmalar, opak yapay sinir ağları, otonom karar verme araçları. Bu sistemler düşünmez, kast kurmaz, cezadan korkmaz. Ama onları tasarlayan, eğiten, devreye sokan ve onlara güvenen insanlar vardır.
Bu durum şu temel soruyu gündeme getiriyor: Kararların YZ tarafından aracılık edildiği veya kısmen ikame edildiği bir dünyada manevi unsur nasıl anlaşılmalı ve uygulanmalıdır? Bu makale, kast, bilgi, bilinçli taksir ve taksir gibi klasik müesseselerin YZ ortamında nasıl dönüşebileceğini tartışmaktadır.
1. Klasik Manevi Unsur ve İnsan Temeli
Geleneksel ceza hukuku, fiille paralel şekilde bir manevi unsur arar. Tipik olarak:
-
Kast – Sonucu bilerek ve isteyerek gerçekleştirme,
-
Bilgi – Belirli olguların ve koşulların farkında olma,
-
Bilinçli taksir (recklessness) – Önemli ve haksız bir riski bilerek göze alma,
-
Taksir – Makul bir insanın göstermesi gereken dikkat ve özeni göstermeme.
Bu kademeler şuna dayanır:
-
Algılayabilen ve değerlendirme yapabilen bir insan zihni,
-
Riskleri kavrama ve tartma yeteneği,
-
Yapmak ile yapmamak arasında seçim yapabilme kapasitesi.
YZ sistemleri ise veri işler ve fonksiyon optimize eder. İnançları, arzuları veya vicdanları yoktur. Bu uyumsuzluk, YZ’nin karıştığı haksızlıklarda şu soruyu zorunlu kılar: Hangi anda ve hangi insanın manevi unsuru önemlidir?
2. Makine İçin Mens Rea Yok: YZ Kendi Başına “Kast” Kuramaz
Literatürde “makine kastı” veya “algoritmik mens rea” gibi kavramlar önerilmiştir. Ancak ceza hukuku perspektifinden bunlar, gerçek zihinsel durumlar değil, metafor niteliğindedir.
YZ sistemleri:
-
Hukuk normları hakkında inanç oluşturmaz,
-
Çıktılarının ahlaki niteliğini anlamaz,
-
Suçluluk, korku, pişmanlık gibi duygular yaşamaz.
İlkeler değil, desenler; vicdan değil, korelasyon üzerinden çalışırlar. Bu nedenle genel kabul, YZ’nin klasik anlamda manevi unsur taşıyamayacağıdır.
Bu, YZ’nin karıştığı zararların ceza hukukunun dışında kalacağı anlamına gelmez. Aksine, odağın YZ’nin arkasındaki insanlara çevrilmesi gerektiğini gösterir: geliştiriciler, yöneticiler, operatörler, kullanıcılar ve şirketler.
3. Manevi Unsuru YZ Değil, İnsan Aktörler Üzerinden Kurmak
YZ kaynaklı zararlı sonuçlarda, sistemin yaşam döngüsünde çeşitli karar anları manevi unsur açısından önem kazanır:
-
Tasarım ve geliştirme aşaması – Mimari, eğitim verisi, güvenlik mekanizmaları,
-
Uygulama ve kullanım bağlamı – YZ’nin hangi alanda ve nasıl devreye sokulduğu,
-
İzleme ve güncelleme – Hatalara, uyarılara ve olaylara verilen tepkiler,
-
Somut olayda kullanım – Operatörlerin YZ’ye nasıl güvenip nasıl müdahale ettiği.
Manevi unsur bu aşamaların herhangi birinde doğabilir:
-
Geliştirici, ciddi güvenlik açıklarını bilip görmezden gelmiş olabilir.
-
Şirket, yüksek riskli bir sistemi gerekli denemeler yapılmadan bilinçli olarak devreye sokmuş olabilir.
-
Kullanıcı, açık sınırlamalara rağmen YZ’ye ölçüsüz güvenerek özen yükümlülüğünü ihlal etmiş olabilir.
YZ çağında temel soru şuna dönüşmektedir: Sistem tarafından yaratılan riskle ilgili olarak, hangi insan hangi zihinsel durumda bulunuyordu?
4. YZ Kaynaklı Zararlarda Kast ve Bilgi
Kast ve bilgi, manevi unsurun en güçlü ve YZ bağlamında uygulanması en zor biçimleridir.
4.1. Doğrudan Kast
YZ senaryolarında doğrudan kast, şu durumlar dışında pek görülmez:
-
Geliştirici veya kullanıcı, belirli YZ’yi bilerek ve isteyerek suç işlemek için tasarlıyorsa (otomatik phishing, deepfake şantaj araçları, otonom zararlı yazılımlar),
-
Şirket, YZ tabanlı bir yapıyı hukuka aykırı bir amacı gerçekleştirmek için stratejik olarak benimsemişse (sistematik dolandırıcılık, bilinçli ayrımcılık).
Bu hâllerde YZ, sadece önceden mevcut insan kastının sofistike bir aracıdır.
4.2. Bilgi ve Kasıtlı Körlük
Daha karmaşık olan, aktörlerin YZ’nin ciddi zarar riski içerdiğini bilmesine veya kuvvetle şüphe etmesine rağmen devam etmesidir:
-
Bir platform, tavsiye algoritmasının zararlı içerikleri büyüttüğünü bilmesine rağmen, etkileşimi artırmak için değiştirmiyorsa.
-
Bir şirket, kredi skorlama YZ’sinin belirli grupları sistematik olarak dezavantajlı konuma soktuğuna dair veriye sahip olduğu hâlde kullanımı sürdürüyorsa.
Bu tür durumlarda mahkemeler, kasıtlı körlük (willful blindness) kavramına dayanabilir: Açık veya güçlü işaretlere rağmen riskten bilerek uzak durma çabası. İç raporlar, denetimler ve dış uyarılar, bilgi unsurunun ispatında kritik rol oynar.
5. YZ Çağında Bilinçli Taksir: Bilinçli Risk Almaya Yeni Örnekler
Bilinçli taksir (recklessness), bilinçli olarak önemli ve haksız bir risk almak anlamına gelir. YZ bağlamında şu tür örnekler düşünülebilir:
-
Yüksek riskli bir YZ’yi (örneğin tıbbî teşhis veya otonom araç alanında) ciddi belirsizliklere rağmen devreye sokmak,
-
YZ sistemiyle ilgili tekrarlayan uyarılara ve neredeyse kazaya dönüşen olaylara rağmen aynen kullanımı sürdürmek,
-
Uzman raporları, etik komite uyarıları veya regülatör risk sınıflandırmaları görmezden gelinerek sistemi kullanmaya devam etmek.
Bu tür durumlarda YZ’nin karmaşıklığı ve opaklığı, mazeret değil; aksine daha yüksek özen yükümlülüğü doğuran bir unsur olarak değerlendirilmelidir. Sistem ne kadar güçlü ve öngörülmesi zor ise, onu kullanan aktörün riskleri değerlendirme ve kontrol etme yükümlülüğü o kadar artar.
6. Taksir, Öngörülebilirlik ve “Kara Kutu” Algoritmalar
Taksir, YZ senaryolarında muhtemelen en sık başvurulacak manevi unsur biçimi olacaktır; özellikle de aktörlerin gerekli dikkat ve özeni göstermediği durumlarda.
Temel sorular şunlardır:
-
Tasarım, uygulama veya kullanım anında hangi riskler makul olarak öngörülebilirdi?
-
Benzer koşullarda makul bir geliştirici, şirket veya kullanıcı ne yapardı?
-
Göz ardı edilen mesleki standartlar, rehberler veya yasal yükümlülükler var mıydı?
“Kara kutu” YZ’nin opaklığı bu sorumluluğu ortadan kaldırmaz. Tam tersine, iç mantığı zor anlaşılır bir sistemi devreye sokmayı tercih eden aktör, bu tercihle birlikte test, belgelendirme ve izleme yükümlülüklerini artırmış sayılmalıdır. Özellikle yüksek riskli alanlarda bu yükümlülüğün ihlali, cezaî taksir kapsamında değerlendirilme potansiyeline sahiptir.
7. Bireysel Zihinden Kurumsal Kusura: Örgütsel Manevi Unsur
Büyük ölçekli YZ projelerinde kararlar çoğu zaman ekipler ve departmanlar arasında dağılmıştır. Hiçbir birey tüm riskin farkında olmayabilir. Bu durum, klasik “tek bir kişinin manevi unsuru”na dayalı analizleri zorlaştırır.
Burada kurumsal manevi unsur veya “örgütsel kusur” kavramları önem kazanır:
-
Risk almayı teşvik eden ve uyumu ikinci plana iten şirket politikaları,
-
Yetersiz iç bildirim ve ihbar mekanizmaları,
-
Güvenlik ve denetim faaliyetlerine sistemli biçimde yeterli kaynak ayrılmaması.
Bu bağlamda şirket, yapısı ve kültürü üzerinden bilinçli taksir veya taksirle hareket eden bir özne gibi değerlendirilebilir.
8. YZ İçin Makul Davranış ve Özen Ölçütünün Yeniden Tanımlanması
YZ bağlamında manevi unsurun sağlıklı işleyebilmesi için, hukukun “makul davranış” anlayışını güncellemesi gerekecektir:
-
Makul geliştirici, önyargı testleri, sağlamlık kontrolleri ve etki analizleri yapmalıdır.
-
Makul şirket, YZ yönetişim çerçeveleri, insan gözetimi ve olay raporlama mekanizmaları kurmalıdır.
-
Makul kullanıcı, YZ’nin yanılmaz olmadığını bilmeli ve uyarıları yok saymamalıdır.
Bu beklentiler mesleki standartlara ve düzenleyici çerçevelere yerleştikçe, bunlara uymamak artan ölçüde kusurlu davranış, ağır sonuç doğuran hâllerde ise cezaî taksir olarak nitelendirilecektir.
9. Sonuç: Manevi Unsuru Kurtarmak, Odağı YZ’den İnsana Çevirmekle Mümkün
Yapay zekâ çağında manevi unsur ortadan kalkmıyor; odağını değiştiriyor. Kast ve taksiri YZ’ye atfetmeye çalışmak yerine ceza hukuku:
-
YZ’nin yaşam döngüsündeki insan karar anlarını tespit etmeli,
-
Geliştirici, yönetici, operatör ve kullanıcıların zihinsel durumlarını değerlendirmeli,
-
Risk üreten kurumsal yapı ve kültürleri de kusur analizi kapsamına almalıdır.
YZ’nin “kusurlu zihni” olamaz. Ancak insanlar, YZ sistemlerine risk kodlayabilir, riski tolere edebilir veya riske göz yumabilir. Manevi unsurun geleceği, işte bu seçimlerin görünür ve hukuken hesap verebilir kılınmasına bağlıdır.
About Post Author
