Yapay Zekâ Hata Yaparsa Kim Sorumlu? Hukukun Yeni Sorumluluk Alanı

Yapay zekâ teknolojileri artık yalnızca teknoloji şirketlerinin geliştirdiği deneysel sistemler olmaktan çıkmış durumda. Hukuk, sağlık, finans, eğitim, üretim, ulaşım ve kamu hizmetleri gibi birçok alanda yapay zekâ destekli sistemlerden yararlanılıyor.

Ancak yapay zekânın kullanımının yaygınlaşması, beraberinde önemli bir hukuki soruyu da getiriyor:

Yapay zekâ bir hata yaptığında ortaya çıkan zarardan kim sorumlu olacak?

Örneğin bir yapay zekâ sistemi yanlış bir tıbbi değerlendirme yaparsa, otonom bir araç kaza yaparsa, bir şirketin yapay zekâ sistemi bir kişiye ilişkin hatalı karar verirse veya bir yapay zekâ uygulaması gerçeğe aykırı bilgi üreterek maddi zarara yol açarsa sorumluluk kime ait olacaktır?

Bu soruların tek bir cevabı bulunmamaktadır. Sorumluluğun belirlenmesinde yapay zekâ sisteminin niteliği, sistemi geliştiren ve kullanan kişilerin konumu, ortaya çıkan zararın türü ve sistemin nasıl kullanıldığı gibi birçok unsurun birlikte değerlendirilmesi gerekir.

Yapay Zekânın Kendisi Hukuken Sorumlu Tutulabilir mi?

Bugünkü hukuk sistemlerinde temel meselelerden biri, yapay zekâ sistemlerinin hukuki kişiliğe sahip olup olmadığıdır.

Bir yapay zekâ sistemi kendi başına şirket, gerçek kişi veya tüzel kişi değildir. Bu nedenle yapay zekânın bir hata yapması hâlinde doğrudan yapay zekânın malvarlığına veya hukuki sorumluluğuna başvurulması şeklinde klasik bir sorumluluk modeli bulunmamaktadır.

Bu nedenle hukuki sorumluluğun belirlenmesinde genellikle yapay zekâ sisteminin arkasındaki gerçek veya tüzel kişiler gündeme gelir.

Bunlar;

• Yapay zekâ sistemini geliştiren şirket,
• Sistemi piyasaya sunan üretici,
• Sistemi kullanan işletme,
• Sistemi kullanan kişi,
• Sistemin bakım ve güncellemesinden sorumlu kuruluş,
• Bazı durumlarda sistemi belirli bir amaçla entegre eden hizmet sağlayıcı

olabilir.

Dolayısıyla “Yapay zekâ hata yaptı” ifadesi hukuki açıdan başlangıç noktasıdır; asıl soru, bu hatanın ortaya çıkmasına hangi kişi veya kuruluşun hangi davranışının neden olduğu olacaktır.

Yapay Zekâ Hatası ile İnsan Hatası Arasındaki Fark

Yapay zekâ kaynaklı zararlarda en önemli sorunlardan biri, sistemin verdiği kararın arkasındaki insan müdahalesinin ne ölçüde belirleyici olduğudur.

Bir yapay zekâ sistemi tamamen otomatik şekilde çalışabileceği gibi, insan tarafından sürekli denetlenen bir sistem olarak da kullanılabilir.

Örneğin bir doktor, hastanın teşhisinde yapay zekâ destekli bir yazılımdan yararlanabilir. Yazılım yanlış bir öneride bulunursa, yalnızca yazılımın hatasına bakmak yeterli olmayabilir.

Doktorun;

• Sistemin önerisini kontrol edip etmediği,
• Sistemin güvenilirlik sınırlarını bilip bilmediği,
• Nihai kararı nasıl verdiği,
• Yapay zekâ çıktısına ne ölçüde bağlı kaldığı

gibi unsurlar da önem kazanabilir.

Dolayısıyla yapay zekâ tarafından oluşturulan bir sonuç ile insanın bu sonucu kullanarak verdiği karar birbirinden ayrılmalıdır.

Yapay Zekâ “Halüsinasyon” Yaparsa Sorumluluk Kime Ait Olur?

Üretken yapay zekâ sistemlerinin en çok tartışılan özelliklerinden biri, gerçekte var olmayan bilgileri gerçekmiş gibi sunabilmesidir.

Bu durum genellikle “yapay zekâ halüsinasyonu” olarak adlandırılır.

Örneğin bir yapay zekâ sistemi olmayan bir mahkeme kararını varmış gibi gösterebilir veya gerçekte bulunmayan bir akademik makaleye atıf yapabilir.

Hukuk alanında bu durum özellikle önemlidir.

Bir avukatın yapay zekâ tarafından oluşturulan yanlış bir içeriği hiçbir kontrol yapmadan dilekçesine eklemesi hâlinde ortaya çıkabilecek sorumluluk, yalnızca “yapay zekâ yanlış bilgi verdi” denilerek açıklanamaz.

Profesyonelin kendi mesleki yükümlülükleri, kullanılan sistemin niteliği ve hatanın nasıl ortaya çıktığı ayrıca değerlendirilmelidir.

Burada önemli bir ilke ortaya çıkar:

Yapay zekâ tarafından üretilen bilgi, doğrulanması gereken bir çıktı olabilir; kendiliğinden doğrulanmış hukuki gerçek olarak kabul edilmesi gerekmez.

Üretici Şirket Sorumlu Olabilir mi?

Bazı durumlarda yapay zekâ sistemini geliştiren veya piyasaya sunan şirketin sorumluluğu gündeme gelebilir.

Özellikle sistemde bir tasarım veya yazılım hatası bulunması, güvenlik önlemlerinin yetersiz olması veya kullanıcıların maruz kalabileceği riskler konusunda gerekli bilgilendirmenin yapılmaması gibi durumlar hukuki açıdan önem taşıyabilir.

Ancak üreticinin her yapay zekâ çıktısından otomatik olarak sorumlu tutulması da doğru değildir.

Bir sistemin yanlış kullanılması, kullanım amacının dışında çalıştırılması veya kullanıcı tarafından verilen hatalı verilerin yanlış sonuç doğurması gibi durumlarda sorumluluğun farklı şekilde değerlendirilmesi mümkündür.

Bu nedenle sorumluluk bakımından “ürünü kim geliştirdi?” sorusu kadar “ürün nasıl kullanıldı?” sorusu da önemlidir.

Yapay Zekâyı Kullanan Şirketin Sorumluluğu

Bir şirket yapay zekâ sistemini çalışanlarının veya müşterilerinin işlemlerinde kullanıyorsa, sistemin kullanım biçimi bakımından belirli hukuki risklerle karşılaşabilir.

Örneğin bir şirket, iş başvurularını değerlendirmek için yapay zekâ destekli bir sistem kullanabilir.

Sistem belirli aday gruplarını sistematik olarak dezavantajlı hâle getiriyorsa, ortaya çıkan durum yalnızca teknik bir yazılım problemi olmayabilir. İş hukuku, eşit davranma yükümlülüğü, ayrımcılık yasağı ve kişisel verilerin korunması gibi farklı hukuk alanları da gündeme gelebilir.

Bu nedenle şirketlerin yapay zekâ kullanımında yalnızca teknolojik performansı değil, hukuki riskleri ve insan denetimini de dikkate alması gerekir.

Yapay Zekâ ve Kişisel Veriler

Yapay zekâ sistemlerinin önemli bir bölümü büyük miktarda veriyle çalışır.

Bu veriler arasında kişisel veriler de bulunabilir.

Örneğin bir şirket çalışanlarının performansını analiz etmek, müşterilerin davranışlarını tahmin etmek veya otomatik karar sistemleri oluşturmak amacıyla yapay zekâ kullanabilir.

Bu durumda kişisel verilerin;

• Hangi amaçla işlendiği,
• Hangi verilerin kullanıldığı,
• Hukuki işleme şartının bulunup bulunmadığı,
• Ne kadar süre saklandığı,
• Kimlerle paylaşıldığı,
• Otomatik karar verme süreçlerinde nasıl kullanıldığı

gibi konular önem kazanabilir.

Dolayısıyla yapay zekâ kullanımı, yalnızca sorumluluk hukuku açısından değil, kişisel verilerin korunması hukuku açısından da yeni sorular ortaya çıkarmaktadır.

Yapay Zekâ Tarafından Verilen Kararlar Denetlenebilir mi?

Yapay zekâ sistemlerinin hukuki açıdan tartışılan özelliklerinden biri de kararların nasıl üretildiğinin her zaman kolaylıkla anlaşılmamasıdır.

Özellikle karmaşık makine öğrenmesi modellerinde sistemin belirli bir sonucu neden ürettiğini kullanıcı açısından açıklamak zor olabilir.

Bu durum hukuk açısından önemli bir soruna yol açabilir:

Bir kişi hakkında karar veren sistemin neden bu kararı verdiği açıklanamıyorsa, kişinin bu karara karşı etkili şekilde itiraz etmesi nasıl mümkün olacaktır?

Bu soru özellikle;

• İşe alım,
• Kredi değerlendirmesi,
• Sigortacılık,
• Eğitim,
• Sağlık,
• Kamu hizmetleri

gibi alanlarda önem taşımaktadır.

Bu nedenle yapay zekâ sistemlerinde şeffaflık, açıklanabilirlik ve insan denetimi giderek daha önemli hukuki kavramlar hâline gelmektedir.

Avrupa Birliği Yapay Zekâ Yasası Neden Önemli?

Yapay zekâ alanındaki en kapsamlı düzenleme girişimlerinden biri Avrupa Birliği’nin Yapay Zekâ Yasası (AI Act) olmuştur.

Düzenleme, yapay zekâ sistemlerini risk seviyelerine göre ele alan bir yaklaşım benimsemektedir.

Özellikle yüksek riskli yapay zekâ uygulamalarında;

• Risk yönetimi,
• Veri kalitesi,
• Teknik dokümantasyon,
• Kayıt tutma,
• Şeffaflık,
• İnsan gözetimi,
• Doğruluk ve güvenlik

gibi yükümlülükler öngörülmektedir.

Bu yaklaşım, yapay zekâ hukukunda önemli bir değişimi göstermektedir:

Hukuk yalnızca “zarar meydana geldikten sonra kim sorumlu?” sorusuna değil, “zararın meydana gelmesini önlemek için sistem kullanılmadan önce hangi tedbirler alınmalı?” sorusuna da odaklanmaktadır.

Türkiye’de Yapay Zekâdan Kaynaklanan Zararlarda Hangi Hukuk Kuralları Gündeme Gelebilir?

Türkiye’de yapay zekâ kaynaklı her uyuşmazlık için tek ve özel bir “yapay zekâ sorumluluk kanunu” bulunduğu şeklinde genel bir değerlendirme yapmak doğru değildir.

Somut olayın niteliğine göre mevcut hukuk kuralları uygulanabilir.

Bunlar arasında;

• Türk Borçlar Kanunu,
• Türk Ticaret Kanunu,
• Tüketicinin Korunması Hakkında Kanun,
• Kişisel Verilerin Korunması Kanunu,
• İş Kanunu,
• Fikri mülkiyet mevzuatı

gibi farklı düzenlemeler gündeme gelebilir.

Örneğin hatalı bir yapay zekâ hizmeti nedeniyle tüketicinin zarara uğraması ile işyerinde yapay zekâ kullanılarak çalışan hakkında karar verilmesi aynı hukuki çerçevede değerlendirilmez.

Yapay Zekâ ile Üretilen İçeriğin Telif Hakkı Kime Aittir?

Yapay zekâ tarafından oluşturulan metin, görsel, müzik veya başka bir içerik de önemli fikri mülkiyet soruları ortaya çıkarmaktadır.

Örneğin bir kişi yapay zekâ sistemine bir komut vererek görsel oluşturduğunda, ortaya çıkan ürün üzerinde kimin hak sahibi olacağı sorusu gündeme gelebilir.

Burada;

• İçeriğin nasıl oluşturulduğu,
• İnsan katkısının niteliği,
• Kullanılan yapay zekâ sisteminin sözleşme şartları,
• İçeriğin başka eserlerden ne ölçüde yararlandığı

gibi unsurlar önem taşıyabilir.

Dolayısıyla yapay zekâ tarafından üretilen her içeriğin otomatik olarak kullanıcıya ait olduğu veya hiçbir şekilde hukuki korumadan yararlanamayacağı şeklinde genel bir sonuca varmak mümkün değildir.

Yapay Zekâ Hatasında Sorumluluk Nasıl Belirlenecek?

Gelecekte yapay zekâ kaynaklı uyuşmazlıklarda mahkemelerin karşılaşacağı temel sorulardan bazıları şunlar olacaktır:

Sistem nasıl tasarlandı?

Sistemin bilinen riskleri var mıydı?

Kullanıcı bu riskler hakkında bilgilendirildi mi?

Sistem kullanım amacına uygun şekilde mi kullanıldı?

İnsan denetimi var mıydı?

Zarar, sistemin hatasından mı yoksa kullanıcı müdahalesinden mi kaynaklandı?

Sistemin çıktısı doğrulanması gereken bir öneri olarak mı, yoksa otomatik karar olarak mı kullanıldı?

Zararın öngörülebilirliği ve önlenebilirliği neydi?

Bu soruların cevapları, sorumluluğun hangi kişi veya kuruluşa yüklenebileceğinin belirlenmesinde önem taşıyabilir.

Yapay Zekâ Kullanırken Şirketler Nelere Dikkat Etmeli?

Yapay zekâ kullanan işletmeler açısından yalnızca teknolojiyi satın almak yeterli değildir.

Kuruluşların kullandıkları yapay zekâ sisteminin;

• Hangi amaçla kullanıldığını,
• Hangi verileri işlediğini,
• Hangi kararları otomatik olarak verdiğini,
• İnsan denetiminin bulunup bulunmadığını,
• Hangi riskleri taşıdığını,
• Kullanıcıların nasıl bilgilendirileceğini

belirlemesi önemlidir.

Ayrıca özellikle yüksek risk içeren alanlarda yapay zekâ sistemlerinin düzenli olarak kontrol edilmesi ve gerektiğinde insan müdahalesine imkân tanınması hukuki risklerin azaltılması bakımından önem taşıyabilir.

Sonuç: Yapay Zekâ Yeni Bir Hukuki Sorumluluk Alanı mı?

Yapay zekânın yaygınlaşması, hukuk açısından tamamen yeni bir sorumluluk alanı yaratmaktan ziyade mevcut hukuk kurallarının yeni teknolojik durumlara uygulanmasını gerektiren çok sayıda soru ortaya çıkarmaktadır.

Bir yapay zekâ sistemi hata yaptığında sorumluluğun doğrudan yapay zekâya yüklenmesi mümkün değildir. Sorumluluğun belirlenebilmesi için sistemin geliştiricisi, üreticisi, hizmet sağlayıcısı, kullanıcısı ve somut olayda karar veren kişi gibi aktörlerin rollerinin ayrı ayrı değerlendirilmesi gerekir.

Özellikle yapay zekânın;

• Sağlık,
• Hukuk,
• Finans,
• İnsan kaynakları,
• Ulaşım,
• Kamu hizmetleri

gibi yüksek etkili alanlarda kullanılması, insan denetimi ve sorumluluk mekanizmalarının önemini artırmaktadır.

Geleceğin hukukunda temel mesele yalnızca “Yapay zekâ hata yaptı mı?” olmayacaktır.

Asıl sorular; hatanın neden meydana geldiği, riskin önceden öngörülüp öngörülemeyeceği, gerekli önlemlerin alınıp alınmadığı ve insanın yapay zekâ tarafından üretilen sonuca ne ölçüde güvenmesinin makul olduğu üzerinden şekillenecektir.

Bu nedenle yapay zekâ hukukunda sorumluluk, yalnızca teknolojiyi geliştirenlerin değil, yapay zekâyı tasarlayan, piyasaya sunan, kullanan ve denetleyen tüm aktörlerin rollerinin birlikte değerlendirilmesini gerektiren çok boyutlu bir konu hâline gelmektedir.

Yapay Zekâ Hatasında Deliller Nasıl Korunmalı?

Bir uyuşmazlık ortaya çıktığında yalnızca son çıktıyı saklamak yeterli olmayabilir. Kullanılan sistemin sürümü, istemler, tarih ve saat bilgileri, log kayıtları, sisteme verilen veriler, sözleşmeler ve insan tarafından yapılan kontrol veya değişiklikler mümkün olduğunca korunmalıdır. Bu kayıtlar, zararın sistem tasarımından, yanlış veriden, kullanım biçiminden veya insan denetiminin eksikliğinden kaynaklanıp kaynaklanmadığının değerlendirilmesinde önem taşıyabilir.