Shadow AI ve Siber Güvenlik Riskleri: Şirketler Yapay Zekâ Kaynaklı Tehditlere Karşı Ne Yapmalı?

Yapay zekâ araçlarının iş hayatında yaygınlaşması, şirketler açısından yalnızca verimlilik artışı sağlamamış, aynı zamanda yeni siber güvenlik risklerini de beraberinde getirmiştir. Çalışanların ChatGPT ve benzeri üretken yapay zekâ uygulamalarını şirketin bilgisi veya onayı dışında kullanması, kurumsal bilgi güvenliği sistemlerinin dışında yeni veri akışlarının oluşmasına neden olabilmektedir.

Bu durum genel olarak Shadow AI olarak adlandırılmaktadır.

Shadow AI, çalışanların şirket tarafından onaylanmamış yapay zekâ araçlarını kullanması veya kullanılmasına izin verilen yapay zekâ sistemlerini şirket tarafından belirlenen sınırların dışında kullanması şeklinde ortaya çıkabilir.

Örneğin bir çalışanın şirket sözleşmesini kişisel bir yapay zekâ hesabına yüklemesi, yazılımcının kaynak kodunu ücretsiz bir AI aracında kontrol ettirmesi veya satış ekibinin müşteri listesini bilinmeyen bir yapay zekâ platformunda analiz ettirmesi Shadow AI kapsamında ciddi siber güvenlik riskleri doğurabilir.

Kişisel Verileri Koruma Kurumu da işyerlerinde üretken yapay zekâ araçlarının kullanımının her zaman kurumsal politika veya yönlendirme çerçevesinde gerçekleşmediğine ve çalışanların bireysel tercihleri doğrultusunda gerçekleşen kullanımın kurumsal düzeyde izlenmesini ve yönetilmesini güçleştirebildiğine dikkat çekmektedir.

Bu nedenle Shadow AI yalnızca bir çalışan disiplini veya teknoloji kullanımı meselesi değildir. Konunun siber güvenlik, kişisel verilerin korunması, ticari sırların korunması, iş hukuku ve şirket yönetişimi bakımından birlikte değerlendirilmesi gerekir.

Shadow AI Nedir?

Shadow AI, şirketin bilgi teknolojileri, hukuk veya bilgi güvenliği birimlerinin bilgisi ve onayı dışında kullanılan yapay zekâ sistemlerini ifade eder.

Kavram, geçmişte kullanılan “Shadow IT” yaklaşımının yapay zekâ sistemlerine uyarlanmış biçimi olarak düşünülebilir.

Çalışanlar çoğu zaman kötü niyetle hareket etmez. Amaçları işleri daha hızlı tamamlamak olabilir.

Bir çalışan uzun bir sözleşmeyi birkaç dakika içerisinde özetlemek, başka bir çalışan Excel tablosunu analiz etmek, yazılımcı ise kaynak kodundaki hatayı tespit etmek için yapay zekâ kullanabilir.

Ancak şirket açısından sorun şudur:

Şirket verisinin hangi yapay zekâ sistemine, hangi hesap üzerinden, hangi amaçla ve hangi güvenlik koşulları altında aktarıldığı bilinmeyebilir.

Shadow AI’nin siber güvenlik açısından temel riski tam olarak burada ortaya çıkmaktadır.

Shadow AI Neden Siber Güvenlik Riski Oluşturur?

Geleneksel kurumsal bilişim sistemlerinde şirketler hangi yazılımların kullanılabileceğini büyük ölçüde kontrol edebilir.

Kurumsal e-posta sistemleri, bulut depolama alanları, VPN altyapıları, şirket bilgisayarları ve dosya paylaşım sistemleri bilgi güvenliği politikalarına tabi tutulabilir.

Ancak çalışan internet üzerinden birkaç saniye içerisinde yeni bir yapay zekâ hizmetine üye olabilir ve şirket verilerini bu sisteme aktarabilir.

Şirket bu yapay zekâ hizmetinin;

verileri nerede sakladığını, verileri ne kadar süre tuttuğunu, hangi güvenlik standartlarını uyguladığını, hangi alt hizmet sağlayıcıları kullandığını veya hesabın nasıl korunduğunu bilmiyor olabilir.

Dolayısıyla Shadow AI şirket içerisinde kontrolsüz ve görünmez yeni veri çıkış kanalları oluşturabilir.

Şirket Verilerinin Yapay Zekâ Sistemlerine Sızması

Shadow AI’nin en önemli siber güvenlik risklerinden biri veri sızıntısıdır.

Bir çalışan yapay zekâ aracına yalnızca basit bir soru sorduğunu düşünürken şirket açısından son derece değerli bilgiler paylaşabilir.

Örneğin;

• müşteri listeleri,
• ticari sözleşmeler,
• finansal tablolar,
• fiyatlandırma stratejileri,
• banka ve ödeme bilgileri,
• çalışan bilgileri,
• kaynak kodları,
• Ar-Ge belgeleri,
• yatırım planları,
• ihale teklifleri,
• şirket içi yazışmalar,
• kullanıcı adları veya teknik sistem bilgileri

kontrolsüz yapay zekâ sistemlerine aktarılabilir.

Bu verilerin şirket tarafından onaylanmamış sistemlere yüklenmesi hâlinde, bilgi güvenliği ekibinin geleneksel güvenlik mekanizmaları veri üzerinde kontrol sağlayamayabilir.

Çalışanın Kişisel Yapay Zekâ Hesabı Kullanması Neden Risklidir?

Shadow AI vakalarının önemli bir bölümü çalışanların kişisel hesapları üzerinden gerçekleşmektedir.

Çalışan şirket bilgisayarından kendi kişisel yapay zekâ hesabına giriş yapabilir ve şirket dokümanlarını bu hesap üzerinden işleyebilir.

Bu durumda şirket;

hesabın güvenlik seviyesini, çok faktörlü kimlik doğrulamasının bulunup bulunmadığını, konuşma geçmişinin nasıl tutulduğunu veya verilerin silinip silinmediğini kontrol edemeyebilir.

Çalışanın hesabının ele geçirilmesi hâlinde ise yalnızca kişisel bilgiler değil, daha önce iş amacıyla sisteme girilmiş kurumsal bilgiler de risk altına girebilir.

Bu nedenle şirketlerin kişisel yapay zekâ hesaplarının iş amacıyla kullanılmasına ilişkin açık kurallar belirlemesi önemlidir.

Kaynak Kodlarının Yapay Zekâ Araçlarına Yüklenmesi

Yazılım ve teknoloji şirketleri bakımından Shadow AI’nin en önemli risklerinden biri kaynak kodlarının üçüncü taraf yapay zekâ sistemlerine aktarılmasıdır.

Yazılım geliştiricileri yapay zekâdan;

kod yazmak, hata tespit etmek, kodu optimize etmek veya yeni fonksiyonlar geliştirmek

amacıyla yararlanabilir.

Ancak sisteme girilen kod içerisinde şirketin;

özel algoritmaları, API yapısı, veri tabanı mimarisi, güvenlik mekanizmaları veya müşteriye özel yazılım bileşenleri

bulunabilir.

Bu bilgiler yalnızca fikrî mülkiyet veya ticari sır değildir. Aynı zamanda potansiyel saldırganlar açısından sistemin teknik yapısına ilişkin son derece değerli bilgiler oluşturabilir.

Bu nedenle şirketin kritik kaynak kodlarının yetkisiz yapay zekâ sistemlerine aktarılması aynı anda hem ticari sır hem de siber güvenlik riski yaratabilir.

Prompt İçerisinde Hassas Veri Paylaşılması

Shadow AI riskinin yalnızca dosya yükleme işlemlerinden kaynaklandığı düşünülmemelidir.

Çalışan herhangi bir dosya yüklemeden de yapay zekâ sistemine hassas bilgi aktarabilir.

Örneğin çalışan;

“Sunucumuzun IP adresi şu, kullandığımız güvenlik sistemi bu, aldığımız hata mesajı aşağıdaki gibi. Sorunu çöz.”

şeklinde bir istem yazabilir.

Başka bir çalışan ise müşterinin adı, telefon numarası, borç miktarı ve banka bilgilerini doğrudan prompt içerisine ekleyebilir.

Dolayısıyla şirketlerin yapay zekâ politikaları yalnızca dosya yüklemeyi değil, yapay zekâ sistemlerine yazılan komut ve istemleri de kapsamalıdır.

Prompt Injection Nedir?

Yapay zekâ sistemlerinin siber güvenlik açısından önemli risklerinden biri prompt injection saldırılarıdır.

Prompt injection, yapay zekâ sisteminin işleyişini beklenmeyen veya saldırgan tarafından istenen yönde değiştirecek talimatların sisteme verilmesini ifade eder.

Özellikle yapay zekâ sistemi e-posta, internet sitesi, doküman veya başka dış kaynaklardan otomatik veri okuyorsa saldırgan tarafından bu içeriklerin içerisine gizlenmiş talimatlar yapay zekânın davranışını etkileyebilir.

NIST ve OWASP tarafından yayımlanan yapay zekâ güvenliği çalışmalarında prompt injection saldırılarının hassas bilgilerin açığa çıkmasına, bağlı sistemlerin kötüye kullanılmasına ve yetkisiz işlemlerin gerçekleştirilmesine kadar uzanabilecek sonuçlar doğurabileceğine dikkat çekilmektedir.

Dolaylı Prompt Injection Neden Daha Tehlikeli Olabilir?

Geleneksel bir saldırıda saldırgan doğrudan yapay zekâ sistemine komut verir.

Dolaylı prompt injection saldırısında ise kötü niyetli talimat;

bir e-posta, internet sitesi, PDF belgesi veya yapay zekânın okuyacağı başka bir içerik içerisine yerleştirilebilir.

Örneğin şirketin yapay zekâ destekli e-posta asistanı gelen mesajları otomatik olarak analiz ediyor olabilir.

Saldırgan e-postanın içerisine yapay zekâ tarafından talimat olarak algılanabilecek kötü niyetli bir komut yerleştirdiğinde sistem beklenmeyen şekilde davranabilir.

Yapay zekâ sisteminin başka kurumsal sistemlere erişimi varsa risk daha da büyüyebilir.

Yapay Zekâ Araçlarına Gereğinden Fazla Yetki Verilmesi

Yeni nesil yapay zekâ sistemleri artık yalnızca soru-cevap uygulamalarından oluşmamaktadır.

Bazı sistemler;

e-posta hesabına, şirket takvimine, bulut depolama sistemine, müşteri yönetim sistemine veya veri tabanlarına

bağlanabilmektedir.

Bu tür sistemlere gereğinden fazla erişim yetkisi verilmesi önemli güvenlik riskleri yaratabilir.

Örneğin yalnızca dosya okumak amacıyla kullanılan bir yapay zekâ aracına dosya silme veya değiştirme yetkisinin de verilmesi gereksiz risk oluşturabilir.

OWASP, yapay zekâ sistemlerinde gereğinden fazla fonksiyon, yetki veya otonomi verilmesini “excessive agency” riski kapsamında değerlendirmekte ve en az yetki prensibinin uygulanmasını önermektedir.

Bu nedenle şirketlerde yapay zekâ entegrasyonlarında least privilege – en az yetki prensibi uygulanmalıdır.

Yapay Zekâ Eklentileri ve Entegrasyonları Yeni Saldırı Yüzeyi Oluşturabilir

Çalışanların kullandığı yapay zekâ araçları yalnızca bağımsız uygulamalar olmayabilir.

Tarayıcı eklentileri, e-posta yardımcıları, toplantı botları, kodlama araçları ve farklı SaaS entegrasyonları da yapay zekâ teknolojisi kullanmaktadır.

Çalışan birkaç tıklamayla bu araçlara;

e-posta okuma, Google Drive dosyalarına erişim, takvimi görüntüleme veya şirket uygulamalarına bağlanma

yetkisi verebilir.

Şirket bilgi güvenliği ekibi bu yetkilendirmeden haberdar değilse, kurumsal veriler şirketin öngörmediği bir üçüncü taraf sisteme açılmış olabilir.

Shadow AI bu nedenle yalnızca “hangi web sitesinin kullanıldığı” sorunu değildir.

Aynı zamanda hangi yapay zekâ uygulamasının hangi kurumsal sisteme hangi yetkiyle bağlandığı sorunudur.

AI Supply Chain Riski

Yapay zekâ sistemleri çok sayıda üçüncü taraf bileşene dayanabilir.

Bir yapay zekâ hizmetinin arkasında;

temel model sağlayıcısı, bulut hizmet sağlayıcısı, veri işleme altyapısı, eklentiler ve başka API hizmetleri

bulunabilir.

Şirket yalnızca doğrudan sözleşme yaptığı uygulamayı görüyor olabilir.

Ancak verinin işlendiği teknik zincir daha karmaşık olabilir.

Bu nedenle özellikle hassas kurumsal veriler işlenecekse yapay zekâ hizmet sağlayıcısının teknik ve hukuki tedarik zinciri ayrıca değerlendirilmelidir.

Zararlı veya Güvensiz Yapay Zekâ Çıktıları

Yapay zekâ yalnızca veri sızıntısı nedeniyle güvenlik problemi yaratmaz.

Yapay zekâ tarafından oluşturulan çıktı da doğrudan güvenlik riski oluşturabilir.

Örneğin yazılım geliştirici yapay zekâdan kod üretmesini isteyebilir.

Üretilen kod içerisinde güvenlik açığı bulunabilir.

Çalışan çıktıyı yeterli güvenlik kontrolünden geçirmeden üretim sistemine aktarırsa saldırganların kullanabileceği yeni bir zafiyet ortaya çıkabilir.

NIST’in yapay zekâ güvenliği çalışmalarında veri ve model manipülasyonunun güvensiz kod önerileri gibi sonuçlar doğurabileceğine de dikkat çekilmektedir.

Bu nedenle yapay zekâ çıktıları özellikle yazılım geliştirme süreçlerinde insan ve güvenlik kontrollerinden geçirilmelidir.

Yapay Zekâ Halüsinasyonları Siber Güvenlik Riski Yaratabilir mi?

Üretken yapay zekâ sistemleri zaman zaman gerçeğe aykırı bilgiler oluşturabilir.

Bu durum yalnızca içerik doğruluğu problemi değildir.

Örneğin yapay zekâ;

olmayan bir yazılım kütüphanesini kullanmayı önerebilir, hatalı güvenlik yapılandırması sunabilir veya tehlikeli bir sistem komutu oluşturabilir.

Çalışan bu çıktıyı doğrulamadan kullanırsa sistem üzerinde yeni güvenlik açıkları ortaya çıkabilir.

Bu nedenle şirket politikalarında yapay zekâ çıktılarının otomatik olarak güvenilir kabul edilemeyeceği açıkça düzenlenmelidir.

Shadow AI ve Kimlik Bilgilerinin Sızması

Çalışanlar teknik sorunları çözmek amacıyla hata mesajlarını yapay zekâ araçlarına kopyalayabilir.

Ancak hata kayıtları içerisinde;

API anahtarları, kullanıcı adları, erişim tokenları, bağlantı dizeleri veya başka kimlik doğrulama bilgileri

bulunabilir.

Bu bilgilerin yapay zekâ sistemine girilmesi, saldırganların şirket sistemlerine erişmesine imkân verebilecek ciddi bir güvenlik açığı oluşturabilir.

Bu nedenle şirketlerde parola, erişim anahtarı ve benzeri kimlik doğrulama bilgilerinin hiçbir harici yapay zekâ sistemine girilmemesi temel güvenlik kurallarından biri olmalıdır.

Shadow AI Fidye Yazılımı Riskini Artırabilir mi?

Shadow AI doğrudan fidye yazılımı anlamına gelmez.

Ancak çalışanların güvenilirliği doğrulanmamış AI uygulamaları, tarayıcı eklentileri veya masaüstü programları yüklemesi şirketin saldırı yüzeyini genişletebilir.

Zararlı veya güvenliği yetersiz yazılımlar şirket cihazlarına erişim kazanabilir.

Özellikle bilinmeyen üreticiler tarafından geliştirilen ve geniş sistem izinleri talep eden yapay zekâ uygulamalarının kurumsal cihazlara kurulmasına izin verilmesi risklidir.

Bu nedenle şirketlerin uygulama kurulum izinlerini ve onay prosedürlerini yapay zekâ araçlarını da kapsayacak şekilde güncellemesi gerekir.

Shadow AI ve KVKK Arasındaki İlişki

Shadow AI kaynaklı siber güvenlik olayları aynı zamanda kişisel veri ihlallerine neden olabilir.

Çalışan müşteri veya çalışan verilerini kontrolsüz bir yapay zekâ sistemine aktarırsa 6698 sayılı Kişisel Verilerin Korunması Kanunu bakımından değerlendirme yapılması gerekir.

KVKK’nın 12. maddesi kapsamında veri sorumlusu;

kişisel verilerin hukuka aykırı işlenmesini ve erişilmesini önlemek ve verilerin güvenli şekilde muhafazasını sağlamak amacıyla gerekli teknik ve idari tedbirleri almakla yükümlüdür.

Dolayısıyla şirketin;

“Çalışan bunu kendi kişisel yapay zekâ hesabından yaptı.”

savunması her durumda sorumluluğu ortadan kaldırmayabilir.

Şirketin gerekli güvenlik politikalarını oluşturup oluşturmadığı, çalışanları eğitip eğitmediği ve kontrol mekanizmalarının bulunup bulunmadığı önem taşıyabilir.

Kişisel Verileri Koruma Kurumu da üretken yapay zekâ kullanımının güvenli, sorumlu ve kişisel verilerin korunmasını gözeten bir yaklaşım içerisinde ele alınması gerektiğini vurgulamaktadır.

Shadow AI Kaynaklı Veri İhlali Gerçekleşirse Ne Yapılmalıdır?

Bir çalışanın şirket verilerini yetkisiz yapay zekâ sistemine aktardığı tespit edildiğinde olay yalnızca çalışana disiplin cezası verilmesi şeklinde ele alınmamalıdır.

İlk olarak olayın teknik kapsamı belirlenmelidir.

Hangi yapay zekâ hizmeti kullanılmıştır?

Hangi veriler aktarılmıştır?

Sisteme dosya mı yüklenmiştir, yoksa bilgiler prompt içerisine mi yazılmıştır?

Kişisel veri bulunmakta mıdır?

Ticari sır mevcut mudur?

Hesabın güvenliği sağlanmış mıdır?

Verinin sistemden silinmesi mümkün müdür?

Üçüncü taraf entegrasyonları bulunmakta mıdır?

Bu soruların cevapları sonrasında olayın siber güvenlik, KVKK, sözleşme ve iş hukuku boyutları birlikte değerlendirilmelidir.

Şirketler Shadow AI Riskini Nasıl Tespit Edebilir?

Shadow AI’nin en önemli özelliklerinden biri görünmez olmasıdır.

Bu nedenle şirketlerin öncelikle hangi yapay zekâ araçlarının fiilen kullanıldığını belirlemesi gerekir.

Şirket içerisinde yapay zekâ envanteri çıkarılabilir.

Hangi departmanın hangi aracı hangi amaçla kullandığı belirlenebilir.

Özellikle hukuk, finans, insan kaynakları, yazılım, Ar-Ge ve satış departmanları yüksek riskli alanlar olarak ayrıca değerlendirilebilir.

Yapay Zekâ Araçları İçin Onay Sistemi Kurulmalıdır

Çalışanların istediği her yapay zekâ aracını kullanması yerine kurumsal bir onay sistemi oluşturulabilir.

Yeni bir yapay zekâ aracının kullanılmasından önce;

güvenlik özellikleri, veri işleme şartları, erişim izinleri, entegrasyonları ve şirket verileri açısından oluşturduğu risk

incelenebilir.

İnceleme sonucunda uygulama onaylı araçlar listesine eklenebilir.

Böylece çalışanların ihtiyaçları tamamen engellenmeden Shadow AI riski azaltılabilir.

Veri Kaybını Önleme Sistemleri Yapay Zekâya Uyarlanmalıdır

Şirketlerin mevcut veri kaybını önleme sistemleri geleneksel e-posta ve dosya paylaşımı senaryolarına göre hazırlanmış olabilir.

Ancak günümüzde yapay zekâ uygulamaları da önemli veri çıkış kanallarından biri hâline gelmiştir.

Bu nedenle DLP sistemlerinin;

gizli dosyaların, kişisel verilerin, kaynak kodlarının veya kimlik bilgilerinin harici yapay zekâ sistemlerine aktarılmasını

tespit edecek veya engelleyecek şekilde yapılandırılması değerlendirilebilir.

Burada çalışanların kişisel verilerinin korunması ve denetimin ölçülü olması da unutulmamalıdır.

En Az Yetki Prensibi Uygulanmalıdır

Yapay zekâ araçlarının başka şirket sistemlerine bağlanması gerekiyorsa mümkün olan en düşük yetkiler verilmelidir.

Örneğin yapay zekâ yalnızca dosya okuyacaksa dosya silme yetkisi verilmemelidir.

Yalnızca belirli e-postaları analiz edecekse bütün posta kutusuna ve e-posta gönderme fonksiyonuna sınırsız erişim verilmemelidir.

Bu yaklaşım bir yapay zekâ sistemi saldırıya uğradığında ortaya çıkabilecek zararı da sınırlar.

Yapay Zekâ Sistemlerinde Çok Faktörlü Kimlik Doğrulama Kullanılmalıdır

Kurumsal yapay zekâ hesaplarında güçlü kimlik doğrulama yöntemleri kullanılmalıdır.

Özellikle şirket bilgilerini işleyen hesaplarda;

güçlü parolalar, çok faktörlü kimlik doğrulama, merkezi hesap yönetimi ve çalışan işten ayrıldığında erişimin hızlı şekilde kapatılması

önemlidir.

Çalışanların kişisel hesaplarından kurumsal işler yapması bu kontrollerin uygulanmasını zorlaştırabilir.

Shadow AI Politikası Hazırlanmalıdır

Siber güvenlik tedbirlerinin etkili olabilmesi için çalışanların hangi davranışların yasak olduğunu bilmesi gerekir.

Şirketlerin yazılı bir Shadow AI veya kurumsal yapay zekâ kullanım politikası hazırlaması bu nedenle önemlidir.

Politikada;

kullanılabilecek yapay zekâ sistemleri, kişisel hesapların kullanımı, yasaklanan veri türleri, entegrasyon izinleri, kaynak kodlarının kullanımı, kişisel veriler, ticari sırlar ve olay bildirim prosedürü

açıkça düzenlenmelidir.

Çalışanlara Siber Güvenlik Eğitimi Verilmelidir

Shadow AI olaylarının önemli bir bölümü kötü niyetten değil, farkındalık eksikliğinden kaynaklanabilir.

Çalışan;

“Ben yalnızca problemi çözmek için hata kaydını yapay zekâya gönderdim.”

diyebilir.

Ancak hata kaydında şirketin erişim anahtarı bulunabilir.

Başka bir çalışan;

“Yalnızca sözleşmeyi özetlettim.”

diyebilir.

Ancak sözleşmede müşteri verileri ve ticari sırlar olabilir.

Bu nedenle şirket eğitimlerinde gerçek kullanım örneklerine yer verilmelidir.

Teknik Ekip ile Hukuk Ekibi Birlikte Çalışmalıdır

Shadow AI’nin yalnızca bilgi teknolojileri departmanına bırakılması yeterli olmayabilir.

Teknik ekip;

ağ güvenliği, erişim kontrolü, DLP ve uygulama güvenliği

konularını değerlendirirken hukuk ekibi;

KVKK, ticari sırlar, çalışan denetimi, sözleşmesel gizlilik ve iş hukuku

boyutlarını değerlendirmelidir.

İnsan kaynakları birimi ise çalışan eğitimleri ve disiplin süreçlerinde rol almalıdır.

Dolayısıyla Shadow AI risk yönetimi şirket içerisinde disiplinler arası bir yapı gerektirir.

Çalışan Yapay Zekâ Kaynaklı Güvenlik Olayını Gizlememelidir

Şirket politikalarında çalışanların yanlışlıkla veri yüklemeleri hâlinde bunu gizlememeleri teşvik edilmelidir.

Çalışan olayın disiplin yaptırımına neden olacağından endişe ettiği için günlerce bildirim yapmazsa şirket veri sızıntısına zamanında müdahale edemeyebilir.

Bu nedenle;

“Hata yaptıysan hızlı bildir.”

yaklaşımına dayanan bir olay bildirim sistemi kurulması güvenlik açısından daha etkili olabilir.

Yapay Zekâ Olay Müdahale Planı Hazırlanmalıdır

Şirketlerin mevcut siber güvenlik olay müdahale planları yapay zekâ kaynaklı olayları kapsamayabilir.

Planlara Shadow AI senaryoları eklenmelidir.

Örneğin çalışan kritik bir şirket dosyasını kişisel yapay zekâ hesabına yüklediğinde;

hesabın güvenliği sağlanmalı, veri silme seçenekleri araştırılmalı, aktarılan bilgilerin kapsamı belirlenmeli ve gerekli hukuki bildirimler değerlendirilmelidir.

Benzer şekilde yapay zekâ entegrasyonunun şirket sistemlerinde yetkisiz işlem yaptığı tespit edilirse ilgili entegrasyon hızla devre dışı bırakılmalıdır.

Shadow AI Tamamen Engellenebilir mi?

Shadow AI’nin tamamen ortadan kaldırılması oldukça güçtür.

Çalışan şirket bilgisayarından yapay zekâ sitelerine erişemese dahi kişisel telefonundan kullanabilir.

Bu nedenle yalnızca internet sitelerini engellemek yeterli değildir.

En etkili yöntem;

güvenli kurumsal yapay zekâ araçları sağlamak, açık kurallar oluşturmak, çalışanları eğitmek ve riskli veri hareketlerini teknik yöntemlerle kontrol etmektir.

Amaç yapay zekânın kullanımını tamamen ortadan kaldırmak değil, güvenli ve hukuka uygun hâle getirmektir.

Shadow AI ve Siber Güvenlik Politikası Nasıl Birlikte Hazırlanmalıdır?

Şirketin Shadow AI politikası mevcut bilgi güvenliği politikalarından bağımsız olmamalıdır.

Yapay zekâ kullanımı;

erişim kontrol politikaları, veri sınıflandırması, bilgi güvenliği, kişisel cihaz kullanımı, bulut hizmetleri ve siber olay müdahale prosedürleri

ile bütünleşik şekilde düzenlenmelidir.

Örneğin “çok gizli” olarak sınıflandırılmış bir dosyanın kişisel e-postayla gönderilmesi yasakken aynı dosyanın yapay zekâ sistemine yüklenmesine izin verilmesi güvenlik politikası açısından tutarsız olacaktır.

Sonuç

Shadow AI ve siber güvenlik riskleri, yapay zekânın iş hayatında hızla yaygınlaşmasıyla şirketlerin karşı karşıya kaldığı önemli yeni nesil risk alanlarından biridir.

Çalışanların şirketin bilgisi dışında kullandığı yapay zekâ araçları;

kişisel verilerin ve ticari sırların sızmasına, kaynak kodlarının açığa çıkmasına, yetkisiz üçüncü taraf entegrasyonlarına, hesap güvenliği sorunlarına, prompt injection saldırılarına ve şirket sistemlerine yönelik yeni saldırı yüzeylerinin oluşmasına

neden olabilir.

Risk özellikle yapay zekâ sistemlerinin e-posta, bulut depolama, veri tabanı ve diğer kurumsal sistemlere bağlanmaya başlamasıyla daha da önem kazanmaktadır.

Şirketlerin bu nedenle Shadow AI sorununu yalnızca;

“Çalışanların ChatGPT kullanmasını yasaklayalım.”

yaklaşımıyla ele alması yeterli değildir.

Hangi yapay zekâ araçlarının kullanılabileceği belirlenmeli, şirket verileri sınıflandırılmalı, yapay zekâ sistemlerine verilen erişim yetkileri sınırlandırılmalı, kişisel hesap kullanımı düzenlenmeli ve çalışanlara düzenli siber güvenlik eğitimleri verilmelidir.

Bunun yanında yapay zekâ hizmetleri şirket sistemlerine bağlanırken en az yetki prensibi uygulanmalı ve yüksek riskli veri hareketleri teknik güvenlik sistemleriyle kontrol edilmelidir.

Shadow AI’nin hukuki boyutu da teknik güvenlik tedbirlerinden bağımsız düşünülemez.

Kişisel verilerin yapay zekâ sistemlerine aktarılması hâlinde KVKK, ticari sırların paylaşılması hâlinde işçinin sadakat ve gizlilik yükümlülükleri, müşterilere ait belgelerin kullanılması hâlinde ise sözleşmesel gizlilik hükümleri gündeme gelebilir.

Bu nedenle Shadow AI risklerinin yönetilmesi; hukuk, bilgi güvenliği, bilgi teknolojileri, insan kaynakları ve şirket yönetiminin birlikte hareket etmesini gerektirir.

Yapay zekâ kullanımının önümüzdeki dönemde daha da yaygınlaşacağı dikkate alındığında şirketlerin artık yalnızca;

“Sistemlerimize kimler erişebiliyor?”

sorusunu sorması yeterli değildir.

Şirketlerin aynı zamanda şu soruyu da cevaplaması gerekir:

“Çalışanlarımız şirket verilerimizi hangi yapay zekâ sistemlerine aktarıyor, bu sistemlere hangi yetkileri veriyor ve ortaya çıkan yeni siber güvenlik risklerini nasıl yönetiyoruz?”

Shadow AI’nin doğru yönetilmesi, önümüzdeki dönemde şirketlerin hem siber güvenlik stratejisinin hem de yapay zekâ yönetişiminin temel unsurlarından biri olacaktır.