- within Intellectual Property and Family and Matrimonial topic(s)
Kişisel Verileri Koruma Kurumu (“KVK Kurumu”), internet sitesinde yayımladığı “Etken Yapay Zekâ (Agentic AI)” başlıklı doküman (“Metin”) ile etken yapay zekâ sistemlerinin teknik özellikleri, potansiyel kullanım alanları ve bu sistemlerin kişisel verilerin korunması bakımından gündeme getirdiği başlıca risk alanlarına ilişkin değerlendirmelerini kamuoyuyla paylaştı.
Söz konusu metin, KVK Kurumu’nun özellikle daha yüksek otonomi düzeyine sahip yapay zekâ sistemlerine hangi veri koruma başlıkları üzerinden yaklaştığını göstermesi bakımından önem taşıyor.
Etken Yapay Zekâ Sistemleri: Hedef Odaklı ve Otonom Yapılar
Metinde etken yapay zekâ sistemleri; belirli hedeflere ulaşmak amacıyla çevresel koşulları değerlendirebilen, planlama yapabilen, değişen durumlara uyum sağlayabilen ve farklı düzeylerde otonom biçimde eylem başlatabilen bütünleşik yapılar olarak ele alınıyor. Bu çerçevede KVK Kurumu, söz konusu sistemleri yalnızca kullanıcı komutlarına yanıt veren veya içerik üreten araçlar olarak değil; çok adımlı süreçleri yürütebilen, farklı veri kaynaklarını ve araçları koordine edebilen ve süreç içinde veri işleme kapsamını genişletebilen yapılar olarak değerlendiriyor.
Bu tür sistemlere örnek olarak, kullanıcının verdiği bir hedef doğrultusunda internet üzerinde araştırma yaparak kaynakları analiz eden ve rapor hazırlayan yapay zekâ aracıları veya müşteri taleplerini analiz ederek ilgili sistemlerde otomatik işlem başlatabilen dijital asistanlar gösterilebilir.
Çıkarıma Dayalı ve Türetilmiş Veriler Bakımından Artan Riskler
Metinde öne çıkan başlıklardan biri, etken yapay zekâ sistemlerinin farklı veri kaynaklarını bir araya getirerek bireyler hakkında yeni değerlendirmeler, profiller veya tahminler üretebilme kapasitesi. KVK Kurumu, başlangıçta sınırlı görünen veri unsurlarının başka veri kümeleriyle ilişkilendirilmesi sonucunda daha kapsamlı ve kimi durumlarda daha hassas sonuçlar ortaya çıkabileceğine dikkat çekiyor. Bu yaklaşım, etken yapay zekâ sistemlerinin değerlendirilmesinde yalnızca sisteme doğrudan kişisel veri girilip girilmediği sorusunun değil, sistemin farklı veri kümelerini ilişkilendirerek yeni kişisel veri katmanları üretip üretmediği sorusunun da önem kazandığını gösteriyor.
Şeffaflık, Açıklanabilirlik ve Hesap Verebilirlik
KVK Kurumu’nun dikkat çektiği bir diğer husus, birden fazla yapay zekâ aracısının koordineli biçimde çalıştığı yapılarda veri işleme süreçlerinin ve karar alma mekanizmalarının daha karmaşık bir yapı kazanabilmesi. Metinde, hangi veriye hangi aşamada erişildiğinin, hangi kararın hangi bileşen tarafından üretildiğinin ve insan müdahalesinin hangi noktada mümkün olduğunun her zaman açık biçimde ortaya konulamayabileceği belirtiliyor. Buna paralel olarak, geliştiriciler, sağlayıcılar ve sistemi kullanan kuruluşlar arasındaki rol ve sorumluluk dağılımının da bulanıklaşabileceği vurgulanıyor. Bu yönüyle Metin, etken yapay zekâ sistemlerinin yalnızca teknik performans açısından değil, daha güçlü bir yönetişim ve hesap verebilirlik çerçevesi içinde ele alınması gerektiğine işaret ediyor.
Veri Doğruluğu ve Güvenilir Çıktı Üretimi
Rehberde ayrıca, üretken yapay zekâ bileşenleriyle çalışan sistemlerde yanlış, eksik veya gerçeğe aykırı çıktılar üretilmesi ihtimalinin kişisel verilerin doğruluğu bakımından da risk yaratabileceği belirtiliyor. Özellikle yapay zekâ çıktılarının iç sistemlere aktarılması, bireyler hakkında değerlendirme yapılmasında kullanılması veya karar süreçlerine dayanak oluşturması hâlinde, hatalı veri üretiminin doğrudan veri koruma sonuçları doğurabileceği değerlendiriliyor. Bu yönüyle KVKK, veri doğruluğu meselesini yalnızca teknik bir kalite sorunu olarak değil, veri işleme faaliyetinin hukuka uygunluğu ile doğrudan ilişkili bir başlık olarak ele alıyor.
Risk Temelli Yönetişim, Veri Güvenliği ve İnsan Gözetimi
Metin, etken yapay zekâ sistemlerinin birden fazla veri kaynağı, araç ve dijital ortamla entegre biçimde çalışmasının klasik veri güvenliği risklerini daha karmaşık hâle getirdiğine dikkat çekiyor. Bu çerçevede riskin yalnızca yetkisiz erişim veya veri sızıntısı ile sınırlı olmadığı; sistem davranışlarının manipüle edilmesi, hassas bilgilerin açığa çıkması ve otonom işlem kapasitesinin doğurabileceği sonuçların da ayrıca değerlendirilmesi gerektiği vurgulanıyor. Buna paralel olarak KVK Kurumu, insan merkezli yaklaşım ve anlamlı insan gözetimini etken yapay zekâ yönetişiminin temel unsurları arasında konumlandırıyor. Sistemlerin hangi verilere erişebileceğinin, hangi işlemleri gerçekleştirebileceğinin ve insan denetiminin hangi aşamalarda devreye gireceğinin önceden tanımlanması; risk temelli yaklaşım ile tasarımdan itibaren mahremiyet ve varsayılan olarak mahremiyet ilkelerinin birlikte gözetilmesi gerektiği belirtiliyor.
Uygulama ve Uyum Perspektifi
KVK Kurumu’nun ortaya koyduğu çerçeve, etken yapay zekâ çözümlerini kullanan veya bu alanda hazırlık yapan şirketler bakımından bu sistemlerin yalnızca inovasyon ve verimlilik aracı olarak değil; veri envanteri, hukuki sebep analizi, erişim yetkileri, kayıt ve izleme mekanizmaları, tedarikçi ilişkileri, insan gözetimi ve iç yönetişim süreçleri kapsamında ayrıca değerlendirilmesi gereken bir uyum başlığı haline geldiğine işaret etmekte. Bu yönüyle Metin, özellikle birden fazla veri kaynağıyla çalışan, karar destek veya otonom işlem kabiliyeti bulunan yapay zekâ kullanım senaryolarında, mevcut veri koruma çerçevesinin sistem yaşam döngüsü boyunca yeniden gözden geçirilmesini gerektirebilecek önemli bir referans niteliği taşımakta.
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
