"Yapay zeka yönetişimi" tartışmalarının çoğu, hukuk ve regülasyon ekiplerinin asıl ihtiyaç duyduğu kısmı atlıyor: güvenceleri.
Teknoloji, e-ticaret ve ağır regüle sektörlerde 20 yılı aşkın avukatlık sonrasında, şimdi hukuk işleri için yapay zeka araçları geliştiren biri olarak, bir ekip "yapay zekaya geçmeden" önce döndüğüm pratik güvence seti şu:
1) Mahremiyet. Veri nereye gidiyor, hukuki dayanak ne, model devreye girdikten sonra KVKK/GDPR hakları (erişim, silme, yurt dışı aktarım) hâlâ karşılanabiliyor mu? Bunu tek paragrafta yanıtlayamıyorsanız hazır değilsiniz.
2) Fikri mülkiyet ve gizlilik. Çıktının sahibi kim? Girdi ne oluyor: saklanıyor mu, eğitimde kullanılıyor mu? Avukat-müvekkil gizliliği kapsamındaki ya da sır niteliğindeki bilgi güvenlik sınırınızın dışına çıkıyor mu?
3) Şeffaflık ve hesap verebilirlik. Bir insan sistemin ürettiği yanıtı açıklayabiliyor mu ve açıklama gereken yerde (tüketiciye, düzenleyiciye karşı) bu açıklanıyor mu? Taslağı yapay zeka yazar; kararı ve sorumluluğu insan üstlenir.
4) Tedarikçi riski. Model değişiklikleri, alt işleyenler, veri saklama sınırları ve denetim hakları SSS sayfasına değil sözleşmeye aittir.
İşe yarayan örüntü şu: yapay zekayı yasaklamayın, körü körüne onaylamayın. Koşullu bir "evet" katmanı kurun: ekiplerin şirketi koruyarak hızlı ilerlemesini sağlayan açık koşullar. Sadece "hayır" diyen yönetişim dolanılır; benimsemeyi mümkün kılan yönetişim kullanılır.
Siz bu listeye ne eklerdiniz?