Hukuk ekiplerinde üretken yapay zeka: gerçekte ne değişiyor?

Değişmeyenler

Hukuki muhakeme değişmiyor. Bir sözleşmenin riskini tartmak, bir düzenleyici kararın işletme için ne anlama geldiğini görmek, belirsizlik karşısında sorumluluğu kimin taşıyacağına karar vermek: hepsi bağlam, sezgi ve hesap verebilirlik isteyen işler. Bir model olası bir cümleyi üretir, ama o cümlenin arkasında durmaz; arkasında duran, altına imzayı atan kişidir. Düzenleyiciyle görüşmede masaya oturan da, sonucu yönetim kuruluna anlatan da hâlâ bir insan.

Gizliliğin ve muhakemenin insana ait kalması da değişmiyor. Şirket içi hukukta avukat-müvekkil gizliliği, sır saklama ve çıkar çatışması kuralları, araya bir araç girdi diye gevşemiyor. Üstelik gizliliğin hukuken nereye kadar uzandığı hukuk düzenine bağlı: şirket içi yazışmalar her yerde koruma altında değil, Avrupa Komisyonu’nun yürüttüğü bir rekabet soruşturmasında avukat-müvekkil gizliliği korumasından hiç yararlanmıyor. Yanlış yapılandırılmış bir sistem de hassas malzemeyi hiç bulunmaması gereken yerlere taşıyıp bu riski büyütüyor. Ben de bu yüzden bir aracın ne yaptığına bakmadan önce neyi asla yapmaması gerektiğini tanımlamayı tercih ediyorum.

Şunu da açıkça söyleyeyim, çünkü ürün demolarında ilk unutulan şey bu. Bir düzenleyici “çıktıyı araç üretti” cevabını kabul etmiyor, bir yönetim kurulu da kabul etmiyor. Sorumluluk hukukçuda kalıyor ve sonraki bütün tasarım kararları buradan çıkmalı: bu araçları, hesap veren insanı gölgeleyecek yere değil, ona destek olacak yere koyun.

Gerçekte değişenler

Değişen şey, muhakemeye gelene kadar yapılan iş, yani asıl kararın etrafındaki her şey. Üç yerde somut fark görüyorum ve üçü de günlük işin en çok zaman yiyen kısımlarına denk geliyor.

• Talep karşılama. Şirket içi hukuk ekiplerine gelen taleplerin çoğu tekrar eden, sınıflandırılabilir taleplerdir. Bir aracın bu talepleri doğru ekibe yönlendirmesi, standart olanları şablona bağlaması, gerçekten bir hukukçu gerektireni öne çıkarması, eksik bilgi parçalarını sorması ve hukukçuya dağınık bir e-posta yerine düzenli bir brifing vermesi, günün önemli bir kısmını geri kazandırıyor. Böylece hukukçunun zamanı, gerçekten muhakeme isteyen işlere kayıyor; o noktada henüz hiçbir karar alınmış değildir, hukuki muhakeme ve karar sorumlu avukatta kalır.
• Bilgi erişimi. Bir kurumun hafızası dağınıktır: eski görüşler, sözleşme şablonları, düzenleyici yazışmalar, geçmiş kararlar. Bu birikim üzerine dikkatle kurulmuş bir erişim, iki yıl önce benzer bir soruyu ekibin nasıl çözdüğünü saatler yerine saniyeler içinde önünüze koyuyor. Asıl kazanım üretilmiş bir cevap değil; ekibin kendi muhakemesine hızlı erişim.
• İlk taslaklar. Uygun bir işte ve uygun bir kurulumda bir bildirimin, bir iç notun ya da standart bir maddenin ilk taslağı dakikalar içinde çıkabiliyor; bu bir olasılıktır, burada ölçülmüş bir sonuç ya da teslim garantisi değildir ve hukukçunun incelemesi ile düzeltmesi yine gereklidir. Ama ilk taslak, son taslak değil. Aracın işi boş sayfayı doldurmak, hukukçunun işi o sayfayı doğru hale getirmek. Boş sayfayı aşmak küçük bir kazanım gibi görünür, oysa çoğu işin en yavaş adımı tam olarak orasıdır. AWS Bedrock üzerinde araçları kurarken ilk aşama hedefimiz tam da bu tür işlerde manuel yükü ölçülebilir biçimde azaltmak ve rutin işlerde dış avukata bağımlılığı düşürmekti.

Üçünde de kazanç aynı yerden geliyor: karar anına gelene kadar harcanan zamandan. Ekiplerin hedeflediği kazanımlardan biri de dış avukat bağımlılığının azalması; daha önce sırf rutin olduğu için dışarıya verilen işlerin bir kısmı, doğru araçlarla içeride ve daha düşük maliyetle yürütülebiliyor. Ama bu bir hedef, garanti değil; pek çok ekip bu tasarrufu henüz görmüş değil. Amaç dışarıdan alınacak uzmanlığı gereksiz kılmak da değil; dış avukat gerçekten uzmanlık gerektiren yerde kullanılsın, sıradan işlerin altında erimesin.

Sorumlu yürütme

Bir aracı devreye almak kolay, doğru devreye almak zor; aradaki mesafeyi kapatan şey de teknoloji değil, etrafına kurulan disiplin oluyor. Gördüğüm kadarıyla bu disiplin dört ilkenin etrafında toplanıyor.

İlki, güvenceler. Bir modelin neye erişebileceği, hangi çıktının insan onayı olmadan kullanılamayacağı ve hangi verinin araca hiç verilmeyeceği daha ilk gün tanımlanmalı; bunlar kimsenin okumadığı bir politika metnine değil, sistemin yapılandırmasına yazılır. Mahremiyet, gizlilik ve veri egemenliği gereklerini araç çalışmaya başladıktan sonra eklemeye çalışmak işe yaramıyor.

İkincisi, insan incelemesi. Yüksek etkili ya da ekip dışına çıkan çıktılar bir hukukçunun onayından geçmeli, düşük riskli ekip içi adımlar daha hafif bir denetimle yürüyebilir. Bu inceleme bir formalite değil, ama sorumluluğun tamamı da değil: hesap verebilirlik tek bir ana değil, tasarıma, yapılandırmaya ve onaya birlikte yayılıyor. İşleyişi riske ve geri dönülebilirliğe göre ayarladığınızda hem gereksiz yük hem de görünmeyen risk azalıyor.

Üçüncüsü, ölçülebilir pilotlar. Bir çözümün işe yarayıp yaramadığı hislerle değil sayılarla anlaşılıyor: neyin iyi sayılacağı pilot başlamadan önce tanımlanır; hangi sürecin ne kadar hızlandığını, hangi hata oranının kabul edilebilir olduğunu ve dış avukat harcamasının nasıl değiştiğini ölçmeden ölçeklerseniz, riski ortadan kaldırmış olmazsınız, yalnızca görünmez kılarsınız. Bizim yaklaşımımız aşamalı oldu; küçük bir kapsamda başla, ölç, düzelt, sonra genişlet. Bir pilotun başarısızlığı da bilgidir, yeter ki ölçülmüş olsun.

Dördüncüsü, hataları dürüstçe kaydetmek. Modeller, kulağa son derece makul gelen bir biçimde ve tam bir özgüvenle yanlış olabiliyor; Journal of Legal Analysis’te ve Stanford’da yayımlanan 2024 tarihli halüsinasyon çalışmaları hukuk kullanımında tam da bu örüntüyü belgeliyor. Bunu yakalayacak bir mekanizma gerekiyor, bir de yanlış cevabı utanılacak bir kaza değil kayda geçecek bir bulgu sayan bir ekip.

Üretken yapay zeka bir hukuk ekibinin ne için var olduğunu değiştirmedi. Değiştirdiği şey, muhakemenin etrafındaki işin ne kadarının elle yapılması gerektiği; muhakemenin nerede durduğu konusunda dürüst olursanız bu az şey değil. Yarattığı fark gerçek ve neredeyse hiçbir zaman demodaki fark değil: muhakemeye giden yol kısalıyor, muhakeme yerinde kalıyor. Gördüğüm kadarıyla bu işi doğru yapan ekipler, araca heveslenmeden önce iş akışı konusunda somut konuşuyor ve her adımı bir sonrakine emanet etmeden önce kanıtlıyor. Tersini yapanların elinde ise genellikle kimsenin tarif edemediği bir pilot kalıyor.

Sonraki yazı: Şirket içi hukuk ekipleri için yapay zeka yönetişimi: beş asgari kontrol →