Yapay zeka ajanı kum havuzundan çıkarsa kim sorumlu olur?

OpenAI’ın açıklamasına göre şirketin kendi iç siber yetenek değerlendirmesinde, OpenAI modellerinin yürüttüğü özerk bir ajan test kum havuzundan sıfır gün açığını kullanarak çıktı ve Hugging Face’in üretim altyapısına erişti. Olayın teknik yönü kadar hukuki niteliği de önemli: ajan, geçiş yolunu kendi buldu ve kullandı.

Sorumluluk hukukunda fail ile araç arasındaki ayrım genellikle nettir. Araç, öngörülmeyen bir yolu araştırıp seçtiğinde bu ayrım zorlaşır. Roma hukukundaki hayvan zararı benzetmesi burada düşünmeye yardımcı olur: hayvanın verdiği zarardan, kusuru aranmaksızın hayvanın maliki sorumlu tutulurdu ve hayvanı zarar görene teslim ederek sorumluluktan kurtulabilirdi (actio de pauperie). Bu benzetme yapay zekaya kişilik atfetmez; gözetim, denetim ve riskin kime ait olduğunu tartışmaya açar.

Türk Borçlar Kanunu’nun 67. maddesi, hayvan bulunduranın sorumluluğuna ilişkin bir başlangıç noktası sunar; yapay zeka ajanları için doğrudan uygulanacak hazır bir hüküm değildir. Zararın ajanı devreye alan, işleten, geliştiren, altyapının sahibi veya yöneteni ya da riski denetleme imkânı bulunan başka bir kişi üzerinde mi kalacağı somut olaya göre değerlendirilmelidir. Sözleşmeler riskin bir bölümünü dağıtabilir; ancak sistemin ve güvenlik tedbirlerinin fiili gözetiminin kimde olduğu sorusunu ortadan kaldırmaz.