(K) A.Ş., kredi başvurularının ön elemesinde bir sağlayıcıdan temin ettiği yapay zekâ sistemini kullanmaktadır. Sistem başvuruları puanlamakta, şirket bünyesindeki kredi uzmanı ise bu puanı görerek nihai kararı vermektedir. Sağlayıcının bir sabah modeli güncellediğini düşünelim. Arayüz aynı kalmakta, fiyat değişmemekte ve taraflar arasındaki sözleşme yürürlükte kalmaya devam etmektedir. Buna karşın iki hafta içerisinde kredi başvurularının ret oranında belirgin bir değişiklik meydana gelmektedir.
İlk bakışta taraflar arasındaki sözleşme ilişkisinde değişen bir şey yoktur. Görünürde herhangi bir sözleşme hükmünün ihlal edildiği de söylenememektedir. Ancak şirketin karar mekanizması, daha doğru bir ifadeyle kararın oluşumuna etki eden yapı, fiilen değişmiştir.
Bu yazıda model değişikliğinin taraflar arasındaki sözleşme ilişkisine ve şirketin karar yapısına etkisini inceleyeceğim. Model değişikliğinin kişisel verilerin korunması hukuku ve AB Yapay Zekâ Yasası bakımından doğurabileceği yükümlülükler ise ayrı bir incelemeyi gerektirdiğinden bu yazının kapsamı dışında bırakılmıştır.
Güncelleme ile Model Değişikliği Aynı Şey Değildir
Yapay zekâ tedarik sözleşmelerinde çoğu zaman değişikliklerin tamamının tek bir kavram altında, “güncelleme” olarak düzenlendiği görülmektedir. Oysa kanaatimce burada birbirinden ayrılması gereken iki farklı durum bulunmaktadır.
Bunlardan ilki, sürüm güncellemesidir. Sürüm güncellemesinde arayüz, çevre bileşenler veya sistemin teknik altyapısı yenilenmekte; buna karşın sistemin çıktı davranışı esas itibarıyla muhafaza edilmektedir. Dolayısıyla alıcı, teknik yapıda birtakım değişiklikler meydana gelmiş olsa da büyük ölçüde aynı hizmeti almaya devam etmektedir.
İkincisi ise model değişikliğidir. Burada çıktıların üretilmesini sağlayan modelin kendisi, model ağırlıkları veya eğitim verileri değişmektedir. Böyle bir değişiklikte arayüzün, fiyatın veya sistemin dışarıdan görünen işlevlerinin aynı kalması mümkün olmakla birlikte, sistem farklı sonuçlar üretmeye başlayabilir.
Bu iki değişikliğin hukuki açıdan aynı mahiyette olduğu söylenemez. Zira ilkinde esas olarak edimin sunuluş biçiminde, ikincisinde ise edimin niteliğinde değişiklik meydana gelmektedir. Bu nedenle sözleşmede sürüm güncellemesi ile model değişikliğinin birbirinden ayrılmaması, sağlayıcının esasen ikinci kategoriye giren bir değişikliği “güncelleme” yetkisi kapsamında gerçekleştirmesine imkân verebilir.
Modeli Değiştirebilen Taraf Kontrolü Elinde Tutar
Ortaklıklar hukukunda kontrol kavramı, yalnızca kişinin taşıdığı unvan veya şeklen sahip olduğu yetki üzerinden açıklanamaz. Kontrol bakımından önemli olan, belirli kararların oluşumu üzerinde belirleyici etkiye sahip olunup olunmadığıdır. Nitekim kontrol, ortaklığın faaliyetlerinin ve kararlarının belirli bir irade doğrultusunda şekillendirilebilmesini ifade etmektedir. Bu bakımdan yönetim ile kontrolün aynı kavramlar olmadığı özellikle önemlidir. Tezde de kontrol, yönetimden daha geniş, ortaklığın kararlarını yönlendirebilme gücünü içeren bir kavram olarak ele alınmaktadır.
(K) A.Ş. örneğine bu açıdan bakıldığında ortaya ilginç bir yapı çıkmaktadır. Yapay zekâ sisteminin sahibi sağlayıcıdır. Kredi kararının sahibi ise şirkettir. Nihai kararı şirket bünyesindeki kredi uzmanı vermektedir. Ancak kararın oluşumunda kullanılan temel girdiyi ve bu girdinin hangi ölçütlerle üretileceğini tek taraflı olarak değiştirebilen kişi sağlayıcıdır.
Diğer bir ifadeyle şirket kararı vermekte, fakat kararın dayandığı öncülü başka bir taraf şekillendirmektedir.
Esasen ortaklıklar hukukunda buna yabancı değiliz. Bir pay sahibinin şirket sermayesinin çoğunluğunu elinde bulundurmaması, şirket üzerinde hiçbir kontrol gücüne sahip olmadığı anlamına gelmez. Belirli stratejik kararların oluşumunu önceden şekillendirebilen veya iradesi olmaksızın bu kararların alınmasını engelleyebilen taraf da kontrol bakımından belirleyici konuma gelebilir.
Kanaatimce yapay zekâ sağlayıcısının konumu da işlevsel açıdan buna benzemektedir. Üstelik burada kontrol etkisi herhangi bir pay sahipliği ilişkisi bulunmaksızın ortaya çıkmaktadır.
Tek Taraflı Model Değişikliği Sözleşmeye Aykırılık Teşkil Eder mi?
Modelin sağlayıcı tarafından tek taraflı olarak değiştirilmesinin sözleşmeye aykırılık teşkil edip etmeyeceği meselesi tartışmaya açıktır. Bu noktada iki farklı yaklaşım ileri sürülebilir.
İlk yaklaşıma göre taraflar arasındaki sözleşmenin konusu belirli bir hizmetin sağlanmasıdır. Sağlayıcı sözleşmede kararlaştırılan işlevi sunmaya devam ettiği müddetçe, bu işlevin hangi model veya teknik altyapı vasıtasıyla yerine getirildiği ifanın biçimine ilişkin bir meseledir. Özellikle sürekli nitelikteki yazılım hizmetlerinde sürüm ve teknoloji değişikliklerinin olağan olduğu düşünüldüğünde, sağlayıcının gerçekleştirdiği her teknik değişikliğin sözleşmeye aykırılık olarak nitelendirilmesi hizmetin sürdürülebilirliğini önemli ölçüde güçleştirebilir.
Buna karşılık diğer görüşe göre yapay zekâ sistemlerinde model, yalnızca hizmetin sunulmasını sağlayan teknik bir araç değildir; belirli ölçüde edimin kendisini oluşturmaktadır. Model değişikliği sonucunda sistemin çıktı davranışı değişiyorsa, aynı işlevin farklı şekilde yerine getirilmesinden değil, farklı nitelikte bir ifadan söz edilmesi gerekir. Özellikle alıcının iç süreçlerini sistemin belirli bir performans profiline göre yapılandırdığı durumlarda, görünürde aynı işlevin devam etmesi, edimin aynı kaldığını göstermeyecektir.
Kanaatimce bu soruya soyut olarak kesin bir cevap vermek mümkün değildir. Sonuç, öncelikle sözleşmede sağlayıcının ediminin nasıl tanımlandığına bağlıdır.
Sözleşme, sağlayıcının borcunu yalnızca belirli bir “hizmetin sağlanması” şeklinde tanımlıyor ve sistemin çıktılarına ilişkin ölçülebilir bir performans yükümlülüğü öngörmüyorsa, ilk yaklaşımın ağırlık kazanması mümkündür. Çünkü sözleşmeye aykırılık iddiasının, sözleşmeden çıkarılabilir bir ifa ölçütüne dayanması gerekir.
Bununla birlikte model çıktısı üzerine kurulmuş bir iş sürecinde performans, hizmete yabancı bir unsur değildir. Bilakis ifanın kalitesini belirleyen başlıca unsurlardan biridir. Bu nedenle mesele yalnızca sağlayıcının modeli değiştirip değiştiremeyeceği değildir. Asıl mesele, değişiklikten önceki ve sonraki sistem davranışının hangi ölçüte göre karşılaştırılacağının taraflarca belirlenmiş olup olmadığıdır.
Özetle sözleşmede ölçülmeyen bir performansın sonradan ihlal edildiğini ileri sürmek güçtür. Bu nedenle asıl sorun, model değişikliğinin başlı başına sözleşmeye aykırılık teşkil edip etmediğinden ziyade, sözleşmenin böyle bir değişikliği hukuken değerlendirmeye elverişli bir ölçüt içerip içermediğidir.
Tek Taraflı Değişiklik Yetkisi Veren Kayıtlar
Yapay zekâ tedarik sözleşmelerinde karşılaşılan yapılardan biri de hizmetin, sağlayıcının “zaman zaman güncellediği” teknik dokümantasyona atıf yapılarak tanımlanmasıdır. Böyle bir sözleşme yapısında teknik dokümantasyonun değiştirilmesi, yalnızca hizmetin açıklamasını değil, kimi durumlarda edimin kapsamını da değiştirebilir.
Türk Borçlar Kanunu’nun 24. maddesinde, genel işlem koşulları arasında yer alan ve düzenleyene karşı taraf aleyhine sözleşme hükmünü tek taraflı olarak değiştirme veya yeni düzenleme getirme yetkisi veren kayıtların yazılmamış sayılacağı düzenlenmiştir.
Kanaatimce hizmetin kapsamını sağlayıcının tek taraflı olarak değiştirebildiği teknik dokümantasyona bağlayan bir düzenleme, biçimsel olarak yalnızca bir hizmet tanımı veya teknik atıf görünümünde olsa dahi, işlevsel açıdan TBK m.24 kapsamında değerlendirilmeye elverişlidir. Çünkü bu durumda değiştirilen yalnızca teknik doküman değil, uygulamada sağlayıcının asli ediminin içeriğidir.
Bununla birlikte bu değerlendirmenin tartışmasız olduğu da söylenemez. Genel işlem koşullarına ilişkin hükümlerin tacirler arasındaki sözleşmelere uygulanmasının kapsamı öğretide tartışılmakta; tacir bakımından geçerli olan basiretli iş adamı ölçütünün bu korumanın sınırlandırılmasında etkili olabileceği ileri sürülmektedir.
Dolayısıyla uygulamada güvenli çözümün kanuni korumanın sonradan devreye girmesini beklemek olmadığı kanaatindeyim. Model değişikliğinin kapsamı ve sonuçları henüz sözleşme kurulurken ölçülebilir şekilde düzenlenmelidir.
Yönetim Kurulu Bakımından Sonucu
Anonim ortaklıklarda üst gözetim, yönetim kurulunun devredilemez görev ve yetkileri arasında yer almaktadır (TTK m.375). Bunun yanında yönetim kurulu üyeleri ve yöneticiler, görevlerini tedbirli bir yöneticinin özeniyle yerine getirmekle yükümlüdür (TTK m.369).
Yapay zekâ sistemlerinin şirket karar süreçlerine dâhil edilmesi, bu yükümlülükleri ortadan kaldırmamaktadır. Bilakis sistemin karar üzerindeki etkisi arttıkça gözetimin konusu da genişlemektedir.
Bu noktada özellikle belirtmek gerekir ki, model sağlayıcısının modeli değiştirebilmesi nedeniyle yönetim kurulunun yetkisinin hukuken sağlayıcıya devredildiğini söylemiyorum. Buradaki sorun yetkinin hukuki devri değil, gözetimin fiilen etkisizleşmesidir.
Şirketin kararlarının oluşumunda kullanılan bir sistem, yönetim kurulunun bilgisi dışında farklı şekilde davranmaya başlamışsa, yönetim kurulu hukuken aynı yetkilere sahip olmaya devam eder. Buna karşılık kurul, hangi sistemi ve hangi karar mekanizmasını gözettiğini bilmemektedir.
Diğer bir ifadeyle kâğıt üzerindeki yetki ile karar sürecindeki fiilî etki birbirinden ayrılmaktadır.
Ortaklıklar hukuku bakımından bu ayrışma yeni değildir. Yeni olan, bu ayrışmanın bir pay sahibinden, yönetici veya şirket organından değil, şirket dışında bulunan bir teknoloji sağlayıcısından kaynaklanmasıdır.
Sözleşmeye Yazılması Gerekenler
Bu nedenle yapay zekâ tedarik sözleşmelerinde yalnızca “hizmetin sağlanması” veya “sistemin güncellenmesi” gibi genel düzenlemelerle yetinilmemesi gerekir. Kanaatimce özellikle aşağıdaki hususların belirlenmesi önem arz etmektedir:
Model ve sürüm tanımı. Sözleşmenin konusu olan modelin ve sürümün sözleşmede veya sözleşme ekinde açıkça tanımlanması gerekir.
Değişiklik bildirimi. Model değişikliğinin önceden, yazılı olarak ve makul bir süre içerisinde bildirilmesi öngörülmelidir. Bildirimin şirket içerisinde hangi kişi veya birime yapılacağı da belirlenmelidir.
Performans ölçütü. Model değişikliğinden önceki ve sonraki çıktıların karşılaştırılmasını sağlayacak somut ve ölçülebilir göstergeler oluşturulmalıdır.
Gerileme testi (regression testing). Model değişikliğinden sonra sistemin yeniden kabul sürecine tabi tutulması ve kabul kriterlerinin sağlanmaması hâlinde uygulanacak sonuçlar düzenlenmelidir.
Sürüm sabitleme (version pinning). Şirkete belirli bir sürümde kalabilme ve gerektiğinde önceki sürüme dönebilme imkânı tanınmalı; bu hakların hangi süre içerisinde ve hangi şartlarla kullanılabileceği belirlenmelidir.
İtiraz ve fesih. Değişiklik sonucunda kararlaştırılan performans ölçütlerinin altına düşülmesi hâlinde itiraz, geçiş ve fesih hakları düzenlenmelidir.
Kayıt. Sistemin ürettiği çıktıların hangi model ve sürüm kullanılarak oluşturulduğunu gösterecek kayıtların saklanması sağlanmalıdır. Zira sonradan ortaya çıkabilecek bir uyuşmazlıkta değişikliğin ve sonuçlarının tespiti ancak bu kayıtlar üzerinden mümkün olacaktır.
Şirketin Atması Gereken Adımlar
Sözleşmesel düzenleme tek başına yeterli değildir. Şirketin kendi karar yapısı içerisinde de yapay zekâ sisteminin nerede ve ne ölçüde etkili olduğunu belirlemesi gerekir.
İlk olarak, çıktıları doğrudan veya dolaylı şekilde şirket kararına dönüşen yapay zekâ sistemleri tespit edilmelidir. Uygulamada asıl sorunlardan biri, bu sistemlerin farklı birimler tarafından kullanılmasına rağmen şirket düzeyinde bütüncül bir envanterinin bulunmamasıdır.
İkinci olarak, bu sistemlerin her biri bakımından sözleşmede model ve sürüm tanımının bulunup bulunmadığı incelenmelidir.
Üçüncü olarak, sistemin performansını değerlendirecek ölçütlerin ve model değişikliği sonrasında uygulanacak kabul sürecinin mevcut olup olmadığı kontrol edilmelidir.
Dördüncü olarak, şirket içi yönergelerde yapay zekâ çıktısının hangi şartlarda doğrudan kullanılabileceği ve hangi eşiklerin aşılması hâlinde insan onayının aranacağı açıkça düzenlenmelidir.
Son olarak, sağlayıcının gerçekleştireceği değişikliklere ilişkin bildirimlerin şirket içerisinde hangi birime ulaşacağı belirlenmelidir. Zira model değişikliğine ilişkin bildirim satın alma birimine ulaşmasına rağmen hukuk, risk veya ilgili iş birimine ulaşmıyorsa, sözleşmede bir bildirim yükümlülüğünün bulunmasının uygulamadaki etkisi oldukça sınırlı olacaktır.
Sonuç
Yapay zekâ kullanılan karar süreçlerinde risk yalnızca modelin hatalı sonuç üretmesi değildir. Esasen daha güç tespit edilen risk, sistemin aynı isim, aynı arayüz ve aynı sözleşme altında çalışmaya devam ederken karar davranışının değişmesidir.
(K) A.Ş. bakımından sorun, kredi uzmanının hâlen nihai kararı veriyor olması nedeniyle ortadan kalkmamaktadır. Çünkü kredi uzmanının önüne gelen değerlendirmeyi üreten sistem değişmişse, kararın oluşumuna etki eden yapı da değişmiştir.
Kanaatimce bu nedenle yapay zekâ tedarik sözleşmelerinde odaklanılması gereken mesele yalnızca sistemin kullanılabilir olup olmadığı değildir. Şirketin karar sürecine etki eden modelin kim tarafından, hangi sınırlar içerisinde ve hangi sonuçlarla değiştirilebileceğinin de kontrol altına alınması gerekir.
Aksi hâlde şirket hukuken karar yetkisini elinde tutmaya devam ederken, kararın oluşumunu belirleyen unsurlardan biri fiilen başka bir tarafın kontrolünde kalacaktır. Ve çoğu zaman şirket bu değişikliği sağlayıcının bildiriminden değil, iki hafta sonra değişen ret oranlarından anlayacaktır.
İlgili başlıklar: Bu yazı, alan haritasındaki “Karar yetkisi ve devredilemez görevler” ile “Sorumluluğun sözleşmeyle dağıtılması” başlıklarına bağlanıyor.
Kaynaklar: 6102 sayılı Türk Ticaret Kanunu m.369, m.375 · 6098 sayılı Türk Borçlar Kanunu m.20-25
Bu sitede yayımlanan değerlendirmeler genel niteliktedir ve somut bir olaya ilişkin hukuki görüş oluşturmaz.