”Masada farklı seslere yer varsa kibir kendine çeki düzen vermek zorunda kalır“ Daron Acemoglu& Simon Jonhson- İktidar ve Teknoloji. ©2023
MÜNİR KARATAŞ – Öncelikle bir önceki yazımda yaratıcı sektörlerdeki bireylerin YZ teknolojilerinin sonuçlarına itirazları çerçevesini anlatırken ”İtirazları sadece işsiz kalmak ve daha az telif geliri elde etmek gibi sığ ve dar bir alana sıkıştırmamamız gerekir“ cümlesindeki amacım yazıda sözünü ettiğim ve çok önemli gördüğüm diğer iki başlıktaki itiraz argümanına dikkat çekmek idi. Tek başına ele alınırsa maksadını aşmış gibi duruyor. Hiç bir itiraz başlığını “sığ ve dar“ bulmuyorum.
Teknolojilere özellikle de YZ alanındaki teknolojilere bakışımı peşinen özetleyeyim.
Teknoloji küçük bir elit grubun hakimiyetinde olmamalı. Eğer olursa bugün için çok ironik gelebilir ama ileride çocuklarımız ”sifon çekerken bile bir ücret ödeyebilir! ”Sifonların kredi ile çalışması çok olası, yüklemeyi unutanların, ya da kredisi olmayanların vay haline…
Teknolojiye toplumsal bakış açım üzerine de bir şeyler söyleyip konuya kaldığımız yerden devam edelim.
Efendim, şirketin birisi yüz tanıma teknolojisi geliştirmek istedi diyelim. Öyle yüz tanıma filan diye geçmeyelim, artık bu teknoloji ”evrişimsel sinir ağı tabanlı hale gelmiş; yani insanın görsel algılama sistemine benzer demek. Ne kadar afilli değil mi? Şimdi böyle bir teknolojiyi nasıl geliştireceklerine kim karar verecek, tabi ki mühendisleri ve yatırımcıları. Peki geliştirdiler, ürün haline geldi, nerede ve nasıl kullanılacağına kim karar verecek? Müşteri kim, kime faydası olacak bu teknolojinin? Cevabı hepimiz biliyoruz değil mi?
Başta güvenlik gibi toplumun tümünü ilgilendiren konularda ”talep oluşturmak“ vizyoner elitlerin en iyi bildiği işlerin başında geliyor.
Bunun için geçmiş dönemlerde ”komplo teorisi“ kategorisinde değerlendirilen, sonra da gerçek olduğu ortaya çıkan “projelere“ bakmak yeterli sanırım.
Evet, ya da olur mu öyle şey diyenler değişik mecralarda mevzuyu tartışadursun Londra Metrosunda “Azınlık Raporu” filminde anlatılan “suç işleme ihtimali olanların önceden tespit edilip yakalanması“ senaryosu neredeyse gerçek olmak üzere. Bir yıldır test yapılıyormuş, sonuçlar şahaneymiş, sadece hamile kadınlar bazen sistemi alarm verme konusunda yanıltıyorlarmış!
Şimdi bu teknolojinin kalabalıklardaki yüzleri takip edip, bireylerin suç işleme potansiyeli olup olmadığını analiz etme, ya da artan akaryakıt fiyatlarını protesto etmek için yollara düşen çiftçileri gözetleyip fişleme veya ürünlerin satış ve pazarlaması amaçlı uygulamalarda kullanılıp kullanılmayacağına ya da nerelerde kullanılmasına, kullanılmamasına toplumun değişik katmanlarındaki insanlar özgürce tartışıp birlikte karar vermeli midir? Bence vermelidir. Böylesi insanlığımız için iyi mi kötü mü olur?
Bir önceki yazım Açık Gazete’de yayımlandığı tarihte Elon Musk OpenAI‘a dava açtığı haber olmamıştı. Musk, OpenAI’ın kurucu ekibinde olarak şirkete ilk yatırım yapanlar arasında ve ilk yönetim kurulu üyelerinden. 2018 yılında Tesla daki çalışmaları çatışma oluşturacağı için şirketten ayrılmıştır. Musk, davasının ana temeli “OpenAI’ın ilk kuruluş sözleşmesinde yer aldığı şekilde yazılım kodlarının açık kaynaklı hale dönmesi“.üzerine kurulmuş durumda. Musk davasını desteklemek için olsa gerek yeni girişimi XAI bünyesindeki Grok adlı yapay zeka hizmetini açık kaynaklı hale getireceğini duyurdu.
Dava süreci ve sonucu bu alanda önemli bir eşik olacak gibi. Muhtemelen Dabus davasından daha fazla konuşulacak. Umarım Musk‘un ilginç kişiliği ve zaman zaman yaptığı çıkışlar davanın esasının konuşulmasının önüne geçmez.
Yaratıcı sektörlerin kalbi durumunda ki ABD‘de, yazarlar, senaristler kısacası kreatif sektörlerde çalışanlar mahv u perişan olacaklarını gördükleri bu yarı organik formun istilasına karşı tam bir güç birliği için de direniyorlar. Güçlü bir savunma hattı oluşturduklarını da görüyoruz. Geçen yıl grevleri ile stüdyoları büyük oranda dize getirdiler. Bu hat dalga dalga büyüyor ve yayılacak eminim.
Üzülerek bu konuda ülkemiz de bir farkındalık olmadığını söyleyebilirim. Sektörün mevcut emekçi bileşenleri de ne yazık ki şimdilik sorunlarına sadece enflasyona endeksli bir ücret politikası temelinde bakıyorlar.
YZ teknoloji kodlarının açık kaynaklı olmasını savunan taraftayım. Bu konuda tavrım ve duruşum net. Nedir peki açık kaynaklı kod. Kısaca tarif edelim. Yazılımı geliştirenin ya da geliştirenlerin kaynak kodlarını ”açık kaynaklı lisans“ olarak yayınlamaları, üzerinde değişiklik yapma, geliştirme, paylaşmaya izin vermeleri demek.
Şimdi de YZ sistemleri kodlarının açık kaynaklı olmasının nasıl avantajlar sağlayabileceğine bakalım.
İlk olarak açık kaynaklı algoritmalar geniş bir topluluğunun katılımına olanak tanır. Bu doğal olarak bu algoritmaların geliştirilmesi, test edilmesi ve iyileştirilmesi için çeşitli yeteneklere sahip insanların bir araya gelmesini sağlar. Fikirler özgürce tartışılır ve ticari kar elde etmenin birincil amaç olmadığı bir kod geliştirme ortamı yaratılmış olur.
Farklı perspektiflerden gelen katılımcıların oluşturduğu geniş katılımlı topluluğun açık kaynaklı kodları geliştirilmesi ve test etmesi, iyileştirmesi aynı zamanda şeffaflık ve denetlenebilirlik gibi iki önemli özelliği nedeniyle de çok önemlidir.
Kodlar üzerindeki iyileştirmeler, kullanıcı ihtiyaçlarına göre özelleştirilecek, algoritmaları bu göre şekillenecektir. Bu aynı zamanda farklı toplumsal katmanların da gereksinimlerine göre uyarlama yapabilme avantajı sağlayacaktır.
Kodların açık kaynaklı olmaması, yani geliştirici şirketin mülkiyetinde olması durumununun toplumsal dezavantajların en önemlileri olarak “başta ticari kar elde etmek odaklı motivasyon ile kod geliştirme, etik çerçeve ve güvenlik sorunları, sahibi olduğu şirkete sağlayacağı rekabet gücü ile stratejik inovasyonlarının getirebileceği tekelleşmeyi“ saymak mümkün.
Bana göre dezavantajlar için de tek önemsediğim şirketlerin ”stratejik inovasyonlarına katkısı“ olabilir. O zaman da şirketler inovasyonlarını açık kaynaklı kod üzerinde geliştirsinler ve insanlığın malı olsun. Çiftçiler tohum sakladıkları, iyileştirdikleri için ceza almazlar ya da kişisel verilerimiz bir takım teknoloji oligarklarının doymak bilmeyen iştahlarına ve insafına kalmaz.
Çabalayalım ki olsun, kime ne zararı var? Geniş kitlelere mi yoksa bir avuç azınlığa mı?
Sonuç olarak kodlar, etik ve güvenlik konuları, şeffaflık, denetlenebilirlik, ticari kar elde etmenin temel motivasyon olmadığı, geliştirilmesi ve test edilmesi süreçlerinin geniş katılımlı topluluk kararlarına göre yapılabilmesinden hareketle açık kaynaklı olmalıdır. Hatta Blok Zinciri teknolojisinin altyapısı ile merkeziyetsiz otonom organizasyonlar (DAO) tarafından test edilmeli ve geliştirilmelidir. Bu teknolojilerin nerede ve nasıl kullanılacağına da toplumsal mutabakatla, farklı görüş ve seslere de fırsat vererek karar verilmelidir. Gelecek yüzyıl da yukarıda sözünü ettiğim ”sifonu çekerken bile ücret ödememizin önündeki“ en birincil engel şimdilik bu gözüküyor.
Bu da teknolojik bir çözümden ziyade politik bir tercih gibi insanlığın önünde durmakta.
Birleşik Krallık Yüksek Mahkemesi (1) YZ sistemi Dabus‘un Patent temyiz davasını incelerken üç başlık üzerine yoğunlaşmış.
- Patent Kanunu gereği başvuru sahibinin gerçek kişi olması zorunlu mudur?
- Patent Kanunu (1977) 13. maddesi neyi ifade etmektedir. Bu madde uyarınca başvuru sahibi gerçek kişi olmak zorunda mıdır?
- Patent Kanununun 13(2) düzenlemesine dair Dr Stephen Tahler‘in ileri sürdüğü görüşlere doğru yanıt nedir?
Birleşik Krallık Yüksek mahkemesi yargıçları birinci soruya oybirliği, ikinci ve üçüncü sorulara da oy çokluğu ile YZ sistemi Dabus‘un Patent sahibi olamayacağına yönelik karar vermiştir.
Dabus Patent davası süreci, YZ sistemlerinin Fikri Mülkiyet sahibi olup olamayacağını daha yoğun şekilde tartışılmasına neden olmuştur. Hala da aşağıda açıklayacağım argümanlar ile doktrin düzeyinde devam etmektedir.
YZ sistemlerinin eser/buluş sahibi olarak ele alınmasının köküne indiğimizde ana sorunsal, sistemin ”“kişilik“ sahibi olmamasıdır. Durun hemen heyecanlanıp işte budur demeyin, daha yeni başladık.
YZ sistemleri başlangıçta hukuken bir eşya olarak kabul edildi. Kendi başlarına hissetme yetenekleri olmadığı için de bir kişilik olarak kabul edilemeyeceği görüşü yaygın ve doğru. Ancak son dönemlerde geliştirilmeye başlanan ileri seviyede yarı organik YZ sistemlerinin ”kişilik kazanmasına“ yönelik hukuki düzenlemeler yapılması gerektiği, tasarımcıları ve mülkiyetlere sahip şirketlerce tam anlamıyla lobisel faaliyet diyebileceğimiz boyutlarda düzenli ve sistematik bir şekilde dile getirilmeye devam etti.
Burada sürecin arasına girip bir soru soralım. Mülkiyete sahip şirketler niye ürettikleri YZ teknolojilerinin ”hukuki kişilik kazanması“ için bu kadar uğraşırlar? Zaten mülkiyet hakları kendilerin de değil mi?
Bu epey üzerinde düşünülmesi, araştırılması gereken, yazıyı bağlamından uzaklaştırma ihtimali olan bir konu, bir ara bu konuda da yazmak istiyorum.
”Madem hissetmediği için bir kişilik kazanamaz“ peki kabul ettik, bağrımıza da istemeden taş bastık diyen teknoloji elitleri bu sefer yeni bir teklif ile ortaya çıktılar. Sıkı durun ve dikkat kesilin. ”Sistemimize insanlar tarafından üretildiği gerçeği nedeniyle eğer bir hukuki kişilik tanınacaksa bu tanım köle statüsünde“ olsun o zaman. Yeter ki bir statü tanıyın, merak etmeyin efendisi biziz, biz yine sorumlu olalım ama bizim kölelerimize de olası hatalarından sorumsuz olacakları bir hukuki statü verilmeli.
YZ sistemlerine hukuken köle statüsü verilmesi epey ses getirdi, taraftar da buldu açıkçası. Savunanlar savunmaya, karşıtlar tartışmaya devam ederken elitlerin lobisi ”önermede ”kölelik“ kelimesi geçtiği için fazlaca ısrar etmeden yeni bir teklifi piyasaya sürdü. Ne kadar işimiz zor.
YZ için İllaki bir hukuki statü gerekiyor ya, ”kölelik“ kötü algılanıyor el yükselterek bu sefer dediler ki, ” elektronik kişilik olsun o zaman“ Entelijansı da tartışmaların geldiği güncel durum bu dostlar.
Tam da bu dönemde EURobotics raporu (2) ”insana özgü bir kişilik modeli tanımlaması olamaz“ amma bu durumun YZ sistemleri için ayrı bir hukuki statü yaratılmasının önünde bir engel olamayacağı görüşü ile “elitlerin“ lobisel tüm çabalarına bir kapı da aralayıverdi.
Uzatmayayım artık, meraklıların YZ elektronik kişilik konusunda Estonya‘yı takip etmesinde fayda var. Estonya hükümeti bir iki yıl içinde YZ sistemlerinin yasal bir statüye sahip olmasına yönelik yasal düzenlemeler üzerinde çalışıyor.
Nedir bu elektronik kişilik derseniz dilimin döndüğünce izah etmeye çalışayım. Başlangıçta üreticilerinden bir fon alınacak, sonrasında kullanıcılarından alınacak gelirlerle hukuk sistemi YZ ya bir banka hesabı açacak. Banka hesabı bir malvarlığı da demek derler bu arada, dolayısıyla YZ, banka hesabı ile bir mal varlığına sahip olacağından kullanıcılara verebileceği zararların ” banka ”hesabından karşılanabileceği gibi muhaliflere hoş gelebilecek havuçlar da sunuyorlar.
Oldu olacak, Amazon,Facebook, ya da Shell‘in çoğunluk hisse sahibinin bir YZ sisteminin olduğu distopik bir sinema filmi senaryo teması önerelim. Benzerleri de yapıldı ama ne kadar fazla o kadar iyi… Yazıyı okursa finans sektöründe eğitimler veren bir dostuma ” epeydir bitirmediği romanını artık bitirmesini tavsiye ediyorum, şahane bir roman olacak çünkü“
İyi gidiyorduk ama sayfa sayısı artık bitir çok zırvaladın diyor.
Aklı gövdesinin başında dik duran herkes farkında ve hemfikir ki. ”İnsanlık bugüne kadar deneyimlediği hiç bir şeye benzemeyen bir dönemin başlangıcında ”
Teknoloji elitleri ve ”kibirli vizyonerler“ yine tüm araçları ile bize sorunlarımızı aşacağımızı ve geleceğimizin parlak olduğunu söylüyorlar. Ortaçağ karanlığından kurtulduk diye sevinemeden iki dünya savaşını hem de peşkeşe sanki uzaylılar getirtmiş gibi. Üçüncüsü de pusuya yatmış avını bekler. Hiç üstüne alınan yok maşallah.
Geleceğimiz ne olursa olsun ister cehennemi, ister cenneti yaşayabileceğimiz bir dünya da artık değişmeyecek iki olgu olduğunu söyleyebiliriz. Birisi otomasyon, ikincisi ekolojik denge.
Büyük bir önerme gibi gelecek ama bundan sonra doğru tercihler yapmamız hiç bu kadar ”hayati“ olmamıştı.
” Herkesten yeteneğine göre, her herkese ihtiyacına göre“. Marx’ın ünlü sözü. Komünizm, uzunca bir teknolojik ve sosyal dönüşümün ardından insanlığı bekleyen şahane bir toplum modeli. Tabi ki bu ideanın sihirli bir şekilde gerçekleşmesi olanaklı değil. Ancak bu ideanın ”teknik ön koşullarının “ artık günümüzde geçmiş dönemlerden daha fazla ve yaygın şekilde var olduğunu düşünmekteyim.
Geleceğimiz için tartışmak ve üzerine düşünmekte fayda var.
Tartışılan nesnel gerçekliklerle ilgili kimin haklı kimin haksız olduğu artık çok da önemli değil, önemli olan savaşı kimin kazanacağı ve ayakta kalacağı…
_________________________
Görseller bu yazı için Yapay Zeka DALL-E 3 ile üretilmiştir.
(1) Birleşik Krallık Yüksek Mahkemesi kararı.
https://www.bailii.org/ew/cases/EWCA/Civ/2021/1374.html
(2) Yapay Zeka sistemlerine elektronik kişilik tanımasına yönelik EURobotics raporu
https://dergipark.org.tr/tr/pub/inuhfd/issue/67719/981080
