MODERN YAPAY ZEKA (YZ) İLLÜZYONU-1 

“Geleceğin Dünyası, başucumuzda robot kölelerimiz emrimize amade beklerken içine uzanıp yatacağımız rahat bir hamak değil, zekamızın sınırlamalarına karşı gittikçe daha talepkar hale gelen bir mücadele olacak” Norbert Wiener – Tanrı ve Golem- 1964

MÜNİR KARATAŞ – “Sibernetik” bilimin kurucusu kabul edilen çağımızın önemli bilim insanlarından Norbert Wiener günümüzü ne kadar öngörü ile tarif etmiş.  Bu çok değerli kitap bildiğim kadarıyla Türkçeye çevrilmedi. Yazı sonunda kitabın PDF ini bulabileceğiniz linki paylaşıyorum. Linkteki siteyi tavsiye ederim. 

Mayıs ayında Dokuz Eylül Üniversitesi Güzel Sanatlar Fakültesi Film Yönetmenliği ve Tasarımı bölümünde Doç Dr Ragıp Taranç moderatörlüğünde “YZ  ve Sinemanın geleceği” üzerine bir söyleşiye katıldım.

Soru bölümüne geçildiğinde öğrenciler büyük bir hayranlıkla denedikleri uygulamaların özelliklerinden söz ettiler. Bu deneyim ve öğrencilerle yaptığım sohbet, aldığım sorular “Asıl meselenin gözden kaçtığı, saplantılı  ve neredeyse büyülenmiş bir şekilde YZ inanması ve bir üst akıl gibi kabulü” durumunda olduğumuzu bir kez daha farketmemi sağladı.

 “Büyülenmek” den sıyrılıp bu sistemlerin insanlığa ne kadar faydalı olduğunu/olacağını  sorgulamamız ve “makine yararlılığı “ diye adlandırılan  kavrama odaklanmamızın  ne kadar önemli ve hayati olduğu gerçeği ile bir kez daha yüzleştim. 

Bu konuda iki yazı yazacağım. Bu yazının konusu “Etrafımızı kuşatan bu sistemlerin vizyonunun ve yaygın olarak – insan zekası- ile karıştırılmasının  bir illüzyon olduğu.  ” İkincisi de “ Bu sistemler insanlık yararına nasıl evrilebilir ve makina yararlığı kavramının önemi” üzerine genel argümanlar olacak. Meraklısı için yazıların sonuna bazı linkler de bırakacağım elbette. 

İçinde bulunduğum sektör bu sistemlerden en çok etkilenenlerin başında geliyor.  Biraz teknoloji merakım yüzünden de konu ile ilgiliyim ve süreçleri birçok kaynaktan takip ediyor, okumalar yapıyorum. Bu yazıyı yazarken Disney’ in Animasyon stüdyosu Pixar’dan yeni işten çıkarılma ile  ile ilgili haberleri okudum. Dünya standartlarında bir Animasyon film gerçekleştirmenin beşyüz sanatçı ve beş yıl süren yapım süresinin YZ ile yüzde doksan oranında azalacak olmasının  (*1) sonuçları olsa gerek! Şirketlerin maliyet avantajını bilet fiyatları ile çalışan emekçilerin ücretleri lehine  kullanmayacakları apaçık. Varsa yoksa daha fazla kar elde etmek temel amaç.

Son yıllarda hızla artan bir etki ile hayatımızın her alanını kuşatan YZ sistemleri konusunda  genel kabul görmüş bir tanım yok. Çoğunluk modern YZ demeyi tercih ediyor, bir kısım uzmanlar da “ Akıllı davranış veya yüksek seviye yetenek sergileyen akıllı makinalar ve algoritmalar” olarak tanımlıyorlar. Hadi biz de  çoğunluğun izinden gidelim şimdilik. Zekanın başında “Yapay” kelimesi de kullanıldığı için bu yazı özelinde ortalığı fazla bulandırmanın alemi yok.

Efendim YZ sistemlerine tabi ki karşı değilim. Cin şişeden çıkmış bir kere .Üstelik otomasyon teknolojileri konusunda süper döngü diye adlandırılan dönemdeyiz. Her bir İnovasyon bir başka İnovasyonu çok hızlı zincirleme bir reaksiyon misali tetikliyor.

Modern YZ diye adlandırılan çalışmalar  ROS ( Robotik süreç otomasyonu) dahil hedef olarak kendi kendine davranan, insan seviyesine ulaşan ve ardından insanı aşan makineler olarak belirlenmiş durumda. Tüm geliştirmeler bu amaca yönelik yapılıyor. Zihnimize kazımak için bir kez daha altını çizelim. En büyük hedef “Her şeyi yapabilen, tamamen otonom genel zekanın geliştirilmesidir” DeepMind’in kurucu ortağı Demis Hassabis’in sözleri bu alanda ki gelecek hedeflerini ne güzel özetliyor, dikkat buyurunuz.  “ Zekayı çözmek, ardından bunu kullanarak herşeyi çözmektir”  

İnsanı aşan makineler, çok iddialı, ilk bakışta da çok etkileyici bir hedef. Otomasyon, çalışan sayısını azaltma, gözetleme, veri toplama ve veriyi kullanma, tüm vizyon işte bundan ibaret. Bu vizyonun insan refahına katkıları ne yazik ki hiç parlak değil ve sonuçları ortada. Toplumumuz şimdiden iki katmanlı hale geldi. Çin modeli gibi “Digital diktatörlükler ” de bir prototip gibi gözümünün önünde pusuya yatmış bekliyor.  YZ, modern ekonomilerin giderek daha fazla yönüne nüfuz ettikçe ve internet kullanımı daha yaygınlaştıkça ev aletlerinin ve diğer makinelerin sürekli  buluta bağlı hale geldiğini  düşünün. Toplanan verinin büyüklüğü ile illüzyon daha da artacak gibi gözüküyor. Bu konuda düşünen, yazan bir çok akademisyen H.G Wells’in “ Zaman Makinesi” Distopyasına gittikçe yaklaşıldığı haklı uyarılarla anlatmaya çalışıyorlar. 

Yakın zaman da bağımsız bir araştırma kuruluşu olan EPRI dikkat çekici bir rapor yayınladı. Rapora göre  2030 yılında ABD’nin toplam enerjisinin yüzde dokuzunu “Veri şirketlerinin tüketeceği ” öngörülüyor. (*2) Halen veri merkezlerinin bulunduğu bölgelerde yeraltı su kaynaklarının hızla tükenmekte olduğuna yönelik raporlar mevcut ve ABD de bu yönde davalar açılmış durumda. 

Yükselen YZ  ile birlikte bu vizyonun neredeyse  ışık hızında ve koşulsuz kabulü ile alelacele  ilerleyişine/devreye alınmasına  tanıklık ediyoruz. Önümüz arkamız, sağımız solumuz YZ sistemleri ve onların harika sonuçları ile dopdolu.  Sosyal medya algoritmalarının  taraflı yapısı yüzünden çoğunluk bu sistemlerin hataları, sorunlarını da göremiyor maalesef. Algı gerçekliğin önüne geçmiş durumda. Yahu bir dakika sakin olun, bir nefes alın diyen neredeyse “ İnsanlık” düşmanı ilan edilecek. 

Yazı başlığı kimilerine göre iddalı gelebilir. Bence gelmeli de…Yukarıda kısaca sözünü ettiğimiz vizyona İllüzyon denmesinin  temel argümanı, bu teknolojilerinin toplumun tamamen yararına olacağının sorgusuz sualsiz kabulu, yetmezmiş gibi “zeka” ile karıştırılmasıdır. Yangından mal kaçırır misali “ Hızlı ol kır dök”. Üstelik delicesine bir aceleyle devreye alarak sorunların göz ardı edilmesidir. Bu tavır aynı zamanda antidemoktarik dönüşümü de  hızlandırmaktadır. Geliştiriciler, kullanıcılar açısından “Etik standartlar”, bu standartlarla bağlantılı yasal düzenlemeler hala yapılamadığını da hatırlatmak isterim.

Peki ne yapmalıyız öyleyse? Öncelikle genelde sorulmayan digital teknolojileri geliştirmenin en iyi yolu bu mudur? sorusundan başlayıp, teknolojilerin “Kendiliğinden” herkesin yararına olamayacağından hareketle  bu teknolojilerin sonuçlarından büyülenmeyi bir kenara  bırakmalıyız. Bu yeni teknolojilerin sosyal açıdan taraflı olduğu gerçeği ile artık vakit geçirmeden yüzleşmek zorundayız. İnsanlığın önündeki en önemli sorun ekolojik denge dışında budur ve tercih de “Politik” olmak zorundadır. 

Evet teknolojiler taraflıdır. Tarihçi Yuval Noah Harari’nin sözüyle “ Teknoloji tiranların tarafını tutar”. Bu sınırlı sayıdaki  elit/vizyonerlerin bilinçli bir tercihidir. Teknolojilerin taraflı tutumu, dengeleyici güçlerin ortadan kalkması  ve olanların  da etkisini kaybetmesi kaynaklıdır. Veri toplama, gözetleme ve kişiselleştirilmiş reklam geliri odaklı vizyonları ile inanılmaz zenginleşen bir elin parmaklarından az “Vizyonerin” yukarıdan dayattıkları, öngördükleri,  “Digital çözümlerin toplumun yararına olduğu/olacağı” vizyonu  sorgusuz ve sualsiz genel kabul görmektedir. Ne yazik ki YZ destekli sosyal medyanın mevcut rotasının demokrasi ve insan hakları için neredeyse tepeden inme internet sansürü kadar sorunlu olduğu ispatlanmış durumda. Myanmar, ABD seçimleri, İran, Rusya tabi ki Çin örnekleri, Facebook, Google’un insanlardan izin almaya bile gerek duymadan arka planda yaptıkları bu illüzyonun sonucudur. Böyle devam edilirse en azından çalışan kesim ve muhalifler için – yaka farketmez-  Distopik bir gelecek korkarım ki hiç uzak değil. 

Öyle algoritmalar yazıyoruz ki bize bakın, takip edin, inanın diyen Google, Amazon, Facebook, Microsoft CEO ları, mühendisleri ve bir kısım akademisyenlere inanmayarak sorgulamayı tercih eden taraftayım. Onlara  “Kazın ayağı hiç de öyle değil”. demeliyiz.

Öğrenme ve karar verme süreçlerinde insan zeka seviyesini taklit etmeye çalışan, oysa insan gibi bilinçli düşünme ve anlama yeteneğinden yoksun,  -mevcut ikinci aşama yarı gözetimli YZ sistemleri dahil-  “Var olduklarının” farkında değillerdir. Var olduklarının farkında bile  olmayan bu yapay sistemlere niye bu kadar hayranlık gösteriyoruz? 

Örneğin son dönemde otomasyon teknolojileri ne kadar gelişse de bu sistemleri kullanan şirketlerin sosyal becerilere sahip insanlara olan taleplerinin arttığı verilerle sabit. Çünkü gerek YZ gerekse geleneksel digital teknolojiler, sosyal etkileşim, adaptasyon, esneklik ve iletişim gerektiren temel işleri “İnsan” gibi yapabiliyorlar mı? Kesinlikle hayır. Ancak bu tür bilgilere ve araştırmalara veri karmaşası içerisinde “cımbızla arayarak” ulaşabiliyor olmamız bile bizi kuşatan YZ çılgınlığının bir eseri olduğu unutulmamalıdır. 

Zeka” insan düşünce ve bilinci ile  ilişkili bir kavram. İnsanın bilişsel yetenekleri  IQ testleri ile ölçülen analitik zeka dan ibaret değil.  Karmaşık algoritmalar ve veri işleme tekniklerinden oluşan bu sistemlerin sonuçları bizleri o kadar etkiliyor ki  “Zeka” ile karıştırmak tayız. İşte illüzyon da tam olarak burada derinleşiyor. Dijital teknolojilerin yapabileceklerinin makinelere göre çizilmesi, yön verilmesi bile ortaya konulan  vizyonun darlığının en temel göstergelerinden bir tanesidir. 

YZ teknolojilerinin gelişimi ve tanıtımı, genellikle onların yeteneklerini abartarak pazarlanıyor. Bu, tüketiciler, teknoloji kullanıcıları hatta bu teknolojileri üretenler/yatırımcıları  üzerinde de  bir illüzyon yaratmakta. Bu yanıltıcı algı,YZ nin gerçek potansiyelini anlamayarak onun  bir “Zeka” olarak kabul edilmesine  neden olmaktadır. Deha seviyesinde birkaç elit teknoloji vizyonerinin  “Süper YZ yı” geliştirmek ve insanlığın rutin olmayan işlerini de optimize etmek ve bu yolla Dünyamızı daha iyi bir hale getirmek hedefi için kendi İllüzyonların dan bir an kurtulup Evrimsel Biyoloji ye bakabilseler keşke.  “İnsanların yaptıkları işlerin çok küçük bir kısmının gerçek anlamda rutin olduğu” gerçeğini göreceklerdir. 

İki olgu  ile bu konuda ne demek istediğimi canladırmanıza yardımcı olayım. Birincisi bir yaşında bir çocuğun kendiliğinden dil öğrenme becerisidir. İkincisi yaklaşık altmış yıllık süreç sonunda  bugün gelinen evrişimsel sinir ağı tabanlı “İnsanın görme/algılama sistemine benzer”  yüz tanıma teknolojilerinin çok daha gelişmiş versiyonunun insanlarda doğuştan var olduğu gerçeğidir. Bu konuda önemli örneklerden kabul edilen bir fotoğraf karesinde YZ sistemlerinin  Kurt köpeği ile Husky cinsinin ayırt edebilmesi konusunu meraklısının incelemesini  tavsiye ediyorum.

Gerçek zeka, bilinç ve öz farkındalık gerektirir. Bilinçli olmayan ve doğal sonucu olarak varlıklarının farkında olmayan, sadece veri işleyip önceden belirlenmiş belirli kurallar! çerçevesinde karar veren, bu arada veri setlerindeki hata ve önyargılar nedeniyle hatalı ve şeffaf olmayan kararlar verebilen -bir iki örnek de vereceğim-  “Zekayı” taklit etmek amacıyla  programlanmış, insan gibi eleştirel bir bakış açısına sahip olmadıkları için de hatalarını düzeltme ve yeniden değerlendirme kapasiteleri olmayan  bu sistemlerin “Zeki” olarak kabul edilmeleri mümkün değildir.  Bu ayrımın farkına varmalıyız ki etrafımızı saran bu İllüzyondan kurtulmaya başlayalım..  

İnsanlar, duyguları, empati, yaratıcılık ve sosyal etkileşim  gibi bir dizi doğal yeteneklere sahiptir. İnsan zekasının gücü, sosyal ve durumsal olmasından gelir. İnsanların tanıdık olmadıkları ortamlarda uyurken bile  içgüdüsel olarak daha dikkatli oldukları bir gerçektir.  Bu özellikler, insan algısını şekillendirir ve insanların birbirleriyle ve çevreleriyle etkileşim kurmalarını sağlar. YZ sistemleri ise bu tür özelliklere sahip değildir ve -yakın gelecekte de- olası görünmemektedir. Çevremizi saran bu illüzyondan kurtulmamız için yeterli değil mi?Birkaç spesifik örnekle devam edelim. 

 

Chat GPT ve benzer  dil modelleri, anlamsal olarak doğru ve yaratıcı görünen metinler üretebilir, ne güzel ve etkileyici,hiç itirazım da yok.  Ancak “Bilinçsiz” olduklarından ürettikleri metinlerin anlamını gerçekten anlayamazlar. Anlayamadığı “etkileyici metinler üretmek!” Zeka ile karıştırmayalım, insan zekasına hakaret etmeyelim lütfen.

Veri setlerindeki önyargılara bir örnek vermek gerekirse; Amazon’un işe alım için geliştirdiği YZ tabanlı sisteme bakmak iyi bir örnekleme olabilir. Sistem, girilen veriler de erkek adayların daha fazla tercih edilmesinden dolayı kadın adayları sistematik olarak dezavantajlı hale getirmiş ve aldığı eleştiriler üzerine değiştirilmek zorunda kalınmıştır.

Bir diğer önemli örnek ise yaygınlaşmaya başlayan Otonom araçların karıştığı kazalardır. Çevrelerindeki verileri algılayarak ve analiz ederek sürüş kararları veren bu  sistemlerin “İnsan gibi”  karmaşık ve öngörülemeyen durumları anlamakta ve anlık doğru tepki vermekte yetersiz kaldıkları, karıştıkları kazaların oluş şekilleri incelendiğinde ortaya çıkmaktadır. Otonom araçlar konusunda öncü olan Tesla’nın sicili bu konuda pek parlak değil  “Kafası karışıyor ne yapsın abisi”  

Tüm bunlara ilave edebileceğimiz, 2014 yılında geliştirilen bir YZ yöntemi  ile yapılan  DeepFake’ler.dir.  “ Derin kurgu, derin sahte”,  evlerden ırak olsun…İnsanlığın yararına olduğunu savunan yoktur herhalde! Çin teknoloji devi Huawei “Casusluk” teknolojilerini elli farklı ülkeye ihraç etmiş bile!

YZ illüzyonunun en önemli araçlarından en önemlisi hiç kuşkusuz günümüz “Sosyal medyası”dır. Çıkışı itibariyle  insanlar arasında iletişimini sağlamak adına yaratılan bu kitle iletişim araçları, sorunlu algoritmaları yüzünden kendilerine yüklenen işlevden yani aracı olma konumundan epeydir çıkmış durumdadırlar. Bu konuda kitaplar ve makaleler yazılıyor. Birey ve toplumsal etkileri üzerine de bir çok araştırma mevcut. Olumsuz etkileri ispatlanmış durumda.  

Günümüzde istisnasız her kavram artık kitle iletişim araçlarından akıyor. Bireyler, sosyal medya algoritmalarının yönlendirdiği/öğrettiği yankı odalarında ki “ Gerçeklik algısına ” hapsolmuş durumdalar. Ne olursa olsun herhangi bir şeyi derinlemesine düşünmemekteler. Sosyal medyanın oluşturduğu farklı düşüncelere maruz kalmamayı sağlayan bilgi kabarcıkları yüzünden de bir anlamda  “sosyal medya evreninde “yaşamaktadırlar. Facebook ürün geliştirme başkanı Chris Cox’un 2019 yılında bir konferansta söylediği cümle bu konunun tam bir özeti gibi. “ Sosyal medyanın tarihi henüz yazılmadı, Ama etkileri tarafsız değil “

İlla böyle mi olması gerek? Tabi ki hayır. Teknoloji dünyası algoritmalarından büyülenmek yerine makina yararlılığı üzerine çalışmalarını yoğunlaştırabilir di. Önemli Bilim insanı Daron Acemoğlu’nun da dediği gibi “Geç kalındı ama dönülmez noktada değiliz”. 

İkinci yazı da devam edeceğiz

https://monoskop.org/Monoskop

https://monoskop.org/images/1/1f/Wiener_Norbert_God_and_Golem_A_Comment_on_Certain_Points_where_Cybernetics_Impinges_on_Religion.pdf

 

*(1)https://www.bloomberg.com/news/videos/2023-11-09/katzenberg-ai-will-cut-cost-of-animated-films-by-90-video

 

*(2) https://www.epri.com

 

https://www.amazon.com/Myth-Artificial-Intelligence-Computers-Think/dp/0674983513

 

https://s10251.pcdn.co/pdf/2021-bender-parrots.pdf

 

[email protected]

 

2783010cookie-checkMODERN YAPAY ZEKA (YZ) İLLÜZYONU-1 
Önceki haberRojava seçimleri ertelendi
Sonraki haberCorbyn: DAY MER’in yaptığı gibi baskılara karşı koymanın tek yolu dayanışma ve yılmadan mücadele
MÜNİR KARATAŞ
Münir Karataş1962 yılında Eskişehir’ de doğdu. Öğrencilik yılllarında Türk Haberler Ajansı Eskişehir Bürosu’nda muhabir olarak çalıştı. Çeşitli gazete ve dergilerde yüzün üzerinde haberi yayınlandı.Yönetmen olmak için İstanbul’a göç etti. Free-lance yönetmen olarak game show’lar, TV dizileri, TV Show’ları, reklam filmleri, video klipler ve belgeseller çekti.Hobby olarak Sony Müzik Türkiye için onbir adet Etnik Müzik albümünün prodüktörlüğünü yaptı. Albümler Sony – Colombia & Mor etiketiyle 2000 yılında satışa sunuldu.2001 yılında tek merkezden çoklu noktalarda reklam yönetmek ve yaratmak için kullanılabilecek alanındaki ilk yerli yazılım olan MorSoft’un yazılım mimarisini Nurcan Güzel ile birlikte oluşturdu.Türkiye’ye iki binli yılların ilk çeyreğinde Almanya’dan ilk Daylight Screen’i, Amerika’dan da 3D Holografik Screen’i getirdi.TÜBİTAK-UZAY Teknolojileri Enstitüsü ile yedi yıllık sürede ortaklaşa geliştirilen yüksek teknoloji ürünü ses ve görüntü tanıyan, analiz eden yazılımların mimarilerini dizayn eden onbir kişilik akademisyen ekip içerisinde Proje/Telif hakları sahibi sıfatı ile görev aldı.Süreç içerisinde gerçekleştirmek amacıyla; Sinema Filmleri, TV dizi senaryolarını yazdı.2012 yılından bu yana Türkiye’ye ithal ettikleri sinema filmlerinden oluşturdukları kataloğu işletmeye devam ederken, ilk romanı üzerinde çalışıyor ve Nurcan Güzel’in film sektörü için ¨Blok Zincir¨ altyapısında geliştirdiği özgün projesinin kurucu ekibinde yer alıyor.

CEVAP VER

Please enter your comment!
Please enter your name here

This site uses Akismet to reduce spam. Learn how your comment data is processed.