Görsel: Konstantin Grigoriev
Şu an Deepmind şirketinin geliştirdiği yapay zekanın ürküten yanlarından biri de yapay zekanın doğaçlama hareket edebilme kabiliyeti. Kendisine öğretilenler üzerinden değil de kendi kendine düşünme, karar verme, tercih yapma becerilerinde bulunuyor. Bunun bir sonraki aşaması ise kendi kendinin farkında olmak.
Bundan 15 yıl önce Ekşi sözlük’te yasarix nickli yazar Terminatör filminde dünyanın kontrolünü eline alan yapay zeka skynet hakkında şöyle yazmış:
‘terminator filminde tüm dünyayı kontrol eden uluslararası ağ. bir yapay zeka tarafından kontrol edip dünyanın içine edilmesine sebebiyet vermektedir. Google' ın benzemesinden korktuğum ağ.’
Google’ın çatı şirketi Alphabet’in yapay zeka geliştirme üzerine kurulmuş Deepmind adlı şirketi alışının 10 yıl önceside yazılmış bu entry erken uyarı sistemi niteliğine de sahip.
- Deepmind, diğer yapay zeka tabanlı şirketlerin aksine kendi sistemini ‘her şey için yararlı ve etkili bir yapay zeka’ olarak tanımlıyor.
Bu açıklamanın altında yatan gerçek, karışabileceklerinin limiti olmadığı yönünde. Sağlık da bu alanlardan sadece biri. 2016 yılında ‘New Scientis’ adlı dergi İngiltere’de hastanelerin DeepMind ile yapılan anlaşma üzerine1.6 milyon İngiliz hastanın datalarının kuruma sattığını ortaya çıkardı. Anlaşma, DeepMind Health'in hastanelerde girilen bütün verilere ulaşabildiğini gösteriyor. Şirketin; Hasta olunan zaman, taburcu olunan an, acil hastaları, kazalar, patoloji, radyoloji, kritik bakım hizmetlerine erişimi olduğunu gösteriyor. Depresyondan muzdarip olup olmadığınız veya hiç kürtaj geçirip geçirmediğiniz gibi bir sürü kişisel detaylar da satılan bilgiler arasında.
Bir yıl sonra ise SkyNews, Ulusal Data Koruyucusu Fiona Caldicott’un sızan mektubunu yayınladı. Bu mektuba göre DeepMind ile hastaların bilgilerini anlaşma karşılığı satan Royal Free arasındaki ilişki ‘etik olmayan legal’ bir işti. Daha sonra bu anlaşmanın hukuki olarak da uygunsuz olduğuna İngiliz mahkemeleri karar verdi.
İngiltere’deki olayı sızdırıldığı için biliyoruz. Şu bir gerçek ki karşımızda dünyanın her yerinde her türlü kişisel datayı iştahla toplayan bir şirket var. Hastanelerden mahrem bilgileri para karşılığı alan bir şirketin diğer kurumları üzerinden topladığı bilgileri bu dosyaya eklemeyeceğini düşünmek hayal olur.
Şu an Deepmind şirketinin geliştirdiği yapay zekanın ürküten yanlarından biri de yapay zekanın doğaçlama hareket edebilme kabiliyeti. Kendisine öğretilenler üzerinden değil de kendi kendine düşünme, karar verme, tercih yapma becerilerinde bulunuyor. Bunun bir sonraki aşaması ise kendi kendinin farkında olmak. Buradaki en iyi ihtimal Google’ın çatı şirketi Alphabet’in yapay zekayı bir tazı köpeği gibi tekelleşme arzusu adına kullanması.
Çünkü;
Google karşısında etik sınırlara ve düzenlemeye ihtiyaç duyduğu bir alan yerine gücünü arttırabileceği bir ürün görüyor.
- Yapay zekanın ‘insaoğlunun varoluşuna dair en ciddi tehdit olduğunu düşünen Musk bunun bir anlamda şeytanı çağırma olduğunu söylüyor.
Kıyamet senaryoları çok da uzak değil
Kıyamet senaryoları çok da uzak değil
Elon Musk’a göre ise yapay zekanın bir şirketin mutlak gücü eline almasından daha tehlikeli riskleri var. Yapay zekanın ‘insaoğlunun varoluşuna dair en ciddi tehdit olduğunu düşünen Musk bunun bir anlamda şeytanı çağırma olduğunu söylüyor. Musk’ın iddiası; yapay zeka ile insan arasındaki düşünme kabiliyeti farkının insan ile kedi arasında olduğu kadar büyük olduğu ve bunun da kendimizi korumamızı imkansızlaştırdığını düşünüyor. Nitekim Deepmind adlı yapay zeka bundan on yıl önce ilk tasarlandığında insana karşı mücadele ediyordu. Go oyununda veya satrançta türümüzün en başarılı örneklerini kolayca mağlup eden teknolojinin henüz 20 yıllık bir geçmişi dahi olmaması Musk’ın haklılık payı olduğunu gösteriyor.
Geçtiğimiz yıllarda, araştırmacılar,
DeepMind’ın iş birliği yapma eğilimini test ederken farklı bir davranışını da gözlemlediler. DeepMind kaybettiğini hissederse, üstünlüğünü garantiye almak için saldırgan stratejiler geliştiriyor. Kaybetmeye tahammülü olmayan bir makinanın doğuşuna tanıklık ediyoruz.
Üstelik bu hikayeyi daha önce de izlemiştik. Tek umudumuzun distopik bilim kurgu filmlerindeki süper kahramanlar haline gelmesinden önce bir şeyler yapmamız gerektiği de geçmişin bize bıraktığı bir ders olarak ortada duruyor.
3.bölüm:
#deepmind
#yapay zeka
#google imparatorluğu
