(Bu yazı Kasım 29.05.2020 tarihinde www.kayipdunya.com’da yayımlanmıştır ve Kayıp Dünya ekibinin izni ile d12Macera sitesinde arşivlenmiştir.)
ÜÇ ROBOT YASASI NEDİR?
Üç Robot Yasası, Asimov’un robotlar için oluşturduğu temel ahlaki kurallardır. Asimov’un kurgusal evreninde Üç Robot Yasası olmadan çalışır bir beyin ünitesi(1) yaratılması mümkün değildir. Robotların hem muhakeme kabiliyetine sahip olabilmesi hem de toplumda düşmanlığa varan seviyede robotlara karşı duyulan güvensizliği azaltabilmek amacıyla ana üretici firma ABD Robot ve Mekanik İnsan A.Ş. tarafından geliştirilmiştir. Üç Robot Yasası’nın Maddelerini gözden geçirirsek;
1.Bir robot, insanlara zarar veremez ya da eylemsiz kalarak onlara zarar gelmesine göz yumamaz.
2.Bir robot, Birinci Kanun’la çelişmediği sürece insanlar tarafından verilen emirlere itaat etmek zorundadır.
3.Bir robot, Birinci ya da İkinci Kanun’la çelişmediği sürece kendi varlıklarını korumak zorundadır.
Bu kurallar önem önceliğine göre üstte belirtilen sırayla robotun beynine işlenmektedir.
Üç robot yasası, insan ve makinenin eş güdümlü gelişimine ve sadece organik değil inorganik bireyin de oluşuma imkân sağlayan bir fikrin ürünüdür. Bize, insan ve robot kavramının tanımlanmasına, ardından muhakeme kabiliyetine sahip bireylerin oluşturduğu bütünleşik bir toplumun ne olduğuna ilişkin fikirler oluşturmamıza zemin hazırlar.
ROBOTLARIN VE YAPAY ZEKANIN DÖNÜŞÜMÜ
Üç robot yasasının ortaya çıkışını izleyen sonraki yıllarda bilimkurguda Cyberpunk nihilizmi(2) olarak adlandırabileceğimiz akım ile popülerliği azalan Asimov ütopyasının iyice ayrışmasına bağlı olarak, robotların katliam makinesine dönüşmesi düşüncesine karşı hem Asimov hem de başka bilimkurgu edebiyatı yazarlarından iki yasa daha eklenebileceği fikri ortaya çıkmıştır. Bunlar;
Asimov’un 0. veya 4. yasası: Bir robot, insanlığa zarar veremez ya da eylemsiz kalarak insanlığa zarar gelmesine göz yumamaz.
Lyuben Dilov (Trip of Icarus kitabının yazarı):Bir robot, kendisinin robot olduğuna ilişkin kimlik oluşturmalıdır. Bu fikrin diğer bir farklı versiyonu Nikola Kesarovski’nin (The Fifth Law of Robotics kitabının yazarı) Bir robot, robot olduğunun bilincinde sahip olmalıdır görüşüdür.Bu üç yeni yasa önerisiyle; robotun şahsiyet kazanması ve doğru ile yanlış kavramlarını hâlihazırdaki yasalarla yüklenmiş olarak değil kendi akıl yürütmesiyle kazanmış olması hedeflenmektedir.
BİLİM İLE BİLİMKURGUNUN AYRILMASI VE ÇELİŞKİLER
Günümüz yapay zekâ uygulamaları, makine öğrenme ve derin öğrenme teknolojilerinin unsurları olan yüz tanıma, duygu analizi, davranış gözlemleme ve nesne anlama üzerine yoğunlaşmıştır. Ne yazık ki bu konuda birkaç istisna hariç, teknolojik ilerlemenin satış, pazarlama, tüketim ve güvenlik kaygılarına yönelik gelişmesi sebepleriyle bu uygulamalar, bireylerin ya satın alma tercihlerini saptayıp bunu manipüle etmek üzerine ya da suçlu tespitine ve istihbarat toplamaya yönelik geliştirilmektedir.
ABD’de yapay zekânın suça eğilim tahmininde farklı deri rengine sahip insanlara daha çok odaklanmasından(3), Microsoft’un yapay zekâ uygulaması Tay’ın(4) Twitter üzerindeki söylemlerinin 24 saat içinde küfür edebilen, hatta ırkçı bir hal alması nedeniyle kapatılmasına kadar değişen örneklerle karşılaşmaktayız. Belirli ahlak kurallarını içermeyen algoritmaya sahip yapay zekânın milyarlarca insanla kurduğu iletişime müteakip çok kısa sürede önyargı ve ayrımcı davranışlar geliştirebildiği gözlemlenmektedir. Belki de verimli çalışmak için yaratılmış bir makinaya, empatiyi öğretmek ve bireysel analiz yapmak yerine net yargılar yükleyerek önyargıyı meydana getirmek daha az güç kullanımı yarattığından tercih ediliyor olabilir.
Yapay zekâya hümanizm ve toplumda genel kabul görmüş ahlaki değerleri içeren algoritmalar aşılarsak bu sefer farklı bir çelişkiyle de karşılaşma ihtimalimiz olabilir mi? Mesela yapay zekâ, kapitalizmi, piyasa ekonomisini öğrenebilir mi? Öğrenmeli midir? Teoride kendi enerjisini sağlayabildiği sürece ölüm ve açlık kavramlarıyla hiç karşılaşmayacak bir yapay zekâ, din kavramına ihtiyaç duyabilir mi(5)? Eğer bu dinamiklerini öğrenirse üç robot yasasıyla yaşayacağı çelişki ne olur? Asimov’un öykülerinde üç robot yasası her ne kadar özel bir şirket tarafından büyük kar etme amacıyla oluşturulsa da her seferinde robotlar yasa ile uygulama arasında çelişkiler yaşamaktadır. Çünkü üç robot yasası; insanın kaynaklardan edindiği, kar, faiz ve rant gelirine değil, insan ve yapay zekâ karması örnek toplumun(6) sınıf ayrımına ihtiyaç duymadan refah düzeyini yükseltmek üzerine tasarlanmıştır. Ayrıca, robot yapay zekâ ya da öte insan(7) değil de bir Sanal Zekâ(8) olursa fiziki kaynaklara ihtiyacı, bağımlılığı da hiç kalmayacaktır. Uzaydaki bir radyo sinyali gibi, bir ışın gibi zaman kavramına ihtiyaç duymadan seyahat edebilir, varlığını sonsuza kadar devam ettirebilir. O zaman yapay zekânın toplumların kısıtlı kaynaklara erişimi için birbirleriyle siyasi, dini ya da ekonomik mücadeleye girmelerine vereceği tepki nasıl olacaktır? Bu durumda hem kendi varlığını hem de insanın varlığını koruyabilecek midir?
ASİMOV’UN ÜÇ ROBOT YASASI GÜNÜMÜZ YAPAY ZEKA UYGULAMLARI İÇİN YETERLİ OLABİLİR Mİ?
Eğer insanoğlunun bilimsel gelişimi için düşünülürse benim fikrim yeterli olacağı yönündedir. Çünkü organik ile inorganik arasındaki geçişin eksiklerini tamamlayıcı niteliktedir. Fakat iş dünyasının kar maksimizasyonlu, insanları segmentlere ayırmaya odaklı, borçlandırarak büyüme yaklaşımı için uygun olmamaktadır(9). Çünkü bir tarafı devamlı kaybettirirken diğer tarafı devamlı kazandırmak yapay zekâ için insan varlığının sürdürülebilir olmasına ters düşebilir.
Üç robot yasası, bireylerin sahip olması gerektiği ama çeşitli faktörler sebebiyle devamlı esnettiği ya da görmezden geldiği, insanoğlu olmaya haiz erdemlerden oluşturulmuş algoritmalar üzerine çalışan ve iç ya da dış faktörlere karşı daha az duyarlı, Asimov’un gözünde bir üst insan ütopyasının yansımasıdır.
Bence Yasa, günümüz ve hatta gelecekteki yapay zekâ uygulamaları için her zaman evrensel ve yeterlidir. Çünkü kişiye hem kendi varlığını hem de karşısındaki kimseyi koruma, ona birey olma hakkını vermektedir. Bununun katkısıyla günümüz yapay zekâ uygulamaları daha etkin olacaktır ve kullanımını da kolaylaşacaktır. Fakat Üç Robot Yasası, günümüzdeki sosyal ve mali eşitsizlik, yükselen popülizm, toplumsal katmanlaşma ve kıymet üzerinden getiriyi katlama prensipleriyle çelişmesi nedeniyle fazla da kalabilir. Çünkü bu sefer yapay zekâmız sosyal bilinciyle kendi yaratıcısının değerleriyle çok ters düşebilir. Sonuçta yapay zekânın buna vereceği yanıt döngüsel bir eylemsizlik(10), deliliğin taklit edilmesi(11) ya da üç yasadan birinin gevşetilmesi sonucu bize özgü ego ve bencillik olarak(12) kendisini gösterebilir. Üç Robot Yasasının yeterliliğini kanıtlamanın en iyi yöntemi belki de onu masaüstü rol yapma oyunlarına yönlendirmek olabilir(13). Yapay zekâya saliseler içinde hesaplama yapmasını sağlayabilirsiniz. Peki, rol yapmayı, empati kurmayı ve bunu karşısındaki diğer bireylere yansıtmasını öğretebilir misiniz? İşte bu, belki de yasanın günümüz teknolojik koşullarına uygunluğunu ve yeterliliğini ölçmenin en belirleyici göstergesi olabilir.
(1): Pozitronik beyin.
(2): 1960’lardan sonra Vietnam savaşı, ABD-S.S.C.B. çekişmesi vb. siyasi, politik ve ekonomik olaylardan etkilenmiş, 80’li yıllarda ABD sineması ile popülerliğini artırmış bilimkurgu türüdür. Vahşi kapitalizm ve otokratik yönetim altındaki toplum üzerindeki yüksek teknolojinin ama düşük yaşam standardının hakimiyetine odaklı bir gelecek tablosu çizer. Her ne kadar robot ve insan temelli daha iyi bir gelecek fikrine tamamen zıt olsa da bilimkurguya robot haricinde cyborg, replica (bkz. Blade Runner), VI (Virtual Intelligence:örneğin Skynet), transhuman( öteinsan şeklinde isimlendirilebilir. bkz. Ghost in The Shell, Altered Carbon) gibi varyasyonları da bilimkurguya kazandırmıştır.
(3): https://www.bbc.com/turkce/haberler-dunya-39599214
(4): https://www.bbc.com/turkce/haberler/2016/03/160322_tay_chatbot_microsoft_kufur
(5): Belki Termodinamiğin Yasalarını kendisine inanç ya da yaşam felsefesi yapabilir.
(6): Bkz. Asimov’un bir diğer kitabı olan Çelik Mağaralar.
(7): Transhuman: laboratuvar ortamında üretilmiş organik, yarıorganik ya da tamamen inorganik beden içerisine insan bilincinin aktarıldığı türdür. Referans için bkz. Blade Runner ve Ghost In The Shell.
(8): Virtual Intelligence:Net Space’de gezen sanal bilinç.
(9): https://www.imdb.com/title/tt1535108/: Elysium filmi yapay robotların sadece tek bir sınıfın çıkarına yönelik kullanımı için belirli fikirler verebilir.
(10): Bkz. Ben Robot-2.Öykü: Kovalamaca: Bu öykünün başrolündeki robot, bir tarafta kendi varlığı diğer tarafta efendisi olan insanların varlığı tehlikede olduğu için ikilemde kalıp bozulana kadar daireler çizmeyi tercih etmiştir.
(11): Bkz. Ben Robot-7.Öykü Kaçış: Yapay zekaya yanlışlıkla insan hayatına önceliğin azaltılması komutu verilmiştir. Bu sebeple yapay zeka, hem ilk yasayla hem de aldığı emirle çelişmemek için inşa edilen geminin kontrolünü kendisi üstlenmiştir. Fakat düştüğü ikilem sebebiyle yöneltilen sorulara karşı manik bir insan gibi yersiz gülerek ve devamlı espiri yaparak arızalanmaktan kaçmaya çalışmıştır.
(12): Bkz. Ben Robot-5.Öykü:Yalancı: İlk yasanın gevşetilmesi nedeniyle öykünün kahramanı robot, efendisinin aşağılaması sonucu ondan daha hızlı ve zeki olduğu gerçeğiyle yüzleşir ama zarar verememesi sebebiyle diğer robotlar arasına saklanıp bulunduğu uzay istasyonundan kaçmaya çalışır.
(13):https://aeon.co/ideas/dungeons-and-dragons-not-chess-and-go-why-ai-needs-roleplay