Otonom silahli robotlar: Prometheus mu yoksa Frankenstein mi?

Bu konuyu okuyanlar

Otonom silahli robotlar: Prometheus mu yoksa Frankenstein mi?​


14 Temmuz 2020
Yapay Zeka’yı dahi icat edebilen insanlık, henüz savaşsız bir dünya kurmayı beceremedi. Mars’ta tarım yapmanın yolları bulunmak üzere, fakat dünyadaki açlığı doyuramadık. ‘Nasıl savaşmayız’ın yolunu bulamadığımızdan ‘nasıl daha iyi savaşırız’ın çarelerini üretmeye devam ediyoruz.
Robot teknolojisindeki gelişmeler savaşları da değiştirmek üzere. Otonom silahlı robotları birer Prometheus veya Frankenstein olarak görmek bakış açımıza bağlı. Biri, kendini feda ederek insanlığa ateşi taşıdı, diğeri ise yaratıcısının sonu oldu.
Silahlı robotlar, insan canını risk altına sokan durumlarda insan yerine kullanılmak üzere geliştiriliyorlar. Geleceğin savaşlarının robot ordular arasında olacağı ve bu sayede insanlığın daha az zarar göreceği öngörüsü, tam otonom silahlı robotları gözümüzde birer Prometheus yapabilir. Öte yandan, “robotların silahlarını hata veya hile ile insanlığa doğrultmayacaklarından veya robotların ‘hack’lenmeyeceğinden, diktatör rejimlerce kötüye kullanılmayacaklarından ne kadar emin olabiliriz?” soruları içimizi kemirmeye başladığı anda, aklımızda canlanan artık ateş değil, Frankenstein olacaktır.

Tamamen otonom silahlı robotlar (“autonomous armed robots”) ile ilgili olarak bilim ve hukuk dünyasında halihazırda iki farklı yaklaşım bulunmaktadır. Birinci yaklaşım, söz konusu robotları yasaklamak gerektiğini savunurken, ikincisi, henüz yasaklanacak bir tehditten bahsetmek için erken olduğunu ve yasaklamanın korkulanı engelleyemeyeceğini ileri sürmektedir.
Yasaklama teorisi, özellikle tüm dünyada esen muhafazakar politik rüzgar açısından hak verilecek temel bir argümana sahiptir: Otonom silahlı robotların insanlığa zarar vermesi. Temel insan hak ve özgürlüklerinin farklı gerekçelerle Batı dünyasında dahi sınırlanmaya çalışıldığı, giderek daha muhafazakar politikaların söz sahibi olduğu bir dünyada bu konu daha düşündürücü hale gelmiştir. Fantastik bilim kurgunun dilinde bu korkunun bir adı var: “gücün kötünün eline geçmesi” . Ancak artık bilim kurgudan değil yakın geleceğin gerçekliğinden bahsediyoruz.



Bu korkuları ciddiye alanlar arasındaki teknoloji devi Bill Gates, sadece silahlı robotlar ile ilgili değil ama genel olarak robotların insanlık için tehlikeli olduğunu belirtti. Yasaklama teorisinin temelinde yatan kaygılar bizzat teknolojinin yaratıcıları tarafından da paylaşılıyor. Stephen Hawking ise BBC’ye verdiği bir röportajda “robotların insan ırkının sonu olacağını telaffuz edebiliriz” demişti.
12-16 Aralık 2016 tarihlerinde Cenevre’de, Türkiye’nin de içinde bulunduğu 89 ülkenin katılımıyla gerçekleştirilen Konvansiyonel Silahlar Uluslararası Konvansiyonu toplantısında Çin tarafından, var olan hukukun otonom silahlı robotlar ile ilgili yapılacak düzenlemedeki yeterliliğinin sorgulanması gerektiği ileri sürüldü. Aynı toplantıda, bu tür silahların yasaklanmasını savunan ülke sayısı 19’a ulaştı. Toplantının 16 Aralık tarihli Kararı uyarınca üye ülkelerin uzmanlarının da katılımıyla 2017 yılında Birleşmiş Milletler bünyesinde söz konusu robotların sınırlandırılması ve/veya yasaklanması görüşülecek.
Bu konuda Human Rights Watch ve 50’den fazla sivil toplum kuruluşu tarafından desteklenen “Katil robotları durdurun!(“Stop Killer Robots!”) kampanyası başlatıldı. Bu kampanya, silahlı robotların tamamen otonom olmasına karşı çıkarak, öldürme fonksiyonuna sahip robotların mutlaka insan denetiminde olması gerekliliğinin altını çiziyor. Kampanya, uluslararası hukuk normları ile tamamen otonom silahlı robotların sadece kullanımının değil, geliştirilme ve üretim aşamalarının da uluslararası hukuk tarafından düzenlenmesinin ve sınırlanmasının zorunlu olduğunu savunuyor.
Gerçekten, cezai sorumlulukları bulunmayan otonom robotların yapacakları olası insan hakları ihlali durumlarında sorumluluğun kime ait olacağı ve yaptırımın ne olacağı konularının mutlaka uluslararası bağlayıcılığı olan normlar ile düzenlenmesi gerekmektedir.
Öte yandan şu da bir gerçektir ki yasaklamak her ne kadar kökten ve kolay bir çözüm gibi gözükse de aslında korkulanın gerçekleşme ihtimalini azaltmayacak aksine, daha da kontrol edilemez şekilde etkilerini göstermesine neden olabilecektir. Yasaklanan herşeyin her zaman karaborsası olmuştur ve olacaktır. Yasaklar aynı zamanda yeraltına dünyasına giden basamaklardır. Bu nedenle; robot ve yapay zeka teknolojisinin henüz hukuk tarafından zapt edilebilir olduğu bu aşamada, otonom silahlı robotları tamamen yasaklamak değil fakat uluslararası hukuk kuralları ile düzenlemek, tüm insanlığın yararına olacaktır.
Teknoloji hem bu konuya ayrılan dev bütçeler ile hem de her teknik gelişmenin bir sonrakine açtığı kapılardan hızla geçerek, öngöremeyeceğimiz bir hızda ilerliyor. Tam da bu yüzden yasakları tartışmaya harcayacak fazla vaktimiz olmayabilir. Bu vakti silahlı robot teknolojisinin etik kullanım çerçevesinde sınırlandırması için değerlendirmek daha sağlıklı sonuçlar verecektir.
H.G. Wells’in “Adapte ol ya da yok ol” sözü robotlar ile insanlığın ilişkisinde de söz konusudur. İnsanlığın geldiği noktada büyük öneme sahip olan adaptasyon yeteneğimiz robotlara rağmen ve onlarla birlikte var olmanın yolunu bulmamızı sağlayacaktır.
Yapay zeka konusunda gerek devletler gerekse de özel şirketler tarafından teknolojiye yapılan yatırımın boyutları dudak uçuklatıcı seviyelerdeyken, bu konunun uluslararası hukuk kuralları ile düzenlenmesi konusunda da devletlerin ve uluslararası kuruluşların çalışmalar yapması gerekmektedir. Tüm insanlığı çok yakın bir gelecekte doğrudan etkileme gücüne sahip olan robot teknolojisine dev bütçeler ayıran devletler, teknolojik gelişimlere paralel olarak uluslararası hukuk alanında da kendilerine düşen görevi yapmalı ve uluslararası standartlar belirleyerek özellikle otonom silahlı robotlar ile ilgili olası kaosun ve felaketlerin önüne geçmelidirler. Bilim insanları ve hukukçular bu konuda karşı karşıya değil yanyana hareket etmelidirler. Hukuk, bu konuda teknolojik gelişimin önünü kesmeyecek kadar esnek fakat, insanlığın faydasını ön planda tutacak kadar sınırlayıcı olmalıdır.
Bilim dünyasında da hukuki düzenlemenin gerekliliği konusunda uyarılar yapılmaktadır. Örneğin; 2007 yılında yapay zeka ve robotik Profesörü Noel Sharky, tamamen otonom robotların ölümcül kararları kendi başlarına alabildiklerinin altını çizerek, savaş sırasında bu robotların kullanımına ilişkin uluslararası normların ve etik kuralların çok geç olmadan düzenlenmesi gerektiğini belirtmektedir (the Guardian, 18 Ağustos 2007).
Bilim ve hukuk yapay zeka ve robotik teknolojisi konusunda daha önce hiçbir alanda olmadığı kadar işbirliği içinde ve paralel şekilde ilerlemelidir.
Ülkemiz açısından genel olarak robot çağını ele aldığımızda, barutun icadı ve sanayi devrimindeki ile kıyaslanamayacak kadar geride kalmış durumdayız. Özellikle son yıllarda yaşanan beyin göçü durdurulamazsa, teknolojik geri kalmışlığın robot çağında ekonomik ve siyasi açıdan da şimdikinden çok daha alt basamaklara düşeceğimiz açıktır. Teknolojiyi üreten devletlerin bu teknolojinin hukukunu yaratırken en çok söz hakkı olacak devletler olacağı şüphesizdir.
Avukat Dr. Başak Ozan Özparlak
*Bu yazı HBT'nin 54. sayısında yayınlanmıştır.


14 TEMMUZ 2020
KAYNAK;Otonom silahli robotlar: Prometheus mu yoksa Frankenstein mi? - Herkese Bilim Teknoloji
 

SDN Son Haberler

Üst