Otonom Araçlar, Çoğunluk İçin Sürücüsünü Öldürebilir mi?

Uzun zamandır otomobillerin kendi kendilerine yolculuk edebilmesini sağlayacak teknolojiler üzerinde çalışmalar yapılıyor. Her ne kadar Tesla gibi firmalar bu alanın öncüleri olsa da geleneksel otomobil üreticileri de bu alanda ciddi yatırımlar yapıyor. Yine de otonom araçların önündeki tek sorun teknoloji değil.

Otonom araçların nasıl karar verecekleri konusu epeydir tartışmaların merkezinde yer alıyor. Genelde “Birine çarpması gerektiğinde araç bebeğe mi, yaşlıya mı çarpar” gibi tartışmalar bilinse de bir başka önemli açmaz da zihinleri kurcalıyor: Otonom araçlar her durumda yolcusunu mu korur yoksa çoğunluğun iyiliği için yolcusunu feda edebilir mi?

Kimin yaşayacağına nasıl karar verilir ki?

Gelin bu tartışmalarda kullanılan senaryo üzerinden konuşalım. Otonom bir araç kendi halinde yolda gidiyor. Bir köşeyi döndüğünde bir anda yoldan geçen kalabalık bir grupla karşılaşıyor. Araç bu durumda yolcusunu mu korumalı, yoksa ölüm ya da yaralanma sayısını en düşük seviyede tutmak için duvara mı çarpmalı? Peki ya aracın yolcusu siz olsaydınız ne derdiniz?

Tolouse İşletme Okulu’ndan Jean-Francois Bonnefon bu konudaki ahlaki ve etik tartışmalarına kendi makalesi ile dahil olmuş bir araştırmacıdır. Bu çalışmada otonom araçlar arttıkça otonom araçların bu tür kararlar vermek zorunda kalma ihtimalleri de böyle kararları alma sıklıkları da artacaktır. Araçların bu durumlarda vereceği kararlar da araçların kullanımının artması konusunda önemli rol oynayacaktır. Araştırmacılara göre bu konuda otonom otomobillerin nasıl hareket edeceğini belirlemek için kural yapıcılar ve üreticiler, psikologların uygulamalı etik çalışmaları yapmasının önünü açması gerekiyor.

İnsanların kararı bile her zaman aynı değil.

Araştırmada Amazon’un çevrim içi kamusal fonlama/araştırma aracı Mechanical Turk’te yapılan çalışmanın sonuçları ele alındı. Burada katılımcılara farklı senaryolar sunuldu. Bu senaryolardan biri de yukarıda bahsettiğimiz senaryoydu. Ayrıca araç içerisindeki yolcu sayısının ya da yolcu yaşlarının farklı olduğu benzer senaryolar da katılımcılara sunulmuştu.

Sonuçlar ise çok da şaşırtıcı değildi: genel olarak baktığımızda insanlar başkalarının hayatını kurtarmak için sürücünün hayatından vazgeçmeye eğilimliydi ancak burada ufak bir detay dikkat çekiyordu. İnsanlar sadece kendileri sürücü değillerse bu tercihte bulunuyorlardı. Bir diğer öne çıkan nokta ise araştırmaya katılanların %75’ine göre araçların yoldan çıkması ahlaken doğru olsa da aynı katılımcıların sadece %65’i araçların gerçekten de bu şekilde programlanması gerektiğini düşünüyor. Genel olarak bakıldığında ise katılımcılar otonom araçların olası bir kazada ölüm oranını düşürecek şekilde hareket etmesi gerektiği görüşünün hakim olduğunu söylemek mümkün.

Bir de otonom araç paradoksu bulunuyor.

MIT Technology Review gibi kaynaklara baktığımızda ise otonom otomobillerin insan sürücülerden daha güvenli olduğu görüşünün baskın olduğunu görüyoruz. Bu da bizi yeni bir açmaza götürüyor. Sürücüsünü tehlikeye atabildiği için daha az insanın akıllı otomobilleri tercih etmesi, daha çok insanın trafikte kaza yapmasına neden oluyor.

Otonom araçların toplu taşımanın geleceği olacağına dair neredeyse hiçbir sorun yok ve küresel ölçekte de yolculuk yapma kavramını değiştirebilir. Yine de otonom araçların önünde aşılması gereken farklı engeller bulunuyor. Yapay zeka ile etiği bir araya getirmek de bunların arasında başı çekenlerden biri olacak.

Aslında bu konu bilim kurguda çokça ele alınmıştı.

İşte android robot olur, otonom araç olur, evdeki akıllı süpürge olur, genel olarak bu sistemlerin hepsi temel robot yasasını gözeterek hareket ederler. Öte yandan bu robot yasası öyle Bilmemnere Yapay Zeka Zirvesi’nde falan oluşturulmamıştır. Aslında efsanevi bilim kurgu yazarı Isaac Asimov‘un 1942 tarihli hikayesi “Durağan Döngü”de (Ben, Robot’un bir bölümüdür, o yüzden filmde de karşımıza çıkar) belirlediği üç yasadır bunlar. Bu yasalar şu şekildedir:

1. Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
2. Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
3. Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.

Görüldüğü gibi bizim ilk baştaki teorimiz kendisine robot yasası içerisinde yer bulamamaktadır. Bu gibi durumlara çözüm de 1985 yılında yine Asimov’a ait bir bilim kurgu öyküsü olan Robotlar ve İmparatorluk‘ta cevaplanmıştır. Sıfırıncı Kanun olarak bilinen bu kanuna göre gelişmiş robotların tek bir insandansa tüm insanlığın zarar görmesini engelleyecektir.

Sizce bu senaryoda bir otonom araç nasıl davranmalıdır?