Kaynak: Scott Alexander, Meditations on Moloch — Slate Star Codex, 2014

Kimse İstemiyor, Ama Sistem Devam Ediyor

Savaşlar, iklim krizi, 60 saatlik çalışma haftaları, anlamsız eğitim yarışları. Bunlardan nefret etmeyen insan yok. O zaman bu sistemi kim ayakta tutuyor?

Scott Alexander'ın cevabı tüyler ürpertici: Suçlu kötü insanlar değil. Suçlu, oyun teorisinin içine gizlenmiş kör bir canavar — Moloch.

Moloch, kimsenin istemediği ama kimsenin de tek başına yıkamadığı o görünmez hapishane.

Elektroşok Ülkesi

Nick Bostrom'un düşünce deneyi: Hayali bir ülkede iki kural var. Her vatandaş günde 8 saat kendine elektroşok uygulamak zorunda. Buna uymayan ya da karşı çıkan birini gören kişi onu öldürmeli — aksi halde kendisi ölür.

Lider dahil herkes bu kurattan nefret ediyor. Çözüm basit görünüyor: "Herkes aynı anda dursun." Ama sistemin içindeyken ilk adımı atan intihar eder. Güven eksikliği, o dehşeti sürdürür.

İşte Moloch bu.

Balık Çiftliği

Gölün etrafında 1.000 çiftlik var. Hepsi filtre kullanıyor, gölü koruyorlar. Bir çiftçi filtreyi söküyor, maliyeti düşüyor, rakiplerini fiyatta eziyor. Diğerleri batmamak için sırayla söküyor. Göl zehirleniyor, balıklar ölüyor, 1.000 çiftlik birden batıyor.

Bireysel rasyonellik → kolektif intihar.

Evrimin Kendisi de Bir Moloch

Bir adada barışçıl fareler var. Mutasyon sonucu sadece üremeye ve hayatta kalmaya optimize olan bir tür ortaya çıkıyor. Sanatçı fareleri yok ediyor.

Evrim en mutluyu ya da en bilgeyi seçmez. Matematiksel olarak en çok üreyeni seçer. Değerler, güzellik, ahlak — evrim bunları tanımaz.

Silahlanma Yarışı ve Kapitalizm

İki ülke de eğitime ve sağlığa harcamak istiyor. Ama "ya diğeri silahlanıyorsa?" korkusuyla ikisi de milyarları silaha gömer.

Aynısı kapitalizm için geçerli: İşçilerine iyi davranan, insancıl bir fabrika sahibi; işçilerini sömüren rakibe karşı er geç batar. Pazar ahlakı değil, optimizasyonu ödüllendirir.

Sol da Çaresiz, Sağ da

Sosyalizm: Moloch'u yok etmek için tüm gücü devlete verir. Ama güç tek merkezde toplandığında, bürokrasinin kendisi çok daha hantal bir Moloch'a dönüşür.

Libertaryanizm: Pazarı serbest bırakır. Ama serbest pazar balık çiftliği tuzağını kendi kendine çözemez. Bireysel özgürlük + koordinasyon eksikliği = kolektif kölelik.

Yapay Zeka: En Büyük Moloch

Teknoloji şirketlerinin CEO'ları ekrana çıkıp "AI tehlikeli, yavaşlamalıyız" diyor. Ama hiçbiri durmuyor.

Çünkü durdukları an rakip geçecek. Güvenlik protokollerini hiçe sayarak en hızlı büyümek, insanlığı kendi ürettiği bir yapay zekanın kölesi yapma riskini doğuruyor. ABD - Çin yarışı da aynı: kimse durmak istemiyor, kimse tek başına durabilmiyor.

Moloch'tan Çıkış

Tek yol: akıllı ve güvenilir koordinasyon mekanizmaları.

Balıkçıya ahlak çağrısı yapmak işe yaramaz. Hile yapanı cezalandıran, filtre kullananı ödüllendiren yasal altyapı işe yarar. Nükleer silahsızlanma anlaşmalarındaki gibi tarafların birbirini şeffafça denetleyebildiği mekanizmalar. AI şirketlerinin güvenlik standartlarında yasal minimumda birleşmesi.

Elua

Alexander yazıyı şöyle bitirir: Moloch'un karşısına Elua'yı koyar — fethetmeyen, kurban istemeyen, sadece insan sevgisini, sanatı, dostluğu ve şefkati temsil eden hayali bir tanrı.

Tıp, insan hakları, çocuk işçiliğinin yasaklanması — bunlar insanlığın koordinasyon yeteneğiyle Moloch'a karşı kazandığı zaferlerdir.

Kişisel Çıkarım

Bir sistemin içindeyken kendinize sorun: şu an yaptığım şey gerçekten benim ve insanlığın faydasına mı — yoksa sadece oyunun kuralları öyle gerektirdiği için köle olduğum bir Moloch tuzağı mı?

Moloch'u yaratan biziz. Onu yıkacak olan da biziz — ama ancak koordineli hareket edersek.