“Bir zamanlar, insanlar düşünme işini makinelere devretmiş, böylece özgürleşmeyi umut etmişlerdi; ama bu, makinelere sahip başka insanların onları köleleştirmesine yol açtı sadece.”
Frank Herbert — Dune, 1965
Yapay zekâ çağında insan kavrayışının değeri, bizzat insanların başlattığı ve sorumluluğunu taşıdığı fikirlerle ortaya çıkar.
Makineler üretir.
Neyin korunmaya değer olduğuna insanlar karar verir.
Yapay zekâ bir makinedir ve bir makinenin kontrolü insan ellerinde kalmalıdır; bu kontrolü bütünüyle devretmek, sonuçları kapıya dayandığında geri alamayacağımız bir teslimiyettir.
Bütünüyle devredilmiş kontrolün yol açtığı yıkımlar varsayımsal değildir; kendi sensörlerine, onları okuyan insandan daha fazla güvenen her sistemin öngörülebilir çöküşleridir.
Milyonlarca yıllık biyolojik evrimle işlenmiş insan operatör; sonuçları, utancı ve geri döndürülemeyecek bir kararın ağırlığını kavrayabilen bu gezegendeki tek sensör dizisini taşır.
Mesele insanı döngünün dışına çıkarmak değil; döngünün hata yapma ihtimalinin bulunduğu, bir makinenin özgüveninin güvenilmeye en az layık olduğu kontrol noktalarına insanı tam isabetle yerleştirmektir.
