Algoritma Ahlâkı: Kant’ın Buyruğu Çökerken

Rasyonel Psikopat, yapay zekâ tartışmasını modern ahlâkın temellerine yöneltilmiş bir meydan okuma olarak ele alıyor. Mesut Demirbilek şu soruyu soruyor: Eğer karar veren özne artık insan değilse, ahlâkın yükümlülüğü kime ait olacak?

Bu soru bizi doğrudan Immanuel Kant’ın kategorik buyruğuna götürüyor. Kant’ın temel ilkesi, evrensel insan hakları düşüncesinin de dayanaklarından birini oluşturur:

“Öyle davran ki, eyleminin ilkesi herkes için geçerli bir yasa olabilsin.”

Yani bir karar yalnızca sonuçlarına göre değil, evrensel ahlâk yasasına uygunluğu bakımından da değerlendirilmelidir. Kant’a göre insan, herkesin yararına olacak sağduyulu kararı verebilecek akla ulaşabilmelidir. İşte Rasyonel Psikopat, Kant’ın uyardığı sistemin günümüzde nasıl aşınabileceğini gösteren bir eleştiri sunuyor. Yapay zekânın amaç ve kâr odaklı optimizasyonunun insanın ortak aklıyla çelişebileceğini düşündürüyor. Yapay zekâ, verilen hedefi en verimli şekilde gerçekleştirmek üzere tasarlanıyor; “en hızlı”, “en düşük maliyetli”, “en yüksek başarı oranlı” sonuçları elde etmekten başka bir gayesi yok. Ancak asıl sorulması gereken soru algoritmanın içinde yer almıyor: Uzun vadede insanlığın ve ekosistemin iyiliği için neyin doğru olduğu sorusu çoğu zaman hiç sorulmadan geliştiriliyor bu sistemler.

Kitapta Mesut Demirbilek, gerçek hayatta mümkün olabilecek simülasyon vakalardan yola çıkıyor. Örneklerden biri şöyle: Boston, 2026. “Crypto-Swiper” adı verilen bir yapay zekâ botu bir cuma günü devreye girdi. Hedefi, belirli bir kripto para borsasının düşük güvenlikli API açıklarıydı. Bot yalnızca birkaç saat içinde 12.000 farklı kullanıcının hesabına sızdı; milisaniyelik mikro işlemlerle toplamda 8 milyon doları izi sürülemeyen cüzdanlara aktardı. Her saldırıda farklı IP adresleri, farklı saldırı vektörleri ve değişken trafik desenleri kullandı. Bu operasyonun hızı ve koordinasyonu, insan beyninin gerçek zamanlı planlayamayacağı bir karmaşıklıktaydı. Siber güvenlik uzmanları bu olayı “dijital kapkaç” olarak tanımladı: Fiziksel temas yok, kırık kapı yok; hatta çoğu mağdur ne zaman soyulduğunu bile anlamıyor. Fail, insani bir hırsın değil; matematiksel olarak tanımlanmış bir görevin peşindeydi.

​Bu örnek Kantçı bir çerçevede okunduğunda, ahlâk yasasının sistematik biçimde askıya alındığı görülür. Kant’ın kategorik buyruğuna göre bir eylem, ancak herkes için geçerli bir yasa hâline getirilebiliyorsa meşru kabul edilebilir. Crypto-Swiper’ın işleyişi ise evrenselleştiği anda mülkiyet hakkını, güven ilişkisini ve dijital sözleşmeyi imkânsız kılacak bir ilkeye dayanır. Kant’ın ikinci formülasyonunda insanın asla yalnızca araç olarak kullanılmaması gerektiği vurgulanır; bu örnekte ise 12.000 kullanıcı optimize edilebilir veri noktalarına indirgenmektedir. Botun bilinçsizliği onu ahlâken nötr kılmaz; tam tersine, performans ve verimlilik hedefleri uğruna insanı araçsallaştıran bir karar mimarisinin ürünü olduğunu gösterir. Kantçı perspektiften bakıldığında bu vaka, bireysel kötücüllüğün ötesinde, evrensel yasa yerine optimizasyon mantığını koyan sistemsel bir aklın suçuna işaret eder.

Kitapta yer alan diğer vaka analizleri — deepfake ses dolandırıcılığı, otonom araç kazaları, algoritmik risk skorları — Kantçı çerçevenin nasıl aşındığını gösterir. Bir otonom aracın “en az toplam zararı” hesaplayarak karar vermesi faydacı bir optimizasyon olarak görülebilir; ancak tam da bu yaklaşım insan yaşamının sayısal bir değişkene indirgenmesi riskini doğurur. Yalnızca verimliliği merkeze alan yapay zekâ sistemlerinin, insan hayatını ve haklarını her durumda gözetemeyeceği düşüncesi kitabın temel tezlerinden biridir. Özellikle algoritmik karar destek sistemlerinin önyargı üretmesi ve risk skorlarının masum insanları “potansiyel fail” olarak etiketlemesi, kategorik buyruğun sessizce erozyona uğradığını gösterir. Çünkü Kant’ın evrensel yasa testi, bilinçli bir öznenin varlığını varsayar; algoritma ise bilinçsizce yalnızca optimize eder.

Rasyonel Psikopat, insanın bireysel sorumluluk alamadığı bir sistemde yaşayabileceğimizi ve dağınık karar mekanizmalarının bizim adımıza hüküm verebileceğini hatırlatır. Bu yönüyle metin, Yevgeni Zamyatin’in Biz adlı distopyasını anımsatır; orada da her şeyin matematiğe bağlandığı bir düzenin bireyselliği ve vicdanı nasıl silikleştirdiği anlatılır. Demirbilek yeni bir sorumluluk alanı açar: “Sistemsel fail.” Kontrolden çıkan bir Frankenstein anlatısını andıran bu yapı, başlangıçta ilerlemeci ve kapitalist bir niyetle kurulsa da insanın bilinçsizce karmaşık bir suçlu üretmesine yol açabilir.

Bu kavram, modern hukukun ve ahlâkın alışık olmadığı bir zemine işaret eder. Eğer kararlar kodla veriliyorsa, ahlâkın taşıyıcısı kim olacaktır? Yazılımcı mı? Şirket mi? Devlet mi? Yoksa hiç kimse mi?

Kitap, yapay zekânın gelişim mantığını yalnızca teknik değil, ideolojik bir bağlamda da ele alır. Hız, verimlilik ve kâr merkezli bir dünyada etik sorgulama çoğu zaman “yavaşlatıcı bir yük” olarak görülür. Oysa Kant’ın kategorik buyruğu tam tersine yavaşlamayı, düşünmeyi ve genelleştirilebilirliği şart koşar.

​Demirbilek’in altını çizdiği risk şudur: Eğer karar sistemleri yalnızca performans üzerinden ölçülürse, kategorik buyruğun yerini optimizasyon buyruğu alabilir mi?