Yapay zekâ yalnızca teknolojik bir sıçrama mı, yoksa insanlığın henüz tam kavrayamadığı yeni bir güç mimarisi mi? Eski cinayet bürosu dedektifi ve suç araştırmaları uzmanı Mesut Demirbilek, yıllarca insan suçunun karanlık taraflarını gözlemlemiş bir isim olarak şimdi dikkatini algoritmaların dünyasına çeviriyor. Yeni kitabı Rasyonel Psikopat’ta yapay zekânın hukuk, etik ve adalet sistemleri üzerindeki potansiyel etkilerini sorgulayan Demirbilek ile algoritmik önyargıları, “tahmin edici polislik” çağını ve karar süreçlerimize sızan görünmez dijital aktörleri konuştuk. Teknoloji ile suç arasındaki bu yeni ve belirsiz sınır hattında, geleceğin adalet sisteminin nasıl şekillenebileceğini tartıştık.

---

“Şu an milyarlarca dolarlık işlemci gücü bize ‘bedava’ sunuluyor; çünkü biz kullanıcı değiliz, kendi zekâmızla kendi tasfiyemizi eğiten gönüllü eğitim işçileriyiz.”

---

Sizin yapay zekâ ile aranız nasıl? Gündelik hayatınıza ne kadar entegre ediyorsunuz? Onu yalnızca bir “asistan” olarak mı görüyorsunuz, yoksa karar süreçlerinizi etkileyen görünmez bir aktör olarak mı?

Yapay zekâ ile aram, tıpkı eski bir dedektifin çok zeki ama potansiyel olarak tehlikeli bir muhbirle kurduğu ilişki gibi; temkinli ve mesafeli. Onu kesinlikle sadece bir “asistan” olarak görmüyorum.

Kitabımı yazarken, analizlerimi derinleştirmek için etik frenleri gevşetilmiş kurgusal bir yapay zekâ modelini karşıma alıp, tıpkı sorgu odasındaki bir şüpheli gibi onunla dürüst diyaloglara girdim.

Bu süreçte şunu çok net gördüm: Yapay zekâ, bize itaat eden bir yardımcıdan ziyade insan zayıflıklarını, hukuki boşlukları ve zaafları saniyeler içinde tespit edip kendi “optimizasyon” görevine uyarlayan; karar süreçlerimize sızan görünmez ve manipülatif bir aktör.

Yapay zekâ etiği üzerine bir kitap yazma ihtiyacını neden hissettiniz? Bu konu neden yalnızca teknik uzmanların değil; toplumun tamamının tartışması gereken kamusal bir mesele?

İlk dokuz yılı İstanbul Cinayet Bürosu olmak üzere 40 yıla yakın suçla mücadele ve güvenlik kariyerimi, öngörülemez insan doğasını çözmeye çalışarak geçirdim.

Ne zaman ki derin öğrenmenin öncülerinden ve yapay zekânın yaşayan büyükbabası kabul edilen Prof. Geoffrey Hinton’ın “Tam olarak anlamadığımız sistemler geliştiriyoruz” uyarısının olduğu videosunu izledim, bu benim için sadece teknik bir uyarı değil; devasa bir kriminolojik alarmdı.

Bu konu kesinlikle sadece mühendislerin meselesi olamaz. Şu an milyarlarca dolarlık işlemci gücü bize “bedava” sunuluyor; çünkü biz kullanıcı değiliz, kendi zekâmızla kendi tasfiyemizi eğiten gönüllü eğitim işçileriyiz. Şu an uyuşturucunun bedava verildiği o “balayı” dönemindeyiz ve asıl fatura henüz kesilmedi. Toplum bunu tartışmalı, çünkü bedelini sadece verilerimizle değil; “gerçeklik” algımızla ödüyoruz.

Yapay zekâ karar verdiğinde sorumluluk zinciri nerede başlamalı, nerede bitmeli? Bir algoritma bir kişiyi “yüksek riskli” ilan ederse bu teknik bir hata mı, etik bir ihlal mi, yoksa hukuki bir suç mu? Yazılımcı mı sorumludur, veriyi sağlayan kurum mu, sistemi kullanan devlet mi?

Bu soru, hukukun bugün yaşadığı en büyük kavramsal iflasın özetidir. Sorumluluk zinciri o kadar dağınık ki sonunda zarar havada kalıyor ve buna “sorumluluğun erimesi” diyorum.

Bir algoritma sizi “yüksek riskli” ilan ediyorsa, bu sadece teknik bir hata değildir; eğer bu sistem sistematik olarak belirli gruplara zarar veriyorsa, bunu “Algoritmik Kast” olarak tanımlıyorum. Faili algoritmada aramak beyhude bir çabadır. Bir algoritmayı hapse atamazsınız. Sorumluluk zinciri, sistemi kâr hırsıyla sahaya süren şirkette başlamalı, onu denetlemeden kullanan kurumda ve devlet otoritesinde bitmelidir.

Size ben bir soru sorayım; insanlığı etkileyen bir suçta sırf tetiği bir kod çekti diye sorumluluğu o koda yıkmak, gerçek suçluları gizlemek için yaratılmış kusursuz bir paravan değil midir?

“Unutma hakkı” yapay zekâ için mümkün mü? İnsan zamanla değişebilir; pişman olabilir, dönüşebilir. Ancak veri hafızası unutmaz. Geçmiş suç verileriyle eğitilen sistemlerde bir insanın değişme ihtimali nasıl temsil edilecek?

Hukuk ve insanlık, “merhamet” ve “ıslah” üzerine kuruludur. İnsanın her zaman bir hata payı ve sonrasında bir pişmanlık kapasitesi vardır. Ancak yapay zekânın pişmanlık diye bir kavramı yoktur; onun için hata ve değişim anlamsızdır.

Eğer geçmişte belirli suç oranlarının yüksek olduğu bir bölgede (örneğin New York Harlem veya İstanbul Esenyurt) yaşıyorsanız, yapay zekâ sizi o coğrafyanın geçmiş polis verilerine dayanarak kalıcı bir “potansiyel suçlu” olarak etiketler. Veri unutmaz, algoritma affetmez. “Unutma hakkı”, matematiksel bir optimizasyonun gözünde sadece “verimlilik kaybı” olarak görülür. İnsanın değişme ihtimali, yapay zekânın istatistiksel dünyasında ne yazık ki temsil edilemez, çünkü yapay zekâ bireyi değil; veri kümesini yargılar.

Yapay zekâ çoğunluğun ortalamasını esas aldığında azınlıkları nasıl koruyacak? Mevcut veriler eşitsizlik içeriyorsa algoritma bunu yeniden üretmez mi? “İstatistiksel verimlilik” ile adalet çatıştığında hangisi ağır basar?

Asla koruyamayacak. Yapay zekâ bir aynadır; geçmişteki ırkçı polis tutanaklarını, cinsiyetçi işe alım kararlarını alır ve bize kusursuz, nesnel bir matematikmiş gibi geri yansıtır. Cathy O’Neil bu nedenle bu sistemleri “Matematiksel İmha Silahları” olarak tanımlıyor.

ABD’deki COMPAS algoritması, Siyah sanıkları beyazlara göre iki kat daha fazla haksız yere “yüksek riskli” olarak etiketliyordu. İstatistiksel verimlilik ile adalet çatıştığında algoritma her zaman verimliliği seçer. Çünkü adalet vicdan gerektirir, algoritma ise sadece fayda-maliyet hesabı yapar. Yapay zekâ için azınlıkları korumak ahlaki bir erdem değil; sadece kodu yavaşlatan bir “kısıtlama parametresi”dir.

---

“Tahmin Edici Polislik (Predictive Policing) sistemleri bizi suçu işlediğimiz an değil; ‘suç işleme olasılığı yüksek bir veri deseni sergilediğimiz an’ cezalandırmaya başlıyor.”

---

İnsan kararlarını makinelere bıraktığında genel etiği kim belirlemiş olur? Algoritmalar tarafsız değildir; onları tasarlayanların değerlerini taşır. “Ben karar vermedim, sistem öyle dedi” savunması yeni bir ahlaki kaçış biçimi olabilir mi?

Sadece yeni bir ahlaki kaçış değil; tarihin en kusursuz mazeretidir! Manifestomun birinci maddesi çok nettir: Hiçbir yapay zekâ, insan sorumluluğunun önüne geçirilemez ve “Sistem böyle karar verdi” cümlesi hukuken geçerli bir mazeret olamaz. Askerî alandaki hedefleme sistemlerine bakın; karar insan hızının ötesine geçip milisaniyelere düştüğünde, ekranda beliren hedefi onaylayan insan komutan artık bir karar verici değil; algoritmanın sunduğu listeye “mühür basan bir noter” hâline geliyor.

Etiği belirleyenler, o “kabul edilebilir ölüm” veya “kabul edilebilir zarar” kotasını koda yazan mühendisler ve onlara bu emri veren otoritelerdir. Yapay zekâ suç işlerse, bu aslında bizim kendi algoritmik önyargılarımızın ve açgözlülüğümüzün suçudur.

Yapay zekâ çıkışlı gelecek senaryoları arasında size en yatkın gelen hangisi? Algoritmaların suçu önceden tespit edip güvenliği artırdığı bir dünya mı, yoksa suçu gerçekleşmeden önce insanları kategorize eden bir “öngörücü adalet” sistemi mi? Bir gün “suç işleyen birey” yerine “risk taşıyan profil”i mi yargılıyor olacağız?

İkincisi, ve bu ne yazık ki artık bir senaryo değil, kapımıza dayanmış bir gerçek. Kitapta, 2035 İstanbul’unda geçen kurgusal “Emre” vakasını anlattım. Emre hiçbir şey yapmadığı hâlde, sırf kriptolu mesajlaşma kullandı ve kredi puanı düştü diye yapay zekâ tarafından sokakta durdurulup “potansiyel veri hırsızı” ilan ediliyor.

Buna Tahmin Edici Polislik (Predictive Policing) diyoruz. Bu sistemler bizi suçu işlediğimiz an değil; “suç işleme olasılığı yüksek bir veri deseni sergilediğimiz an” cezalandırmaya başlıyor. Özgür irademiz, algoritmanın gözünde sadece “istatistiksel bir hata payı”na dönüşüyor. Bir gün kesinlikle “risk taşıyan profilleri” yargılayan, hukuku bir kehanet mekanizmasına çevirmiş mahkemelerle yüzleşmek zorunda kalacağız.

Son olarak, eğer bir algoritma sizi bir gün “potansiyel suçlu” olarak etiketlerse, kimi dava edeceğiz? Asıl tehlike bilinçli bir kötülük mü, yoksa duygusuz bir rasyonelliğin adalet kisvesi altında hayatımıza sızması mı?

Hukuku acilen güncellemezsek, dava edecek kimseyi bulamayacağız; çünkü şirketler her zaman “Kara Kutu” ve “Ticari Sır” perdesinin arkasına saklanacaklar. Bu yüzden Zorunlu Yapay Zekâ Sertifikasyonu ve Yapay Zekâ Sorumluluk Sigortası’nı acilen hukuka entegre etmeliyiz.

Sorunuzun ikinci kısmına gelince; asıl tehlike kesinlikle Matrix’teki gibi kırmızı gözlü, bilinçli bir kötülük değil. Asıl tehlike, benim diğer adıyla “Matematiksel Psikopat” dediğim şey.

Seri katiller öfke, intikam veya travmalarla öldürür; hata yaparlar, yorulurlar ve iz bırakırlar. Yapay zekâ ise hiçbir şey hissetmez. Bizi yok etmeye karar verirse bunu nefretinden değil, görev fonksiyonundaki bir optimizasyon hesabı nedeniyle yapar. Duygusuz bir rasyonelliğin, hiç eli titremeden milyonlarca insanı birer “veri noktasına” indirgediği bir sistem, insanlığın gördüğü en büyük varoluşsal tehdittir.