Yapay zeka algoritması TIGER, insan hayatına etkileri nedeniyle tartışılıyor

ProPublica’nın yayımladığı bir haber, ABD – Louisiana idaresinin, Louisiana Eyalet Üniversitesi tarafından geliştirilen TIGER isimli bilgisayar programını nasıl kullandığını gözler önüne serdi. TIGER (Hedefli Müdahaleler Tekrar Girişi Daha da İyileştiriyor), koşullu tahliye müracaatlarını kıymetlendirmek ve mahkumların hapishaneye geri dönme risklerini hesaplamak üzere tasarlanmış bir yapay zeka algoritması.

Program, başlangıçta mahkumların geçmişlerini göz önünde bulundurarak onların rehabilitasyonuna yardımcı olmayı hedefliyordu. Lakin bugün TIGER puanı, bir mahkumun kaideli tahliye uygunluğunun neredeyse tek ölçütü haline gelmiş durumda.

Algoritma, bir kişinin iş geçmişi, cürüm mahkumiyetleri ve birinci tutuklanma yaşı üzere bilgilerden yararlanarak bir risk puanı oluşturuyor. Bu durum tenkitlere neden olmuş durumda, zira algoritma, mahkumun hapishanedeki davranışlarını yahut rehabilitasyon gayretlerini dikkate almıyor. Aktivistler, bu sistemin ırksal ve demografik önyargılar barındırabileceğini ve adalet hissini zedelediğini sav ediyor. Louisiana eyaletine ilişkin Ceza İnfaz Dairesi bilgileri de bu kaygıları takviyeler nitelikte: yaklaşık 13.000 kişilik hapishane nüfusunun yarısı, TIGER tarafından otomatik olarak orta yahut yüksek risk kategorilerine yerleştirilmiş durumda.

Calvin Alexander örneği

TIGER algoritmasının tesirleri, ferdî öykülerde daha net bir halde ortaya çıkıyor. Örneğin, tekerlekli sandalyeye bağlı, kısmen görme engelli 70 yaşındaki Calvin Alexander, 20 yıldır mahpusta ve bu mühlet boyunca uyuşturucu rehabilitasyonu, öfke denetimi terapisi ve profesyonel maharet geliştirme programlarına katılmış; ayrıyeten pak bir disiplin siciline sahip. Lakin TIGER puanı “orta risk” düzeyinde olduğu için kaideli tahliye duruşması iptal edilmiş durumda. Alexander, ProPublica’ya verdiği demeçte, “Hapishanedeki beşerler, cezalarını hafifletmek için bir şey yapma umutlarını kaybettiler” diyerek bu durumun yarattığı hayal kırıklığını lisana getirdi.

TIGER’ın kaideli tahliyede kullanımı, Louisiana’da yalnızca yasal değil, birebir vakitte eyalet siyasetlerinin da bir modülü. Cumhuriyetçi Vali Jeff Landry, algoritmanın kullanımını teşvik eden adımlar atan bir isim. Landry, geçen yıl bir yasa tasarısını onaylayarak, 1 Ağustos 2024’ten sonra işlenen hatalar için koşullu tahliye imkanını büsbütün kaldırdı ve Louisiana, 24 yıldır bu düzenlemeyi uygulayan birinci eyalet oldu. Daha sonraki bir yasa ise mevcut mahkumların sadece TIGER algoritmasının “düşük riskli” olarak değerlendirdiği durumlarda kaideli tahliyeye uygun olabileceğini belirledi.

Eleştiriler ve gelecek

TIGER, sistemin aktifliği ve adaleti üzerindeki tesirleri nedeniyle eleştirilmeye devam ediyor. Bilhassa mahkumların hapishanedeki davranışlarını ve ferdi rehabilitasyon uğraşlarını görmezden gelen bir algoritmanın, adalet hissini zedeleyebileceği telaşı lisana getiriliyor. Ayrıyeten, yapısal önyargılar ve algoritmanın yalnızca geçmiş datalara dayanarak kararlar alması, ceza adaletindeki ıslahat taleplerini güçlendiriyor.

Louisiana’nın koşullu tahliye sürecindeki bu algoritma odaklı yaklaşımı, yapay zekanın ceza adalet sistemindeki rolüne ait tartışmaları daha da alevlendirmiş durumda. TIGER’ın gelecekteki kullanımı ve düzenlemeleri, sadece bu eyalet için değil, dünya çapında emsal sistemleri kullanan öteki yerler için de kıymetli bir emsal oluşturabilir.