Yapay zekayı kullanarak vurulan çocuklarının sesini klonladılar, kanun yapıcılara seslendiler

2018’de Florida’daki Parkland okulunda gerçekleşen silahlı hücumda öldürülen bir gencin ebeveynleri, ülkede silah maddelerinin daha katı hale getirilmesi için takviye toplamak gayesiyle The Shotline isminde yeni ve mert bir proje başlattı.

The Wall Street Journal’ın haberine nazaran Shotline, silahlı şiddet sonucu öldürülen çocukların seslerini yine oluşturmak ve kayıtları otomatik aramalar yoluyla yasa yapıcılara göndermek için yapay zekayı kullanıyor.

Proje, Florida’nın Parkland kentindeki bir lisede silahlı bir kişinin 17 kişiyi öldürmesi ve bir düzineden fazla kişiyi yaralamasından altı yıl sonra, Çarşamba günü başlatıldı. ABD çapında silahlı şiddet olaylarında hayatını kaybeden, kimileri on yaşında olan altı çocuğun ve genç yetişkinlerin seslerini içeriyor. ABD’li iştirakçiler posta kodlarını yazdıklarında, Shotline mahallî temsilcilerini buluyor ve altı meyyit bireyden birinin kendi sesiyle otomatik bir arama yapmalarını sağlayarak daha katı silah denetimi kanunları talep etmelerini istiyor.

Parkland hücumunda öldürülen gençlerden biri olan Joaquin Oliver’ın yapay zeka tarafından üretilen sesi, “Annemle babam sizi aramak için sesimi yine yaratmak emeliyle yapay zekayı kullandığı için bugün geri döndüm” diyor ve devam ediyor: “Benim üzere başka mağdurlar da arayacak.” Yayınlandığı tarihte, web sitesi aracılığıyla milletvekillerine 8.000’den fazla AI daveti gönderilmişti.

Tüyler ürpertici şeylere güzel geldiniz

Projeyi eşi Patricia ile birlikte başlatan Joaquin’in babası Manuel, Journal’a “Bu Amerika Birleşik Devletleri’nin bir sorunu ve biz bunu çözemedik” dedi ve ekledi: “Düzeltmek için tüyler ürpertici şeyler kullanmamız gerekiyorsa, tüyler ürpertici şeylere güzel geldiniz.”

Oliver ailesi, sesleri yine yaratmak için, kısa bir mühlet Andreessen Horowitz liderliğindeki bir finansman çeşidiyle 80 milyon dolar toplayan iki yıllık bir teşebbüs olan ElevenLabs’ın ses klonlama hizmetini kullandı. Yazılım, sırf birkaç dakikalık ses örnekleri kullanarak iki düzineden fazla lisanda sesleri tekrar oluşturabiliyor. Oliver’ların ses örnekleri için oğullarının toplumsal medya paylaşımlarını kullandığı bildirildi. Öteki silahlı şiddet mağdurlarının ebeveynleri ve yasal vasileri, yapay zeka tarafından oluşturulan ses deposunun eklenmesi için seslerini The Shotline’a göndermek üzere bir form doldurabiliyor.

Etik sorular gündeme geldi

Proje, meyyit insanlara ilişkin uydurma (deepfake) seslerin üretilmesi için yapay zekanın kullanılmasıyla ilgili etik soruları da gündeme getiriyor. ABD Federal İrtibat Kurulu, geçtiğimiz hafta yapay zeka tarafından üretilen sesler kullanılarak yapılan otomatik davetlerin yasa dışı olduğunu açıkladı. Bu karar, New Hampshire’daki seçmenlerin, Lider Joe Biden’ı taklit ederek eyalet ön seçimlerinde oy kullanmamalarını söyleyen davetler almalarından haftalar sonra geldi. Pindrop isimli güvenlik şirketinin yaptığı tahlil, Biden’ı amaç alan ses sahtekarlığının ElevenLabs yazılımı kullanılarak oluşturulduğunu ortaya çıkardı.

Şirketin kurucu ortağı Mati Staniszewski, Journal ile yaptığı görüşmede, ElevenLabs’ın, hak ve izinlere sahip olmaları durumunda insanların meyyit akrabalarının seslerini yine yaratmalarına müsaade verdiğini söyledi. Lakin şu ana kadar reşit olmayan çocukların ebeveynlerinin çocukları üzerinde hak sahibi olup olmadığı belirlenmiş değil.