Yapay Zeka Üretimi ICE Videoları Güven Sorununu Derinleştiriyor

Alman kamu yayıncısı ZDF, Şubat ayı sonunda ABD Göçmenlik ve Gümrük Muhafaza Dairesi (ICE) ajanlarına dair yayınladığı haberde yapay zeka (AI) ile oluşturulmuş bir videonun kullanılması sebebiyle ABD muhabirini geri çağırdı.

Kurum, videoda ICE ajanları tarafından gözaltına alınan bir annenin çocuklarının ona sarılması sahnesinin gerçek olmadığını açıklayarak özür diledi. AI tarafından üretildiği OpenAI’ın video aracı Sora’nın filigranıyla tespit edilen bu klip, Euronews doğrulama ekibi The Cube tarafından incelendi.

Binlerce Yapay Zeka Videoları Sosyal Medyada Yayılıyor

The Cube, bu videonun sosyal medyada açıkça etiketlenmemiş binlerce AI yapımı ICE videosundan sadece biri olduğunu belirtti. Bu içerikler toplu halde milyonlarca izlenme aldı.

TruthScan adlı yapay zeka tespit firması, öğretmenler tarafından kovalanan, barlarda kavga eden ve New York City Police Department (NYPD) tarafından gözaltına alınan ICE ajanlarını gösteren 200’den fazla kısa videonun dolaşıma girdiğini açıkladı. Firma, tek bir Instagram hesabından bu kadar çok videonun toplandığını belirtti.

Videoların Sahte Olduğuna Dair Kanıtlar

Videoların çoğu 10 veya 15 saniye uzunluğunda olup dramatik ve duygusal yoğunluk taşıyor. Bazılarında, örneğin bir tartışma sırasında buharın katı bir yüzeyden yükselmesi gibi sentetikliğe işaret eden detaylar yer alıyor. Bu durum, videoların OpenAI’nin Sora 2 modeliyle üretildiğini düşündürüyor.

Çoğu AI videosunda filigran bulunmasına rağmen, bu ICE videolarının büyük çoğunluğunda herhangi bir işaret yer almıyor. Geçen yıl kasımda 404 Media, Facebook kaynaklı yapay zeka yapımı ICE videolarının viral olduğunu ve bir tanesinin 4 milyon izlenmeye ulaştığını bildirmişti. Bu videolar daha sonra kaldırıldı.

Kamu Güveni Üzerindeki Riskler

Uzmanlar, sadece yanlış etiketlenmiş videoların değil, siyasi açıdan hassas içeriklerin yaygınlaşmasının kamu güvenini zedeleyebileceğine dikkat çekiyor. Medya doğrulama şirketi OpenOrigins’in kurucu ortağı Ari Abelson, "Bu durum, kolluk kuvvetlerinin eylemlerine ilişkin toplumsal tepkiler açısından ciddi riskler doğuruyor," dedi.

Abelson, bu sorunun kolluk kuvvetleri için güvenlerini koruma ve hesap verebilirlik açısından önemli olduğunu vurguladı. ZDF örneğinde olduğu gibi, yapay zeka üretimi ICE içerikleri sadece anonim hesaplarla sınırlı kalmayıp bazen kamu yönetiminin en üst kademelerine kadar ulaşabiliyor.

Örneğin, Ocak ayında Beyaz Saray, Minnesota’daki ICE karşıtı bir protestoda gözaltına alınan aktivist ve avukat Nekima Levy Armstrong’a ait dijital olarak değiştirilmiş bir görüntü paylaştı. Yapılan analizde Armstrong’un ten renginin koyulaştırıldığı ve orijinal kareye göre daha belirgin şekilde ağlarken tasvir edildiği ortaya çıktı.

Beyaz Saray, görüntüde yapılan düzenleme iddialarına, İletişim Direktör Yardımcısı Kaelan Dorr aracılığıyla, "Yasaların uygulanması sürecek. Memler de sürecek," yanıtını verdi. Armstrong ise bu görüntünün paylaşılmasından duyduğu rahatsızlığı dile getirdi.

Güvenlik Bariyerlerinin Eksikliği

Abelson’a göre, asıl sorun içeriklerin sahte olduğunu açıkça gösteren yeterli "güvenlik bariyerlerinin" olmaması. Siyasi karikatürlerin her zaman var olduğunu ancak farkın videoların giderek gerçekçi hale gelmesi olduğunu belirtti.

"Toplum ve bilgi alanlarının ihtiyacı, bir fotoğraf ya da videonun gerçek olduğunu kanıtlama yeteneği," diyen Abelson, böylece sahte olanların kurgu olarak izlenebileceğini, gerçek olayların ise öneminin anlaşılabileceğini ifade etti. Bu bağlamda, yapay zeka tabanlı güvenlik araçlarının gelişimi, sahte içeriklerin tespiti için kritik öneme sahip.