Uzmanlar ChatGPT karikatür modasının dolandırıcılara risk yarattığını uyarıyor

Yapay zeka destekli sohbet robotu ChatGPT'nin karikatür modası, kullanıcıların kişisel bilgilerini renkli görsellere dönüştürürken, siber güvenlik uzmanlarına göre önemli tehlikeler barındırıyor. Kullanıcılar, şirket logoları veya pozisyonları gibi detaylar içeren fotoğraflarını yükleyip, sohbet robotunun bu bilgilerden yola çıkarak kendilerinin ve işlerinin karikatürünü oluşturmasını istiyor.

Siber güvenlik uzmanlarının uyarıları

Euronews Next'e konuşan uzmanlar, yapay zeka karikatürleri gibi sosyal medya trendlerinin dolandırıcılar için değerli bilgi kaynakları olabileceğini belirtti. Daon şirketinin başkan yardımcısı Bob Long, "Dolandırıcıların işini siz kolaylaştırıyorsunuz; onlara kim olduğunuzun görsel temsilini sunuyorsunuz" dedi. Long, kullanılan ifadelerin bile uyarı vermesi gerektiğini ve bu trendin sanki dolandırıcılar tarafından bilinçli olarak başlatılmış gibi göründüğünü ifade etti.

Yüklenen görsellerin işlenmesi ve saklanması

Siber güvenlik danışmanı Jake Moore, bir görsel yüklendiğinde sistemin kişinin duygu durumu, ortam ve konum gibi ipuçlarını çıkarmak için fotoğrafı işlediğini aktardı. Bu verilerin ne kadar süre saklandığı ise bilinmiyor. Long, kullanıcıların yüklediği görsellerin yapay zeka görüntü üreticilerinin eğitiminde veri seti olarak kullanılabileceğini ve depolanabileceğini söyledi. OpenAI'de yaşanabilecek olası veri ihlallerinin bu hassas bilgilerin kötü niyetli kişilerin eline geçmesine sebep olabileceği vurgulandı.

Yanlış ellere geçtiğinde tehlikeler

İsrailli siber güvenlik şirketi Check Point'in kurumsal çözümler birimi başkanı Charlotte Wilson, yüksek çözünürlüklü tek bir fotoğrafın bile sahte sosyal medya hesapları veya gerçekçi yapay zeka tabanlı "deepfake" içerikler oluşturmak için kullanılabileceğini belirtti. Wilson, "Selfie'ler suçluların genel dolandırıcılıktan, kişiye özel daha inandırıcı kimlik taklitlerine geçiş yapmalarını sağlıyor" dedi.

OpenAI'nin gizlilik politikası

OpenAI'nin gizlilik ayarları, yüklenen görüntülerin model eğitimi dahil olmak üzere sistemi geliştirmek için kullanılabileceğini belirtiyor. Ancak ChatGPT, bu görsellerin herkese açık bir veritabanında depolanmadığını ve modelin görsel üretiminde kullanıcı içeriklerinden elde edilen örüntülerin kullanıldığını açıklıyor.

Uzmanlardan güvenlik önerileri

Trendden faydalanmak isteyenlere uzmanlar, paylaşılan bilgileri mümkün olduğunca sınırlandırmalarını tavsiye ediyor. Wilson, kimlik tespiti için kullanılabilecek fotoğraflardan kaçınılması gerektiğini, fotoğrafların sıkı kırpılması ve arka planın sade tutulmasının önemli olduğunu ifade etti. Ayrıca rozet, üniforma, iş kartı veya konum gibi kişiyi işverene veya günlük rutine bağlayabilecek öğelerin eklenmemesi gerektiğini söyledi. İş unvanı, yaşanılan şehir veya işveren adı gibi kişisel bilgilerin komutlarda gereğinden fazla yer almaması gerektiği konusunda da uyardı.

Gizlilik ayarlarının gözden geçirilmesi

Moore, yapay zeka eğitiminden verilerin çıkarılması gibi gizlilik ayarlarının, trende katılmadan önce mutlaka kontrol edilmesi gerektiğini belirtti. OpenAI'nin gizlilik portalında kullanıcılar, "do not train on my content" seçeneği ile içeriklerinin eğitimde kullanılmasını engelleyebiliyor. Ayrıca "improve the model for everyone" ayarı kapatılarak yazılı sohbetlerin eğitimde kullanılmaması sağlanabiliyor.

Avrupa Birliği yasalarına göre kullanıcılar, kişisel verilerinin silinmesini talep edebiliyor. Ancak OpenAI, dolandırıcılık, suistimal ve güvenlik endişeleri nedeniyle silme işlemi sonrası dahi bazı verileri saklayabileceğini ifade ediyor.