Google, deepfake pornografisiyle mücadele için arama motorunu yükseltiyor

Teknoloji sektörü, üretken yapay zekanın geniş kapsamlı toplumsal etkileriyle boğuşurken, Google, deepfake pornografisiyle mücadele etmek için arama motorunda değişiklikler yapıyor.  Üretken yapay zeka alanındaki gelişmeler, sahte görsellerin daha gerçekçi ve oluşturulmasının daha kolay hale gelmesini sağladı. Bu da uzmanları, insanların bilgisi veya izni olmadan pornografik görsellerde kullanılmasının yaygınlaştığı konusunda uyarıyor.

Teknoloji devinin Çarşamba günü açıkladığı önlemler arasında, deepfake porno mağdurlarının kendilerine ait video ve fotoğrafların internetten kaldırılmasını kolaylaştıracak değişiklikler de yer alıyor. Bireylerin şu anda her web sitesi adresi veya URL için kaldırma talebinde bulunması gerekiyor. Son değişiklikler, bir kişinin adını içeren ilgili arama terimlerindeki açık sonuçları çıkaracak. Arama devi ayrıca yüksek hacimli kaldırma bildirimleri alan sitelerin sıralamasını düşürecek. Google Çarşamba günü yayınladığı blog yazısında, "Ayrıca, birisi politikalarımız uyarınca bir görseli aramadan başarıyla kaldırdığında, sistemlerimiz bulduğumuz o görselin tüm kopyalarını tarayacak ve kaldıracaktır" dedi. Google, Meta ve X gibi şirketler platformlarındaki deepfake'lerle mücadele etmek için çabalıyorlar - hem özel hem de kamusal bireylerin benzerliğinde AI kullanılarak üretilebilen görüntü, video ve ses. Geçtiğimiz hafta Meta'nın bağımsız Gözetim Kurulu, şirketten deepfake pornografisinin kaldırılmasına ilişkin kurallarını güçlendirmesini istedi . Şirketin deepfake'lere karşı mücadelesinde yer alan Google ürün müdürü Emma Higham, "Bir teknoloji değişiminin ortasındayız" dedi. "Kendi sistemlerimizi izlerken, bu tür içerikler için kaldırma taleplerinde artış olduğunu gördük." Sorun düzenleyiciler tarafından incelemeye alınıyor: Ekim ayında kabul edilen ve en katı olanlardan biri olarak kabul edilen İngiltere'nin Çevrimiçi Güvenlik Yasası , rızaya dayanmayan pornografik deepfake'lerin yayılmasını yasadışı hale getiriyor. ABD'de, birkaç eyaletteki mevzuat, açık deepfake içerik oluşturan ve paylaşanları hedef alıyor. Pornografiyle ilgili düzenlemeleri inceleyen Durham Üniversitesi'nde hukuk profesörü olan Clare McGlynn, arama motorunun bu tür içeriklerin internette yayılmasını önlemede yavaş davrandığını söyledi.  "Google'ın deepfake cinsel tacizi azaltmak için bu bariz ve gerekli adımları atmadaki gecikmesi affedilemez," dedi. "Google, deepfake uygulamaları, web siteleri ve eğitimlerini uzun yıllardır üst sıralarda tutarak deepfake cinsel tacizinin katlanarak artmasına olanak sağlamaktan sorumlu olmaya devam ediyor." Şirket, yıl başından bu yana ilk politika değişiklikleri ve arama motorunda yapılan sınırlı güncellemeler sayesinde arama sonuçlarında görünen açık deepfake içerik miktarını yüzde 70 oranında azalttığını duyurdu.  Ancak şirket, politika güncellemelerinde sınırlamalar olduğunu söyledi. Higham, üçüncü taraf medya sağlayıcılarının her zaman video verilerini Google ile paylaşmadığını ve bu nedenle olası bir kopyanın tespit edilmesini imkansız hale getirdiğini söyledi.  Google, arama motorunda rızaya dayalı yetişkin içerikleri paylaşırken rızaya dayalı olmayan içeriklerin filtrelenmesini isteyen yetişkin oyuncuların bazı "karşılıklar" yaşayabileceğini de sözlerine ekledi. Google'ın arama sonuçları sıralama sisteminde yaptığı değişiklikler, haber makaleleri gibi açık olmayan "yüksek kaliteli" siteleri teşvik ederken, rızaya dayalı olmayan yapay zeka tarafından üretilen yetişkinlere yönelik içeriğe bağlantı veren web sitelerini aşağılara çekecek. Higham, "Bunlar arama motorları için çözülmemiş teknik zorluklar," dedi. "Bu yüzden daha fazla ivme kazanabileceğimizi hissettiğimiz bir noktaya geliyoruz." Şirket, çocuk cinsel istismarı materyallerini kaldırmak için kapsamlı politikalara sahip ve bu yıl deepfake pornografi reklamlarını yasakladı. Son politikaları, #MyImageMyChoice gibi savunuculuk gruplarının desteklediği bir hamle olan popüler deepfake sitelerini arama sonuçlarından tamamen kaldırmaya kadar varmıyor.  Google, sitelerin tamamen listeden çıkarılmasının, içeriğin bir ana web sitesinden nasıl kaldırılacağı gibi önemli bilgilere erişimi engelleyebileceğini söyledi. 


Kaynak: Financial Times