Meta’nın bağımsız denetim kurulu, Facebook’ta yayılan iki farklı AI-manipüle videonun kaldırılmasını emretti ve Meta’nın deepfake’lerle mücadeledeki önlemlerini “tutarlı ve temelde yetersiz” bularak daha sıkı politika değişiklikleri önerdi. Kurul, kararlarının bağlayıcı olduğunu belirtti ve şirketten daha güçlü uygulamalar talep etti.
Kurulun bir kararında, İskoçya’daki bir Labour parti meclis üyesini gösteren ve sığınmacılar hakkında kışkırtıcı sözler söylediğini iddia eden videonun yapay zeka tarafından üretilmiş olabileceğine işaret edildi; bunun delili olarak sesin yüz hareketleriyle tamamen senkronize olmaması gösterildi. Kurul, bu içeriğin Meta’nın nefret söylemiyle ilgili kurallarını ihlal ettiğini ve paylaşılmaması gerektiğini söyledi.
Denetim kurulu, vakayı doğrudan Meta’ya iletmesine rağmen şirketin videonun platform kurallarını ihlal etmediği ve AI etiketi gerektirmediği yönünde değerlendirme yaptığını not etti. Kurul ise söz konusu içeriğe hem kaldırma hem de "yüksek risk AI" etiketi uygulanması gerektiğini belirtti ve bu tür etiketlerin hangi durumlarda genişletilmesi gerektiğine dair tavsiyeler sundu.
Kurul ayrıca Meta’ya derinfake’lerle ilgili dokuz politika değişikliği önerdi; bunlar arasında "yüksek risk" etiketi taşıyan içeriklerin algoritmalar tarafından aşağıya çekilmesini sağlama, yanıltıcı AI içeriklerin yayılmasını azaltmaya yönelik daha fazla önlem alma, bu içeriği tekrar tekrar paylaşan hesaplara karşı cezaları artırma ve AI etiketlerinin ne zaman uygulandığına dair daha fazla şeffaflık yer aldı. Kurul, kullanıcıların AI-üretimli içeriği görüntülemeden önce uyarı ekranı gibi tıklama onayı gerektiren adımların da değerlendirilmesini önerdi.
Genç kadın kampanya gönüllüsü videosu
Kurulun ayrı bir kararında, Avrupa’da bir genç Müslüman kadın kampanya gönüllüsünü hedef alan AI-manipüle videoların Facebook’tan kaldırılması emredildi. Kararda, kadının regl sağlığı eğitimi ve damgalamayla mücadele kampanyasına katıldığı sırada kendisini alaya alan ve onu absürt egzersizler yapıyor veya abur cubur yerken gösteren videoların şirketin zorbalık ve taciz politikalarını ihlal ettiği belirtildi. Kurul, bu tür yapay zeka ile değiştirilmiş görsellerin onlarca milyon görüntüleme aldığına dikkat çekti.
Bu vakada kurul, "istenmeyen manipüle görüntü" tanımının değiştirilerek özel kişilerin söylemediği ya da yapmadığı şeylerle gösterildiği derinfake’leri de kapsaması gerektiğini önerdi. Kurul, ilgili postun kaldırılmasını ve bağlı tavsiyeler getirdi.
Denetim kurulu eşbaşkanı Pamela San Martin, yapay zeka üretimli deepfake’lerin kadınları kamusal tartışmalardan uzaklaştırmak, taciz etmek ve susturmak için giderek daha fazla kullanıldığını belirterek bu örneklerin kadınlara yönelik orantısız taciz ve dezenformasyon düzeninin parçası olduğunu söyledi ve platformların daha sağlam politikalara ihtiyacı olduğunu vurguladı.
Haberde, Meta’nın 2020’de kendi inisiyatifiyle kurula başvurduğu, kurulun yarı-bağımsız bir yapı olduğu ve verdiği kararların bağlayıcı olduğu hatırlatıldı. Meta’ya görüşü sorulduğu ancak makalede Meta’nın bir yorumu yer almadığı belirtildi.
