Araştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka bağlamında filigranlama, bir bilgisayarın yapay zekadan metin mi yoksa resim mi oluşturulduğunu tespit etmesine olanak tanıyabilir. Çıplak gözle görülmemesine rağmen filigranlar, yapay zeka tarafından oluşturulan içeriğin kötüye kullanılmasıyla mücadele edebilir ve hatta Google gibi teknoloji devleri tarafından geliştirilen makine öğrenimi programlarına entegre edilebilir. OpenAI’den Meta’ya ve Amazon’a kadar alandaki diğer büyük oyuncular, yanlış bilgilerle mücadele etmek için filigran teknolojisi geliştirme sözü verdiler.

Bu nedenle Maryland Üniversitesi’ndeki (UMD) bilgisayar bilimi araştırmacıları, kötü aktörlerin filigran ekleme veya kaldırma işleminin ne kadar kolay olduğunu inceleme ve anlama görevini üstlendiler. UMD’de profesör olan Soheil Feizi, Wired’a ekibinin bulgularının, bu noktada herhangi bir güvenilir filigran uygulamasının bulunmadığı yönündeki şüphelerini doğruladığını söyledi.

Araştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu

Araştırmacılar, test sırasında mevcut filigran işaretleme yöntemlerinden kolaylıkla kaçmayı başardılar ve yapay zeka tarafından oluşturulmamış görüntülere sahte amblemler eklemenin daha da kolay olduğunu gördüler. Ancak filigranlardan kaçınmanın ne kadar kolay olduğunu test etmenin ötesinde, bir UMD ekibi, fikri mülkiyetten tamamen ödün vermeden içerikten kaldırılması neredeyse imkansız olan bir filigran geliştirdi.

Bu uygulama, ürünlerin çalındığını tespit etmeyi mümkün kılıyor. Makale, bu saldırılar yoluyla filigranları ortadan kaldırmanın iki farklı yönteminin olduğunu fark ediyor: yıkıcı ve yapıcı. Yıkıcı saldırılar söz konusu olduğunda, kötü aktörler filigranlara görüntünün bir parçasıymış gibi davranabiliyor. Parlaklık, kontrast gibi ince ayarlar yapmak veya JPEG sıkıştırmasını kullanmak, hatta bir görüntüyü döndürmek bile filigranı kaldırabiliyor.

Ancak buradaki sorun şu ki, bu yöntemler filigranı ortadan kaldırırken aynı zamanda görüntü kalitesini de bozarak onu fark edilir derecede daha kötü hale getiriyor. Yapıcı bir saldırıda ise filigran kaldırma işlemi biraz daha hassas ve eski güzel Gauss bulanıklığı gibi teknikler kullanıyor.