İmsak Vakti 02:00
OpenAI, çocukların çevrim içi cinsel istismarına karşı yeni bir görüntü sınıflandırıcısı, geliştirici rehberleri ve kolluk birimlerine yönelik araçlar açıkladı. Sistem, daha önce görülmemiş ve yapay zekâyla üretilmiş olabilecek zararlı içerikleri önceliklendirmeyi amaçlıyor.
Araç NCMEC, Tech Coalition ve çocuk güvenliği alanındaki diğer kuruluşların katkılarıyla geliştirildi. Yüksek riskli içeriklerde otomatik sinyallerin insan incelemesi ve yasal bildirim süreçleriyle birlikte kullanılması öngörülüyor.
Üretken yapay zekânın kötüye kullanım riski, yalnız içerik engelleme değil tespit, raporlama ve mağdur koruma süreçlerinin birlikte tasarlanmasını gerektiriyor. Yeni araçlar sektör çapında ortak standart ihtiyacını güçlendiriyor.
OpenAI, çocukların çevrim içi cinsel istismarına karşı yeni bir görüntü sınıflandırıcısı, geliştirici rehberleri ve kolluk birimlerine yönelik araçlar açıkladı. Sistem, daha önce görülmemiş ve yapay zekâyla üretilmiş olabilecek zararlı içerikleri önceliklendirmeyi amaçlıyor.
Sınıflandırıcı, doğrulanmış kuruluşlara OpenAI API üzerinden ücretsiz sunulacak. Erken testlerde benzer sayıda zararlı görsel bulunurken incelemeye gönderilen toplam görsel sayısının yüzde 48 azalabileceği hesaplandı.
Üretken yapay zekânın kötüye kullanım riski, yalnız içerik engelleme değil tespit, raporlama ve mağdur koruma süreçlerinin birlikte tasarlanmasını gerektiriyor. Yeni araçlar sektör çapında ortak standart ihtiyacını güçlendiriyor.
LVMH medya grubu ile OpenAI gazetecilik odaklı ortaklık kurdu