OpenAI, çocuk güvenliği için yeni görüntü sınıflandırıcısını duyurdu
OpenAI, çocukların çevrim içi cinsel istismarına karşı yeni bir görüntü sınıflandırıcısı, geliştirici rehberleri ve kolluk birimlerine yönelik araçlar açıkladı. Sistem, daha önce görülmemiş ve yapay zekâyla üretilmiş olabilecek zararlı içerikleri önceliklendirmeyi amaçlıyor.
Araç NCMEC, Tech Coalition ve çocuk güvenliği alanındaki diğer kuruluşların katkılarıyla geliştirildi. Yüksek riskli içeriklerde otomatik sinyallerin insan incelemesi ve yasal bildirim süreçleriyle birlikte kullanılması öngörülüyor.
Bu gelişme ne anlama geliyor?
Üretken yapay zekânın kötüye kullanım riski, yalnız içerik engelleme değil tespit, raporlama ve mağdur koruma süreçlerinin birlikte tasarlanmasını gerektiriyor. Yeni araçlar sektör çapında ortak standart ihtiyacını güçlendiriyor.
Bu haberin özeti
OpenAI, çocukların çevrim içi cinsel istismarına karşı yeni bir görüntü sınıflandırıcısı, geliştirici rehberleri ve kolluk birimlerine yönelik araçlar açıkladı. Sistem, daha önce görülmemiş ve yapay zekâyla üretilmiş olabilecek zararlı içerikleri önceliklendirmeyi amaçlıyor.
- Sınıflandırıcı, doğrulanmış kuruluşlara OpenAI API üzerinden ücretsiz sunulacak.
- Erken testlerde benzer sayıda zararlı görsel bulunurken incelemeye gönderilen toplam görsel sayısının yüzde 48 azalabileceği hesaplandı.
- ChatGPT’de riskli aramaları durduran uyarılar, yardım kaynakları ve kademeli hesap kısıtlamaları devreye alınacak.
Merak edilenler
OpenAI, çocuk güvenliği için yeni görüntü sınıflandırıcısını duyurdu konusunda ne biliniyor?
Sınıflandırıcı, doğrulanmış kuruluşlara OpenAI API üzerinden ücretsiz sunulacak. Erken testlerde benzer sayıda zararlı görsel bulunurken incelemeye gönderilen toplam görsel sayısının yüzde 48 azalabileceği hesaplandı.
Bu gelişme neden önemli?
Üretken yapay zekânın kötüye kullanım riski, yalnız içerik engelleme değil tespit, raporlama ve mağdur koruma süreçlerinin birlikte tasarlanmasını gerektiriyor. Yeni araçlar sektör çapında ortak standart ihtiyacını güçlendiriyor.