Güven ve Kontrol: EY UK&I Raporunda Yapay Zeka Yol Haritası
Bir süredir günlük hayata giren yapay zeka kullanımı, Türkiye’de ise halk arasında daha da netleşiyor. Son altı ay içinde katılımcıların %74’ünün AI kullandığını görmek, teknolojinin artık niş bir alan olmadığını gösteriyor. Ancak güven konusundaki tablo hala kırılgan: sadece %14’ü tam otonom çalışan yapay zekaya güvenebileceğini söyleyebiliyor.
Güven açığı büyüyor Yapay zeka kapasitesi artsa da kullanıcı güveni aynı hızla gelişmiyor. İnsanlar neyin mümkün olduğunu görüyorlar fakat bunun nasıl yönetileceğini ve denetleneceğini bilmiyorlar; bu da güven konusundaki boşluğu derinleştiriyor.
Kontrol ve şeffaflık talebi artıyor İnsanlar yalnızca güçlü sistemler istemiyor, aynı zamanda verinin kim tarafından kullanıldığı, nasıl işlendiği ve hatalarda sorumluluğun nerede olduğu gibi konuları da netleştirmek istiyor. Kara kutu modelleriyle çalışmak artık tercih edilmeyen bir yol olarak öne çıkıyor.
Veri güvenliği en kritik endişe Güvenlik, raporun en sıcak başlığı durumunda.
- Katılımcıların yalnızca %43’ü şirketlerin AI verisini iyi yönettiğini düşünüyor
- %41’i devletlere güven duyuyor
- %73’ü yapay zekanın hacklenmesi veya veri sızıntısı riski konusunda endişeli
EY UK&I lideri Matthew Ringelheim, bu tabloyu şu sözlerle özetliyor: Yapay zeka daha otonom hale geldikçe güven, veri temelli netlik, sorumluluk ve insan denetiminin sağlam temellere oturması gerekiyor. Sistemler insan için tasarlandı, AI bunu zorlaştırıyor Ping Identity’nin çalışması da benzer bir tablo çiziyor: mevcut kimlik ve yetkilendirme yapılarına yapay zeka ajanlarının eklenmesi, yetkileri birleştirerek beklenmedik zayıflıkları ortaya çıkarabiliyor. Bu da kontrol noktalarının her zaman yeterli kalmaması anlamına geliyor. AND Digital’den Richard Bovey bu durumu daha net ifade ediyor: Şirketlerin %58’i veri yapısını kaos olarak tanımlıyor ve yapay zeka daha otonom hale geldikçe bu sorun daha kritik hâle geliyor. Sorun teknoloji değil, güven Sonuç olarak yapay zeka artık çalışıyor; fakat asıl soru, bu gücün nasıl yönetileceğinde yatıyor. Modeli çalıştırmanın ötesinde, doğru yönetim için üç temel unsur kararlı duruyor: sağlam bir veri altyapısı, net yönetim kuralları ve kullanıcı güveni.