Yapay Zeka Kullanımında Güven Sorunları Devam Ediyor
Son Araştırma, Kullanıcıların Yapay Zekaya Olan Güveninin Düşük Olduğunu Gösteriyor
EY’nin gerçekleştirdiği yeni araştırma, İngiltere’de yapay zekanın kullanıcılar tarafından yaygın olarak benimsendiğini ortaya koyuyor. Katılımcıların %74’ü son altı ay içinde yapay zeka kullandığını belirtirken, bu durum teknolojinin günlük yaşamda önemli bir yer edindiğini gösteriyor. Ancak güven konusundaki yaklaşım oldukça farklı. Araştırmaya göre, kullanıcıların yalnızca %14’ü tam otonom yapay zekaya güvenebileceğini ifade ediyor.
Güven Açığı İlkelleştiriliyor
Araştırma, yapay zekanın yeteneklerinin büyümesine karşın kullanıcı güveninin aynı hızda artmadığını gözler önüne seriyor. İnsanlar, yapay zekanın potansiyelinden haberdar olsa da, ne kadar kontrol sahibi olabilecekleri konusunda belirsizlik yaşıyor. Bu durum, “güven açığı” olarak adlandırılan bir sorunun büyümesine sebep oluyor.
Kontrol ve Şeffaflık Talepleri Yükseliyor
Kullanıcılardan sadece güçlü sistemler talep etmekle kalmıyor; aynı zamanda bu sistemler üzerindeki kontrol istekleri de artıyor. Hangi verilerin kimler tarafından kullanıldığı, nasıl işlendiği ve olası hatalarda kimin sorumluluk alacağı gibi sorular ön plana çıkıyor. Kullanıcılar, “kara kutu” olarak adlandırılan sistemlerden uzak durma eğilimi gösteriyor.
Veri Güvenliği en Büyük Endişe
Veri güvenliği, kullanıcıların en büyük kaygıları arasında yer alıyor. Araştırma sonuçlarına göre:
- Katılımcıların sadece %43’ü şirketlerin AI verilerini yeterince iyi yönettiğini düşünüyor.
- %41’i devlet otoritelerine güveniyor.
- %73’ü yapay zekanın hacklenmesi veya veri sızıntısından endişe duyuyor.
Bu veriler, kullanıcıların hem özel sektöre hem de devlet kurumlarına karşı güvenlerinin zayıf olduğunu ortaya koyuyor. EY UK&I lideri Matthew Ringelheim, yapay zekanın daha otonom hale geldikçe güvenin, sağlam veri altyapısı, net sorumluluk ve insan denetimi ile sağlanması gerektiğini belirtiyor.
Mevcut Sistemler Zorluklarla Karşılaşmaya Devam Ediyor
Ping Identity tarafından yapılan benzer bir çalışmada, mevcut kimlik ve yetkilendirme sistemlerinin öncelikle insan kullanıcılar için tasarlandığı vurgulanıyor. Ancak yapay zeka ajanlarının sisteme girmesiyle birlikte, mevcut kontrol mekanizmaları yetersiz kalmaya başlıyor. AND Digital’den Richard Bovey, şirketlerin %58’inin veri yapısını “kaos” olarak nitelendirdiğini belirtiyor, bu da yapay zekanın artan otonomisiyle birlikte kritik bir sorun haline geliyor.
Ana Sorun Teknolojinin Kendisi Değil, Güven
Yapay zekanın etkinliği artıyor; ancak asıl sorun güven meselesinde yatıyor. Şirketler ve kurumlar, yapay zeka sistemlerini doğru bir şekilde yönetmeye odaklanmak zorunda. Bunun için güçlü bir veri altyapısı, net yönetim kuralları ve kullanıcı güveni sağlamak ön plana çıkıyor.
