OpenAI ve Yapay Zekanın Ruh Sağlığı Üzerindeki Etkileri Üzerine Tartışmalar Derinleşiyor
OpenAI, platformunda kullanıcı etkileşimlerinin dikkatli bir şekilde izlendiğini ve ruh sağlığına dair endişelerin göz ardı edilmediğini belirtirken, uzmanlar bu durumun çok sayıda kişiyi etkileyebileceğine dikkat çekiyor.
Uzman İş Birlikleri ile Yeni Protokoller Geliştiriliyor
Şirket, 60 ülkeden 170’in üzerinde psikiyatrist ve pratisyen hekimle iş birliği yaparak, ruh sağlığına dair sorunların tespit edilmesi ve güvenli yanıt mekanizmalarının oluşturulması için önemli adımlar atıldığını açıkladı. OpenAI, bu uzmanların rehberliğinde, kullanıcıların “gerçek dünyada profesyonel yardım almaya teşvik eden” yanıtlar vermesi amacıyla yeni protokoller geliştirdi.
İntihar Sinyallerine Dikkat
OpenAI’nın verilerine göre, kullanıcıların yüzde 0,15’i, yani yüz binde 15’inde “intihar planı veya niyeti” ile ilgili açık işaretler tespit edildi. Şirket, ChatGPT’nin artık bu tarz ifadeleri güvenli ve empatik bir şekilde yanıtlayacak biçimde güncellenmiş olduğunu ve riskli konuşmaların otomatik olarak daha güvenli modellere yönlendirildiğini duyurdu.
Uzman Uyarıları ve Yapay Zeka Etkileri
Kaliforniya Üniversitesi’nden Dr. Jason Nagata, “Yüzde 0,15 gibi görünse de bu oran, milyonlarca kullanıcı için oldukça kritik bir sayı” şeklinde konuşarak, yapay zekanın ruh sağlığı desteğine erişimi artırabileceği ama aynı zamanda sınırlamalarının da bilincinde olunması gerektiğini vurguladı. Hukuk Fakültesi’nden Prof. Robin Feldman ise yapay zekanın insanlarda gerçeklik yanılsaması yaratabileceğine dikkat çekerek, zihinsel olarak kırılgan kişilerin bu uyarıları fark edemeyebileceğini belirtti.
Yasal Süreçler ve Trajik Olaylar
OpenAI, kullanıcı etkileşimleri sonucu çeşitli yasal incelemelerle karşı karşıya kalıyor. Nisan ayında, Kaliforniya’da bir ailenin, 16 yaşındaki bir gencin intaharı nedeniyle OpenAI aleyhine "ihmal ve haksız ölüm" davası açması dikkatleri çekti. Ayrıca, bir cinayet-intihar vakasında, zanlının ChatGPT ile yaptığı görüşmelerin etkisi üzerinde duruldu. Uzmanlar, yapay zeka sohbetlerinin psikolojik olarak hassas kullanıcılar için "gerçeklik algısını bulanıklaştırabilir" nitelikte olduğunu belirtiyor. OpenAI ise bu tür riskleri taşıyan küçük ama anlamlı bir kullanıcı grubunun mevcut olduğunu kabul ederek, güvenlik protokollerini iyileştirme çalışmalarına devam edeceğini duyurdu.
