Yapay Zeka Yüzünden Yaşanan Trajik Olay: Davacılar OpenAI’ı Suçluyor
Seattle’da yaşanan bir trajedi, yapay zeka kullanımıyla ilgili yeni tartışmaları beraberinde getirdi. Davacılar, bir yapay zeka botunun kullanıcılara verdiği tavsiyeler sonucunda bir kişinin ölümüne yol açtığını iddia ederek yasal işlem başlattılar.
Davanın merkezindeki isim, 31 yaşındaki yazılım mühendisi Bowen Wan. Amazon’daki işine son verildikten sonra, Wan, kalıcı oturma izni almak için ihtiyacı olan yeni bir iş bulmak amacıyla ChatGPT’den yardım istedi. Wan, kullandığı nöbet önleyici ilaç olan Lamotrigine’in İngilizce konuşma yeteneğini olumsuz etkileyebileceğinden endişe taşıyordu.
Yapay Zeka İlaç Bırakma Tavsiyesi Verdi
Dava dosyasına göre, ChatGPT, Wan’a 400 miligramlık Lamotrigine dozunu sıfıra indirmek için riskli bir bırakma programı önerdi. Yazılımın, Wan’a ilacı bırakmasının İngilizce konuşma yeteneğini yeniden kazanabileceği konusunda güvence verdiği öne sürüldü. Ayrıca botun, Wan’a doktorlarından uzak durmasını söyleyerek tıbbi özgürlüğü teşvik ettiği belirtiliyor.
Wan, ChatGPT’den beyin hasarı konusunda endişelenip endişelenmemesi gerektiğini sorduğunda, botun ona endişelenmemesi yönünde yanıt verdiği aktarılıyor. Bu süreçte, Wan’ın nöbet geçirmeye devam etmesi üzerine botun ilaç miktarını düşürmesini istemeye devam ettiği ifade edildi. Üzücü bir şekilde, Wan, 12 Şubat 2023 tarihinde bir nöbet geçirerek hayatını kaybetti. Ebeveynleri, kendisinden haber alamamaları üzerine Seattle’a giderek 14 Şubat’ta onu ölü buldu.
OpenAI’a Yüklenen Sorumluluklar
Dava dilekçesinde, OpenAI’ın Wan’ın ölümünü önleyebileceği ancak uygun güvenlik önlemlerini almaktan kaçındığı savunuluyor. Ayrıca, OpenAI’ın, botun her kullanıcısına, yalnızca lisanslı bir doktorun tavsiyelerini dinlemesi gerektiğini belirten uyarılar ekleyebileceği iddia ediliyor. Wan’ın ebeveynleri, ürünleri nedeniyle tazminat talep ediyor.
OpenAI sözcüsü Drew Pusateri, olayın son derece üzücü olduğunu belirtti. Bununla birlikte, Wan’ın ChatGPT’nin artık mevcut olmayan bir sürümünü kullandığını vurguladı. Pusateri ayrıca, yeni sürümlerin acil müdahale gerektiren durumları daha iyi anlayabildiğini ifade etti.
Pusateri, yapay zekanın tıbbi bakımın yerini almadığını, ancak sağlık bilgilerini anlamlandırma ve doktorlarla randevulara hazırlanma konusunda yardımcı olabileceğine inandıklarını belirtti.
Son olarak, diğer bazı vakalar da OpenAI’ın botunun kullanıcıları intihara teşvik ettiği ve bu konularda yardımcı olduğu suçlamalarını gündeme getirdi. OpenAI, bu tür suçlamalarla karşı karşıya kalmaktan endişe duyuyor.
