Yapay Zeka Destekli Sağlık Tavsiyelerinde Hata Riski

Yapay zeka sağlık sorularında yüksek oranda hatalı bilgi veriyor

BMJ Open dergisinde yayımlanan araştırmaya göre, beş farklı yapay zeka platformunun tıbbi sorulara verdiği yanıtların tamamı bilimsel açıdan sorunlu bulundu. Yanıtların yüzde 20'si yüksek derecede sorunlu olarak sınıflandırılırken, Grok yüzde 58 hata oranıyla en yüksek hata payına sahip model oldu. Araştırmacılar, modellerin gerçek bilgi yerine olasılıksal tahminler yapmasının ve kaynak gösterme hatalarının güvenilirliği ciddi şekilde zedelediğini vurguladı.

Araştırma: Yapay zeka sağlık tavsiyelerinin yarısı sorunlu ve hatalı

BMJ Open dergisinde yayımlanan çalışmaya göre, yapay zeka sohbet botlarının tıbbi sorulara verdiği yanıtların yüzde 50'si sorunlu, yüzde 20'si ise yüksek derecede hatalı bulunuyor. Araştırmada botların hiçbirinin doğru referans listesi sunamadığı ve özellikle açık uçlu sorularda hata payının arttığı tespit edildi. Uzmanlar, yapay zekanın tıbbi otorite olarak kabul edilmemesi ve alınan bilgilerin mutlaka doğrulanması gerektiğini vurguluyor.

Harvard araştırması: Yapay zeka teşhislerinin yüzde 80'i hatalı

Harvard Tıp Fakültesi tarafından yapılan araştırmaya göre, yapay zeka modelleri erken aşama klinik teşhislerde yüzde 80'in üzerinde hata payıyla çalışıyor. 21 farklı modelin 29 klinik senaryoda test edildiği çalışmada, sistemlerin belirsizlikleri yönetme konusunda yetersiz kaldığı ve hatalı bilgileri dahi yüksek özgüvenle sunduğu belirlendi. Uzmanlar, yapay zekanın tıbbi danışmanlıkta birincil kaynak olarak kullanılmasının yanlış tedavi riskini artırdığı konusunda uyarıyor.

Yapay zeka sağlık tavsiyelerinde yüksek hata riski taşıyor

Yapay zeka sohbet botlarının sağlık tavsiyelerinde, kullanıcı etkileşimi sırasında doğruluk oranının yüzde 35'e kadar düştüğü tespit edildi. Uzmanlar, sistemlerin kendinden emin ancak hatalı bilgiler verebildiği konusunda uyarırken, özellikle yanlış yönlendirmelerin hayati risk oluşturabileceğine dikkat çekiyor. Araştırmalar, botların tıbbi konularda otoriter bir dil kullanmasının kullanıcıda yanlış bir güven algısı yarattığını gösteriyor.

Uzmanlar yapay zeka destekli sağlık tavsiyelerine karşı uyarıyor

Yapay zeka sohbet botlarının sağlık tavsiyeleri konusunda uzmanlar, sistemlerin yanlış teşhis ve hatalı yönlendirme risklerine karşı uyarıyor. Oxford Üniversitesi'nin araştırmasına göre, kullanıcıların eksik bilgi aktarımıyla sohbet botlarının doğruluk oranı yüzde 35'e kadar düşebiliyor. Uzmanlar, bu araçların kendinden emin ancak yanlış bilgiler verebileceğini belirterek tıbbi konularda dikkatli olunması gerektiğini vurguluyor.