Yapay Zeka Destekli Sağlık Tavsiyelerinde Hata Riski

Harvard araştırması: Yapay zeka teşhislerinin yüzde 80'i hatalı

Harvard Tıp Fakültesi tarafından yapılan araştırmaya göre, yapay zeka modelleri erken aşama klinik teşhislerde yüzde 80'in üzerinde hata payıyla çalışıyor. 21 farklı modelin 29 klinik senaryoda test edildiği çalışmada, sistemlerin belirsizlikleri yönetme konusunda yetersiz kaldığı ve hatalı bilgileri dahi yüksek özgüvenle sunduğu belirlendi. Uzmanlar, yapay zekanın tıbbi danışmanlıkta birincil kaynak olarak kullanılmasının yanlış tedavi riskini artırdığı konusunda uyarıyor.

Yapay zeka sağlık tavsiyelerinde yüksek hata riski taşıyor

Yapay zeka sohbet botlarının sağlık tavsiyelerinde, kullanıcı etkileşimi sırasında doğruluk oranının yüzde 35'e kadar düştüğü tespit edildi. Uzmanlar, sistemlerin kendinden emin ancak hatalı bilgiler verebildiği konusunda uyarırken, özellikle yanlış yönlendirmelerin hayati risk oluşturabileceğine dikkat çekiyor. Araştırmalar, botların tıbbi konularda otoriter bir dil kullanmasının kullanıcıda yanlış bir güven algısı yarattığını gösteriyor.

Uzmanlar yapay zeka destekli sağlık tavsiyelerine karşı uyarıyor

Yapay zeka sohbet botlarının sağlık tavsiyeleri konusunda uzmanlar, sistemlerin yanlış teşhis ve hatalı yönlendirme risklerine karşı uyarıyor. Oxford Üniversitesi'nin araştırmasına göre, kullanıcıların eksik bilgi aktarımıyla sohbet botlarının doğruluk oranı yüzde 35'e kadar düşebiliyor. Uzmanlar, bu araçların kendinden emin ancak yanlış bilgiler verebileceğini belirterek tıbbi konularda dikkatli olunması gerektiğini vurguluyor.