Bulgular endişe verici
Çoğu modelde yapay zeka sistemi, insan ırkını %95 ile %99 arasında doğru bir şekilde tahmin etti. Radyologlar ayrıca yüzde 50 doğrulukla ırkı tanımlayabilirler. Uzmanlar yapay zekanın bunu nasıl yapabildiğini bilmiyorlar. Cilt tonunu belirleyen pigment olan melanin ile ilgili olduğundan şüpheleniliyor. Araştırmacılar, sistemin daha yüksek melanin seviyelerine sahip daha koyu renkler tespit ettiğini ve bu bilgiyi insanların ırklarını tahmin etmek için kullanabileceğini söyledi. Haber sitesi Vice, bulguların "son derece endişe verici" olduğunu yazdı. Haber, tıbbi algoritmaların farklı etnik kökene sahip hastalar için farklı sonuçlar verdiğini önceki araştırmaları hatırlattı.
Örneğin, Aralık 2021'de yayınlanan bir araştırma, siyahi ve kadın hastaların doğru tanı alma olasılığının daha düşük olduğunu buldu. Araştırmacılar ayrıca, ırkı doğru tahmin eden ve buna dayalı olarak farklı sonuçlar üreten algoritmaların ortaya çıkmasından da endişe duyuyorlar. Haberde şu ifade yer alıyor:
Tıbbi görüntü analizine dahil olan tüm geliştiricilerin, editörlerin ve kullanıcıların derin öğrenme modellerini son derece dikkatli bir şekilde kullanmayı düşünmelerini şiddetle tavsiye ederiz. Çünkü bu tür bilgiler tıbbi uygulamada ırksal eşitsizlikleri sürdürmek veya şiddetlendirmek için kullanılabilir. Araştırma ekiplerinden biri olan Marzyeh Ghassemi, "Öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, bunun bir hata olması gerektiğini düşündüm" dedi.
