Yapay zeka, X-Ray görüntülerinden insanların ırkını tahmin ediyor; bunun riskleri olabilir
Yapay zekaya dayalı öğrenme modelleri ve uygulamaların, bir insanın ırkının yalnızca X-ışınlarından tanımlayabildiği ortaya çıktı. Aynı görüntülere bakan bir insan doktor için bu imkansız.
Bulgular, yapay zekanın tıbbi teşhis, değerlendirme ve tedavideki rolü hakkında bazı rahatsız edici soruları gündeme getiriyor: Bilgisayar yazılımı bunun gibi görüntüleri incelerken, istemeden de olsa ırksal önyargıları da teşhis ve tedaviye yansıtabilir mi?
ABD, Kanada ve Tayvan’dan uluslararası bir sağlık araştırmacıları ekibi, hastanın ırkı ayrıntılarıyla etiketlenmiş yüz binlerce mevcut X-ray görüntüsünü kullanarak yapay zekayla çalışan (AI) algoritmalarını "eğittikten" sonra bilgisayar yazılımının sahip olmadığı, yani ırksal verilerin gizlendiği X-ray görüntüleri üzerinde sistemlerini test etti.
YÜZDE DOKSAN ORANINDA DOĞRU TAHMİN
AI taramalarının aynı yaşta ve aynı cinsiyetten kişilerden alındığında bile, bu görüntülerde hastanın bildirilen ırksal kimliğini şaşırtıcı bir doğrulukla tahmin edebildiği ortaya çıktı. Yazılım, bazı görüntülerde yüzde 90 oranında doğru tahminde bulundu.
Araştırmacılar yayınladıkları makalede "AI’nın bir hastanın ırksal kimliğini tıbbi görüntülerden tanıma yeteneğinin kapsamlı bir değerlendirmesini yapmayı hedefledik" diye yazdı: "Böylece standart AI derin öğrenme modellerinin, harici doğrulama koşulları altında sürdürülen çoklu görüntüleme yöntemlerinde yüksek performansla tıbbi görüntülerden yarışı tahmin etmek için eğitilebileceğini gösteriyoruz."
Araştırma , X-ışını görüntülerinin yapay zeka taramalarının Siyahlardaki hastalık belirtilerini gözden kaçırma olasılığının daha yüksek olduğunu bulan önceki bir çalışmanın sonuçlarını yansıtıyor.
Yapay zeka, doğası gereği, verilerdeki kalıpları hızlı bir şekilde tespit etmek için insan düşüncesini taklit ediyor. Ancak bu aynı zamanda istemeden aynı türden önyargılara yenik düşebileceği anlamına da geliyor.
Bilim insanları AI sisteminin, en azından yüzeyde, bu tür bilgileri içermeyen görüntülerden ırkı tanımlamada neden bu kadar iyi olduğunu henüz çözebilmiş değiller. Örneğin kemik yoğunluğuyla ilgili ipuçlarını ortadan kaldırarak veya vücudun küçük bir bölümüne odaklanarak sınırlı bilgi sağlandığında bile, modeller dosyada bildirilen teşhisi tahmin etmede şaşırtıcı derecede iyi performans gösterdi.
MELANİN OLABİLİR
Sistemin, cilde rengini veren pigment olan melanin belirtileri bulmasının olası olabileceği düşünülüyor.
Araştırmacılar, "Yapay zekanın, genellikle klinik uzmanların yapamadığı durumlarda, bozuk, kırpılmış ve gürültülü tıbbi görüntülerden bile, ırkı doğru bir şekilde tahmin edebildiğini bulmamız, tıbbi görüntülemedeki tüm model dağıtımları için çok büyük bir risk oluşturuyor" diyor.
Çalışma, yapay zeka sistemlerinin, ister ırkçılık, ister cinsiyetçilik veya başka bir şey olsun, insanların önyargılarını yansıtabileceğine dair giderek artan bir kanıt yığınına katkıda bulunuyor. Bu, hastalık tespit tekniklerinden iklim değişikliği modellerine kadar pek çok yerde, insanlardan çok daha hızlı bir şekilde çok daha fazla veri elde etmek için yapay zekanın güçlü potansiyeline karşı dengelenmesi gereken bir sorun olarak ortaya çıkıyor.
Çalışmada henüz yanıtlanmamış pek çok soru var, ancak şimdilik, yapay zeka sistemlerinde ırksal yanlılığın ortaya çıkma potansiyelinin farkında olmak önemli bulunuyor.
Massachusetts Teknoloji Enstitüsü’nden araştırmacı bilim insanı Leo Anthony Celi, Boston Globe'a "Belki bu çalışmalara biraz ara vermemiz gerekiyordur. Algoritmaları hastanelere ve kliniklere getirmekte acele edemeyiz, ta ki onların ırkçı veya cinsiyetçi kararlar almadıklarından emin olana kadar" dedi.
