Daha önce büyük yatırımlar yapılarak yapay zeka ile alzheimer, göz sağlığı, cilt kanseri tespiti, depresyonu tanıma hatta komadaki bir kişinin ne zaman uyanacağını öngörmek için çalışmalar yapılmıştı. İnsanlardan çok daha hızlı bir şekilde çok daha fazla veri elde eden ve tıp çalışmalarında kullanılan yapay zeka beklenmeyen bir gelişme gösterdi. Bilim adamları yapay zekanın bunu nasıl yaptığını açıklayamıyor. Tıbbi amaçlı kullanılan yapay zekanın röntgen ve tomografi görüntülerle insanların ırklarını tahmin etti. Bunun üzerine yapay zekaya ırkların belirtilmediği görüntü kümeleri gösterildi. Görsellerden sonra yapay zeka sistemi, insanların ırkını yüzde 95-99 arasında doğru tahmin etti.
Uzmanlar bunun ten rengini belirleyen pigment; melanin ile ilgisi olabileceğini öngörüyor. X-ışınları ve CT tarayıcıları sonuçlarından insan gözünün göremediği, gözle fark edilemeyen daha koyu ten rengini yapay zeka algılayabiliyor olabilir. Bundan yola çıkarak şunu söyleyebiliriz ki; yapay zeka atalarımızın nereden geldiğini x-ışınları ile belirleyebilecek.
Bir doktor, sadece röntgen görüntülerine bakarak hastanın siyahi mi, Asyalı mı, yoksa beyaz mı olduğunu ayırt edemez. Ancak çalışmayı yürüten bilim insanları, bilgisayarın bunu nasıl çözdüğüne dair hiçbir fikirleri olmadığını söylüyorlar. MIT Elektrik Mühendisliği ve Bilgisayar Bilimi yardımcı doçenti ve makalenin ortak yazarı Marzyeh Ghassemi şöyle diyor: “Lisansüstü öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, bunun bir hata olması gerektiğini düşündüm. Dürüst olmak gerekirse, bana söylediklerinde öğrencilerimin deli olduğunu düşündüm.”
Çalışmada henüz yanıtlanmamış pek çok soru var, ancak şimdilik, yapay zeka sistemlerinde ırksal önyargının ortaya çıkma potansiyelinin farkında olmak önemli bulunuyor. Uzmanlar ırkçılığın hala yaygın olduğu bir dünyadan yapay zekanın ırkçı veya cinsiyetçi kararlar almadıklarından emin olana kadar bu uygulamayı hastane ve kliniklere getirmekte acele etmeyeceğini açıkladılar.