Yapay Zeka’nın Aşı Önceliği ve bir de Irkçılık üzerine

Not: Aşağıdaki haberi İspanyol La Razon gazetesinin bir makalesinden derledim. Orijinali Amerika’da ProPublico gazetesine ait. Aşağıya linkini de bırakıyorum:

COVID-19'a karşı hangi yaş grubunun diğerlerinden önce aşılanması gerektiği konnusunda ABD’de Yapay Zeka’dan yardım alınıyor. Tabii bu yalnızca COVID-19 değil, diğer pek çok algoritma için de kullanılıyor. Ancak ABD’de California Stanford Medicine’de yapay zeka algoritması şikayetlere neden oluyor. Haberi çevirmeye çalıştım, buyurunuz:

Bilim-Kurgu gibi geliyor ama tamamen doğru

12 Aralık’ta, Amerika Birleşik Devletleri Gıda ve İlaç Dairesi (FDA) Pfizer-BioNTech formülünün acil kullanımını onaylamıştı. Ülkede vaka sayısı hızla artıyordu, bu nedenle daha fazla zaman kaybedilemezdi. Böylece ertesi gün süreç başladı. İlginç (ve tartışmalı) olan, California Stanford Medicine Hastanesinde bu algoritmaya yapay zekanın karar verici olmasıyla açığa çıktı.

Zira yapay zeka, koronavirüsten etkilenen kişilerle doğrudan temas halinde olan doktorları, diğer sağlık görevlilerine öncelik vermedi. Bu belirlemeyle aşılanan ilk 5.000 kişiden yalnızca yedisi sağlık personeliydi ve bu rakam da. İş gücünün% 0,5'ini temsil ediyordu.

Peki neden bu şekilde belirlenmişti?

Doktorlar bu durumu şikayet ettiler ve hastaları tedavi etmekten sorumlu oldukları için ilk aşılananların onlar olması gerektiğini söylediler. Kendilerine yapılan açıklama ise tepkiyi daha fazla körükledi: Daha genç insanlar oldukları, ciddi komplikasyonlara maruz kalma riskleri daha az olduğu ve sağlık merkezlerinde sabit bir yerleri olmadığı için, algoritma onlara öncelik vermemişti.

Programcı ve analist Carlos Ramírez şöyle bir açıklama yapıyor: “Bunları hep yaşıyoruz. Bu algoritmaların insan yapımı olduklarını ve bu nedenle onları tasarlayanların ideolojik, politik, kültürel veya tarihsel önyargılarını aktarabileceklerini unutmamalıyız.” Aldıkları verilere yaptıkları işlemden dolayı adaletsiz hale gelen adil sistemler varsayımı da vardır” çıkarımında bulunuyorlar. “Örneğin, ırkçı yorumlar yazmayı öğrenen Microsoft sohbet robotunun durumu budur” deniyor.

Ramírez, “Sağlık alanında, yoğunluğu önlemek ve kaynakların adil bir şekilde dağıtılmasını sağlamak için acil servise gelen hastaları risk düzeylerine göre sınıflandırmak için sıklıkla kullanılırlar” diye devam ediyor. “Bulduğumuz büyük handikap, çok fazla değişken ortaya çıktığında ortaya çıkıyor: ne kadar çok değişken varsa, o kadar fazla hata olasılığı var.

Yapay Zeka Nasıl Irkçı Oluyor

Bu konu 2019'da Science dergisinde yayınlanan bir çalışmada da gündeme getiriliyor: Amerika Birleşik Devletleri’nde yardım sağlamak için yaygın olarak kullanılan 10 algoritmanın beyaz insanları siyahlara tercih ettiğini göstermiş. Tasarımcılar, bu hizmetlere en çok para harcayanların en hasta olanlar ve en çok yardıma ihtiyaç duyanlar olduğunu varsayıyor. Daha çok para harcayanların da daha zengin ve beyaz olma olasılığı daha yüksek oluyor. Sonuç olarak, beyazlarla aynı tıbbi koşullara sahip siyah deneklere daha az tedavi imkanı oluyor. Ramírez, “Amaç, Stanford’daki gibi durumların meydana gelmemesi için bu tür önyargılardan kaçınmaktır” diyor.

Bir kadın doğum uzmanı olan Sarah Johnson şöyle şikayet ediyor: “Bizler hastaların yanındayız. Onları yerinde entübe etmemizi istiyorlar, ancak evden görüntülü görüşmelerle iletişim kuran bazı yöneticiler gözümüzün önünde aşı oluyor. Mesela COVID-19’lu annenin doğumuna giren sağlık görevlileri bilgisayar tarafından seçilmedi”

Hastane sorumluluğu üstlendi

Stanford Medicine sözcüsü Lisa Kim, yapılan hataların “tüm sorumluluğunu” üstlendi. “Niyetimiz etik ve eşitlikçi bir süreç geliştirmekti. Pandemi sırasında çalışmalarını kahramanca yerine getiren arkadaşlarımız da dahil olmak üzere tüm topluluğumuzdan özür dileriz” açıklaması yaptı. Ayrıca planı “hemen” gözden geçireceklerini de açıkladı. Bu gerçek, “adaletsiz algoritmalar” üzerindeki tartışmayı yeniden başlattı: Nasıl kontrol edilebilirler?

Amerika Birleşik Devletleri’nde kullanımı ve sonuçları konusunda belirsizlik varken, İspanya’da bu konuda neredeyse hiç düzenleme yok. Ve İspanya özelinde neden Araceli’nin aşı olan ilk kişi olarak seçildiği hala bilinmiyor.
(Araceli Rosario Hidalgo, İspanya’nın ilk aşı olan kişisi, 96 yaşında)

https://www.larazon.es/tecnologia/20210116/6owrafln55hwljk72fxrjwsewa.html