Irkçılık ve ayrımcılık yapay zekayı da etkiledi

Ancak YZ'nin potansiyel etkileri sadece işgücü piyasasıyla sınırlı değildir. YZ sistemleri, önyargılı ve ayrımcı sonuçlar üretme potansiyeline de sahiptir. Bunun nedeni, YZ sistemlerinin genellikle insan tarafından oluşturulan verilerle eğitilmesidir. Bu veriler, bilinçli veya bilinçdışı olarak önyargılar içerebilir ve bu önyargılar YZ sistemine yansıyarak ayrımcı sonuçlara yol açabilir.

YZ'de ırkçılık ve ayrımcılığın bazı örnekleri şunlardır:

--Yanlış kodlama: YZ algoritmaları, önyargılı verilerle eğitildiğinde, bu önyargıları yansıtan sonuçlar üretebilir. Örneğin, bir işe alım algoritması, geçmişte beyaz adaylara daha fazla iş vermişse, gelecekte de beyaz adaylara daha fazla iş verme olasılığı yüksektir.

--Veri eksikliği: YZ algoritmaları, belirli bir gruba ait yeterince veri içermeyen veri kümeleriyle eğitildiğinde, bu grubu dezavantajlı hale getirebilir. Örneğin, bir sağlık hizmeti algoritması, az sayıda azınlık hastası içeren bir veri kümesiyle eğitilmişse, bu hastalara yanlış teşhis koyma veya yanlış tedavi önerme olasılığı daha yüksek olabilir.

--Algoritmik önyargı: YZ algoritmaları, tasarımcılarının önyargılarını yansıtacak şekilde tasarlanabilir. Örneğin, bir suç tahmin algoritması, belirli bir ırka veya etnik kökene sahip kişilerin suç işlemeye daha yatkın olduğunu varsayacak şekilde tasarlanırsa, bu gruba mensup kişilerin haksız yere tutuklanma veya mahkum olma olasılığı daha yüksek olabilir.

YZ'nin önyargılı ve ayrımcı sonuçlar üretebileceğine dair bazı kanıtlar şunlardır:

*2016 yılında yapılan bir araştırmada, bir güzellik puanlama sistemi olan COMPAS'ın, beyaz sanıklara kıyasla siyah sanıklara haksız yere daha yüksek risk puanı verme olasılığının daha yüksek olduğu bulundu.

*2018 yılında yapılan bir başka araştırmada, yüz tanıma yazılımının beyaz insanları siyah insanlardan daha doğru bir şekilde tanımlama olasılığının daha yüksek olduğu bulundu.

*2019 yılında yapılan bir araştırmada, Google Arama'nın, siyah insanları beyaz insanlardan daha az olumlu sonuçlar üretecek şekilde önyargılı olduğu bulundu.

YZ'deki ırkçılık ve ayrımcılıkla mücadele etmek için:

--Veri kümelerinin çeşitliliği: YZ algoritmalarının eğitildiği veri kümelerinin, mümkün olduğunca çeşitli ve kapsayıcı olması önemlidir.

--Algoritmaların şeffaflığı: YZ algoritmalarının nasıl çalıştığı ve hangi verileri kullandığı şeffaf bir şekilde açıklanmalıdır.

--Etik ilkelerin geliştirilmesi: YZ'nin geliştirilmesi ve kullanımı için etik ilkeler geliştirilmeli ve uygulanmalıdır.

--Sivil toplum ve kamuoyunun katılımı: YZ'deki ırkçılık ve ayrımcılık sorununa karşı mücadelede sivil toplum ve kamuoyunun katılımı teşvik edilmelidir.

(Sema Yüksel Güngörmez)