Haber

Yapay Zeka, Toplumlarımızı Daha Eşit Hale Getirebilir. Nasılmı ?

Yapay zeka, en kritik sosyal kurumlarımızdaki yüksek kazançlı karar alma süreçlerinde daha merkezi bir rol üstleniyor.

Yapay zeka, en kritik sosyal kurumlarımızdaki yüksek kazançlı karar alma süreçlerinde daha merkezi bir rol üstleniyor. Bu karar, bizim hastane, adliyelere ve istihdam büroları girmiştirtir bu sigorta kimin , kim şartlı tahliye alır ve kimi işe alır . Çoğu durumda AI kullanımının, insan karar verme sürecinde doğan hataları ve önyargıları aşarak etkinliği ve etkinliği artırması amaçlanmış olsa da, algoritma yanlısı olma riski ( bir algoritma, yaratıcılarının önyargılarını veya verildiği bilgiyi alırken) güçlendirebilir..

Algoritmaların tarafsız olmadığını kabul etmeliyiz . Hesaplamalarında yer alan verileri ve varsayımları yansıtırlar. Önyargılı veriler bir algoritmaya yönlendirilirse veya mevcut sosyal önyargıları yansıtan faktörlere öncelik verilirse, ayrımcı sonuçlar gelecektir. Algoritma, belirli faktörlere öncelik vererek -görülen ve gizli değişkenlerden istatistiksel desenleri belirleyerek ve ardından “eğer bu, o zaman” sonuçlarını sunarak işlev görür. Belli faktörlerin uygun olduğunu varsayarak, bir sonucun ve tarihsel eğilimlerin yineleyicileri tekrarlanacaktır, bir algoritma kendi kendini güçlendiren bir önyargı gösterebilir . Veri ve hesaplamalarda fazla, yanlış veya yanlış gösterilenler için, kendi adına yapılan kararlar eşitsizliği sürdürebilir.

İnsanlar, bilgisayarların çok akıllıca davrandıklarını ve dünyayı ele geçireceğini düşünüyorlar, ancak asıl sorun onlar çok aptal oldukları ve zaten dünyayı ele geçirmiş olmaları.
– Pedro Domingos, Ana Algoritma

Bunu bağlamda ifade etmek için, öngörüleyici polisiye geçiş modellerine ve sağlık sigortası risk tahminlerine bir göz atalım. Tahmini polisite modelleri, tahmini suç suç noktaları oluşturmak için tarih, saat ve yer de dahil olmak üzere tarih suç kayıtlarını kullanır. Azınlık ve düşük gelir grubundaki toplulukların, müreffeh beyaz mahallelere kıyasla polis tarafından gözlendiği çok daha muhtemeldir; tahmini polislik işleminin özünde yer alan tarihsel suç verileri, daha ağır devriye gezen topluluklarda daha yüksek suç oranlarını ortaya çıkaran önyargılı bir tablo sağlayacaktır. Sonuç olarak, akıllı önleme , azınlık ve düşük gelir grubundaki toplulukların sürveyansını sürdürerek ırkçı önyargıları artırabilir .

Sağlık sigortası söz konusu olduğunda sigortacılar, satın alma geçmişi ve komşularının sağlığı gibi geleneksel olmayan “üçüncü taraf” veri kaynaklarının birleşimi yoluyla bir kişinin gelecekteki sağlık risklerini önceden tahmin edebiliyor . Bu verilerin kullanılması sigortacıya yönelik riski doğru bir şekilde tahmin edebiliyor olsa da, aynı zamanda risk altındaki kişilerin karşılayamayacakları primleri tahsil ettikleri veya kapsama alanının tamamen reddedileceği anlamına gelmektedir. Sistemik sağlık sorunları yaşayan topluluklarda yaşayanlar için, bu tahmini modeller sağlık farklılıklarını sürdürebilir.

AI, sosyal, politik ve ekonomik haklar üzerinde etkili kararlar vermek için giderek daha fazla uygulanmaya başlandığından, bu sistemlerin adalet, hesap verebilirlik ve şeffaflık ilkelerini destekleyecek şekilde oluşturulmasını ve uygulanmasını sağlamalıyız . Bu ilkelerin AI’ya gömülmesini sağlamak için iki yol vardır, bu da yalnızca daha verimli ancak aynı zamanda daha adil bir karar vermeye neden olur.

“Sosyal-Sistem Analizi” uygulamak

Genel olarak bakıldığında, önyargı, değeri yüklü verilerin birleştirilmesi ve öznel faktörlerin önceliklendirilmesi yoluyla kendisini algoritmalara sokar. Yetersiz, standartlaştırılmamış veya hatalı ölçüm araçları ile toplanan veri kümeleri gerçeğin yanlış yansımasını ortaya koyabilir. Ve uzun süredir devam eden toplumsal eşitsizliği yansıtan bir süreç üzerinde toplanan veriler muhtemelen onu sürekli hale getirecektir.

Örneğin, Kafkas erkeklerini işe alma ve teşvik etme eğiliminde olan bir endüstrideki bir veri kümesiyle eğitilmiş bir algoritma, bu adayların diğerlerine göre sistematik olarak önceliklendirilmesine neden olabilir. Verilerin ve varsayımların, geliştiricilerin sorguladığı ve düzelttiği bir “sosyal sistem analizi” yaklaşımı ile AI sistemlerinde eğitilen veriler üzerindeki etkileri üzerine eğitilmiş verilerle ve varsayımları analiz ederek öncelikler belirlenebilir ve daha erken düzeltilebilir, böylece riskler azaltılır. AI yoluyla ayrımcılıkla mücadele Bu, daha çeşitli ekiplerin yanlılığı belirleme konusunda daha yetenekli olacağı yönündeki bir sonraki tavsiyeye yol açmaktadır.

Her aşamada çeşitlilik katmak

Çeşitlilik, AI sürecinin her aşamasında, tasarımdan dağıtımdan karar vermeye etkilerini sorgulamaya kadar dahil edilmelidir. Araştırmalar, birikimli IQ ne olursa olsun, daha farklı ekiplerin problem çözmede daha verimli olduğunu göstermiştir . AI tarafından desteklenen karar alma mekanizmasının etkilerinin tasarımında, uygulamasında ve değerlendirilmesinde kapsayıcı özen, yalnızca yanlışlıkla ayrımcı etkileri en aza indirgemekle kalmayıp aynı zamanda daha büyük toplumsal, ekonomik ve politik alanlar için bir itici güç olarak tasarım ve uygulamasına da neden olacaktır içerme.

Yapay zeka bükülme noktasında. Gelişimi ve uygulaması iklim değişikliği, gıda güvensizliği, sağlık bakımı ve eğitim gibi küresel zorluklara benzeri görülmemiş faydalar sağlayabilir. Fakat uygulama daha dikkatli bir şekilde yönetilmeli ve daha adil bir dijital ekonomiye ve topluma yönelmelidir; daha ayrımcı değil.

Daha fazla göster

İlgili Makaleler

Ayrıca kontrol

Close
Close
Close