Amazon insanların işe alım sürecine yardımcı olması için bir yapay zeka üretmeye çalıştı. Ancak şirket bu yapay zekanın kadınlara karşı cinsiyetçilik yaptığını farkedince projeyi sonlandırdı.
Beş farklı kaynaktan doğrulanan bu yapay zeka projesi, Amazon'un İskoçya'daki Edinburgh mühendis ekibinin 2014 yılında işe alım sürecini otomasyona dönüştürmenin bir yolunu bulmasıyla başladı.
Şirket, geçmişte başvuran adayların özgeçmişlerinin taranması ve 50 bin anahtar terimi anlaması için 500 bilgisayar modellemesi yaptı. Kurulan bu sistem aday önerisinde bulunmak için webde gezinecekti.
Kaynaklardan biri bu konuyla ilgili şu cümleleri kullandı: "Gerçekten 100 özgeçmiş verdiklerinde, bunlar arasındaki en iyi beş adayı diğerlerinden ayırabilecek bir araç kullanmak istediler. Ve biz de bu ilk beş adayı işe alacaktık."
Bu çalışmanın başlangıcından bir yıl sonra ise mühendisler, araçta bir problem olduğunu farketti. Araç kadınlardan hoşlanmıyordu. Bunun nedeni ise yapay zekanın kimin işe alınacağı ile ilgili 10 yıllık Amazon başvuru verisini tararken çoğunlukla erkek adayların özgeçmişlerine rastlamasıydı.
Yaptığı taramanın sonucunda yapay zeka, adamların daha tercih edilebilir olduğu fikrine vardı. Araç, içinde "kadın" kelimesi geçen özgeçmişlerin puanını düşürüyor ve kız okullarına giden adayları filtreliyordu.
Amazon'un mühendisleri ise bu ön yargı formlarını araçtan kaldırmak için sisteme müdahale etti. Ancak yapay zekanın adaylar arasında ayrımcılık yapmanın yeni yollarını bulabileceğinden de şüphe etti. Üstelik aracın tek problemi cinsiyetçilik yapması değildi. Araç aynı zamanda pozisyon için yeterli olmayan adayları da önerebiliyordu.
Aslına bakarsanız bu gibi çalışmalarda yapay zekanın, insanların bilinçaltındaki ön yargıları bir kez daha gözler önüne serdiğini söyleyebiliriz. 2016 yılında hangi suçluların yeniden suç işleme ihtimalinin yüksek olduğunu bulmak için kullanılan bir risk değerlendirme yazılımı siyahi insanlara karşı ırk ayırımı yapmıştı. Hatta işe alım, kredi değerlendirme ve şartlı tahliye kararları gibi konularda kullanılan yapay zeka projelerinin ön yargılara sahip olduğu ve sorunlar çıkardığı daha önce de gündeme gelmişti.
Geçtiğimiz yılın ilk aylarında yöneticilerin araca olan güvenini kaybetmesiyle Amazon yapay zeka işe alım projesini sonlandırdı. Amazon'un insan kaynakları ise bu süreçte yapay zekanın verdiği önerileri incelediğini ancak yalnızca onun kararına güvenmediğini belirtiti. Şirket, iş yerinde çeşitliliğe ve eşitliliğe kendini adadığını da sözlerine ekledi.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap