2016 yılında UNICEF, Gürcistan'ın başkenti Tiflis'te gerçekleştirdiği bir sosyal deney gerçekleştirdi. Küçük bir kız çocuğuna farklı kıyafetler giydirdiler. UNICEF'in amacı insanların tepkilerini ölçmek idi. Önce temiz, düzgün kıyafetler giydirilip bir restorana tek başına giren küçük kız, herkesin ilgisi ve şefkatiyle karşılandı. Sosyal deneyin ikinci kısmında dağınık saçlarla, kirli ve eski kıyafetlerle aynı restorana girdi. Fakat bu kez ilk seferine nazaran taban tabana bir tepkiyle karşılandı. Müşteriler küçük kızı görmezden geldi. Garsonlar da onu dışarı çıkardı.
Ön yargı, bir insana veya şeye karşı temelli veya temelsiz, olumlu veya olumsuz, fiili tecrübeye dayalı duygu. Bu duygu, temelde kontrollü olmaz ise insanların birbirinden uzaklaşmasına neden oluyor. Bu, sadece insana özel bir duygu değil. İnsana dair tüm ön yargıların yapay zekâyı da etkiliyor. Çünkü yapay zekâ, tamamen insanların temel ön yargılarını yansıtıyor.
Dayandığı veri ön yargılı ise o zaman yapay zekâ sistemi de ön yargılı hale geliyor. Yapay zekâ sistemi, büyük ölçüde üzerinde eğitildikleri veriler nedeniyle ön yargılı ve adaletsiz olabilir. Diğer ön yargılar, kuruluşun kurumsal kültüründen ve güç dinamiklerinden ortaya çıkıyor. Tidio bunu bir araştırma ile kanıtladı. Farklı AI görüntü oluşturucular test edildi. Araştırma sonucunda yapay zekânın toplanan veriler sayesinde işlevsel hale gelen verilerin ön yargılı veya ayrımcı bir tarafı olduğu ortaya konuldu.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap