Yapay zeka, kişileri fotoğraflarına göre nasıl sınıflandırıyor?

İzlediğimiz diziler, filmler, okuduğumuz kitaplar ve tabii ki sosyal medya, günümüzün önemli teknolojik gelişmelerinden biri olan yapay zeka konusunda hemen hemen herkesin fikir sahibi olmasına neden oluyor. Ancak bu fikirlerin birçoğunun sonu "dünyanın yok olmasına" kadar varıyor ve distopik bir evrenin kapılarını aralıyor. Bu süreçte ne olacağını bilmek şu an için mümkün değil, ancak yapay zekanın hayatımızı kolaylaştıran bir tarafı olduğunu da belirtmemiz gerek.

ImageNet Roulette nedir?

ImageNet Roulette adlı web sitesi ise yapay zekanın fotoğraflarımızı nasıl sınıflandırdığını açıkça ortaya koyarken, aynı zamanda keyifli sonuçların ortaya çıkmasına da neden oluyor. Örneğin; platform sıradan bir fotoğrafımı "female, female person" diye etiketlerken, kulaküstü kulaklıkla çektiğim bir fotoğrafımı "working girl" şeklinde etiketliyor. Gerçekten alakasız ve elimde top olan bir fotoğrafı ise "okuyucu" olarak etiketliyor. Öne çıkan bir etiket olmakla beraber "mortal" kelimesi de etiketler arasında yer alıyor ve böylelikle yapay zeka sisteminin sizi canlı olarak algıladığını görebiliyorsunuz.

Ancak platformun pek başarılı olmadığını belirtelim. Zira bir kedi fotoğrafı yüklediğimde onu "dişli çark" olarak, hırkalı bir fotoğrafımı yüklediğimde "boşanmış" olarak etiketledi. Başka bir kulaküstü kulaklık denediğimde ise "pilot" olarak etiketlendiğimi gördüm ve bu etiketler sürekli değişiyor, platform nokta atışı yapmaya çalışıyor, fakat gerçekten bu konuda sınıfta kalıyor. 

Facebook vs. ImageNet Roulette

Daha önce Facebook çöktüğünde, şirketin fotoğraflarımızı nasıl etiketlediğini görmüştük. Yüklenen fotoğraflara göz attığımızda, tatil fotoğraflarını veya yemek ve arkadaş resimlerini görmek yerine, "görüntünün içerebileceği şeyler: gülümseyen insanlar, dans eden insanlar, düğün ve iç mekan" veya sadece "görüntü içeriyor olabilir: kedi" gibi betimlemelerle karşılaşmıştık. Bu yüzden ImageNet Roulette'in başarısız olduğunu açıkça söyleyebiliriz. 

Platform nasıl çalışıyor?

ImageNet Roulette'in, yapay zeka araştırmacısı ve profesörü Kate Crawford ile sanatçı ve araştırmacı Trevor Paglen tarafından tasarlanan "Training Humans" adlı bir serginin parçası olduğunu belirtelim. Platform, Paglen'in altında çalışan geliştirici Leif Ryge tarafından hayata geçirildi. ImageNet Roulette, Berkeley'de hayata geçirilen Caffe derin öğrenme çerçevesini kullanıyor. Bir kullanıcı bir resim yüklediğinde, uygulama ilk önce herhangi bir yüz bulmak için yüz dedektörünü çalıştırıyor. Bulursa, sınıflandırma için onları Caffe modeline gönderiyor ve ardından uygulama, orijinal görüntüleri algılanan yüzü ve sınıflandırıcının resme atadığı etiketi gösteren bir sınırlayıcı kutu ile birlikte döndürüyor. Yüz algılanmazsa, uygulama tüm sahneyi Caffe modeline gönderiyor ve sol üst köşede etiketli bir görüntü ortaya çıkıyor. 

Irkçı etiketler

ImageNet, hepsi WordNet'ten alınmış bir dizi sorunlu, rahatsız edici ve tuhaf kategoriler içeriyor. Bunların bazıları, düşmanca veya ırkçı bir terminolojiyi kullanıyor. Bu nedenle, ImageNet'in getirdiği sonuçlar da bu kategorilere dayanıyor ve belki de alakasız sonuçların çıkmasına bu neden oluyor. 

Sonuç olarak ImageNet Roulette, eğlenceli olsa da altında barındırdığı etiketlerle en başta da belirttiğimiz korku ütopyasının ortaya çıkmasına imkan veriyor. Galiba ilk kez hepimiz Facebook'un daha başarılı olduğu konusunda hemfikir olacağız.