TikTok, içerik yönetimi için 40 bin kişilik ekibi ve yapay zekayı kullanıyor

Günümüzün en popüler sosyal medya platformları arasında yer alan TikTok, özellikle içerik yönetimi ve başarılı algoritması ile ön plana çıkıyor. TikTok'un İrlanda’nın başkenti Dublin’de yer alan TikTok Şeffaflık ve Hesap Verilebilirlik Merkezi'ni ziyaret etme fırsatı yakaladık.

Dublin’deki merkezinde içerik moderasyonu ve kullanıcı güvenliği konusundaki çalışmalarını artırmaya odaklanan TikTok, 40 bin kişilik ekibi ve yapay zeka ile birlikte içerik yönetimini gerçekleştiriyor. Ziyaretimiz sırasında Dublin TikTok Moderasyon Merkezi’nde TikTok’un içerik moderasyonu süreçlerinde yapay zekayı nasıl kullandığını gerçek zamanlı olarak inceleme fırsatı yakaladık.

Platforma yüklenen içerikleri inceleyen yapay zeka, topluluk kurallarına aykırı olan videoları tespit ettiğinde moderasyon ekibine haber veriyor. TikTok'un yapay zekası, alkol kullanımı, sigara kullanımı, şiddet veya çıplaklığı gerçek zamanlı olarak tespit edebiliyor. 

Videoları çekildikleri ortam ve video konularına göre inceleyen yapay zeka, bıçağın tutulma şekline göre şiddeti tespit edebiliyor. Örneğin bıçak dikey bir şekilde tutulduğunda şiddet algılayan yapay zeka yatay bir şekilde tutulduğunda ise şiddet algılamıyor. Videoların çekildiği ortam da bu konuda oldukça önemli. Örneğin mutfakta çekilen bir yemek videosundaki bıçak şiddet unsuru değilken, mutfak dışında şiddet unsuru sayılabiliyor.

Platformdaki uygunsuz içeriklerin tespit edilmesi ve hızlıca kaldırılması için kullanılan bu yöntemler, kullanıcıların güvenli bir dijital ortamda etkileşimde bulunmalarını amaçlıyor.

TikTok tarafından paylaşılan son Şeffaflık Raporu’na göre 2024’ün ilk çeyreğinde, dünya genelinde topluluk kurallarını ihlal ettiği için 976 milyon 479 bin 946 video yorumu platformdan kaldırıldı. Bu sayının aynı dönemde yayınlanan toplam video yorumlarının yüzde 1,6'sını temsil ettiğini de ekleyelim.

Raporda ayrıca içerik üreticilerinin aynı dönemde 3 milyar 381 milyon 646 bin 722 yorumu filtrelemek veya kaldırmak için TikTok’un kapsamlı yorum güvenliği araçlarını kullandığı da belirtiliyor. Yine aynı dönemde platformdan toplamda 166 milyon 997 bin 307 video kaldırıldığı, 129 milyon 335 bin 793 videonun ise insan müdahalesi olmadan yapay zeka otomasyonu tarafından kaldırıldığını da paylaşalım.

Raporda yer alan bir diğer önemli bilgiye göre ise videoların yüzde 97,7'si henüz hiçbir kullanıcı tarafından rapor edilmeden tespit edilip platformdan kaldırıldı. Türkiye’ye bakıldığındaysa aynı dönemde toplam 3 milyon 204 bin 750 video kaldırılırken bunların yüzde 98,4’üne henüz hiçbir kullanıcı tarafından raporlanmadan müdahale edildi.