Roblox, Zararlı İçeriği Önlemek İçin Yapay Zeka Moderasyonu Kullanıyor!
Roblox oynadıysanız, platformun ne kadar çılgın ve öngörülemez olabileceğini bilirsiniz. Şimdi, Roblox bu öngörülemezliği, içerik moderasyonunu yenilemek için bir neden olarak kullanıyor.
Platform, gerçek zamanlı çok modlu bir AI moderasyon sistemini devreye soktu. Bu sistem yalnızca bireysel örnekleri incelemekle kalmıyor, aynı zamanda oyun içindeki tüm sahneleri gerçek zamanlı olarak tarayıp daha önceki filtrelerin geçemediği içerikleri tespit ediyor.
Roblox’un yeni AI moderasyon sistemi nasıl çalışıyor?
Eski moderasyon araçlarının bir nesneyi tek tek değerlendirdiği düşünülürse, yeni çok modlu sistem tüm sahneyi, avatarları, metinleri ve 3D nesneleri değerlendirerek, kombinasyonun Roblox’un Topluluk Standartlarını ihlal edip etmediğini belirliyor.
Örneğin, birinin serbest çizim aracını kullanarak bir saldırgan sembol çizdiğini düşünelim — bu tür bir durum, tek parça kontrolünde tetiklenmeyebilir ama bağlamda ciddi bir sorun teşkil ediyor.
Tek bir oyun örneğinde tekrar eden ihlaller tespit edildiğinde, sistem yalnızca o sunucuyu kapatıyor; böylece tüm oyun etkilenmiyor. Başlangıcından bu yana, günde yaklaşık 5,000 sunucu kapatılıyor.
Roblox, bu sistemle oyun süresinin %100’ünü izlemeye çalışıyor. Sunucu kapatmalarının yanı sıra, kötü niyetli bireyleri tanımlayıp kaldırmak için de araçlar geliştiriyor; bu sayede diğer oyuncuların deneyimi etkilenmeden sorunları çözebiliyor.
Bu, Roblox yaratıcıları için ne anlama geliyor?
Yaratıcılar da karanlıkta bırakılmadı. Mevcut Yaratıcı Paneli’nde, kötü kullanıcı davranışı nedeniyle herhangi bir günde kaç sunucunun kapatıldığını gösteren yeni bir grafik bulunuyor.
Bu sayının ani artışları, araştırmaya değer bir problemi işaret ediyor olabilir. Yaratıcıların, durum kötüleşmeden önce özel emojiler veya oyun içi yapı araçları gibi şeyleri gözden geçirme fırsatı bulmasını sağlıyor.
Çevrimiçi oyunları temizlemek için yeni bir sertifika programı
Roblox, aynı zamanda daha büyük bir endüstri sorununu da çözmeye çalışıyor. Keyword Studios ve Riot Games ile birlikte, çevrimiçi topluluk yöneticileri ve moderatörleri için DLC Liderlik Programını geliştiriyor.
Araştırma psikoloğu Rachel Kowert, bu süreçte akademik yönü yönetiyor. Amaç, oyun topluluklarını yöneten kişiler için standart, kanıta dayalı bir eğitim oluşturarak, endüstride daha önce hiç olmamış bir standart getirmek.
Roblox, ebeveyn kontrollerinden yaşa bağlı sohbet filtrelerine kadar güvenlik önlemlerini sıkılaştırıyordu, ve en son güncelleme bunun en iddialı hamlesi oldu.
