Discord, çocukları ve gençleri platformunda korumaya yönelik politikasını, avcıların uygulamayı çocuklara yönelik cinsel istismar materyalleri (CSAM) oluşturmak ve yaymak ve ayrıca genç gençleri yetiştirmek için kullandığına dair raporların ortaya çıkmasının ardından güncelledi. Platform artık yapay zeka tarafından üretilen fotogerçekçi CSAM’yi açıkça yasaklıyor. Gibi Washington post Son zamanlarda bildirilen, üretici yapay zekadaki artış, çocukların cinsel tasvirleriyle gerçeğe yakın görüntülerin patlamasına da yol açtı. Yayın, çocukların uygunsuz görüntülerini oluşturmak için Discord’da metinden görüntüye üretken bir yapay zeka olan Midjourney’in kullanımı hakkında konuşmalar görmüştü.
Discord, yapay zeka tarafından oluşturulan CSAM’yi yasaklamanın yanı sıra artık çocukları cinselleştiren diğer her türlü metin veya medya içeriğini de açıkça yasaklamaktadır. Platform, genç flört sunucularını da yasakladı ve bu davranışta bulunan kullanıcılara karşı işlem yapma sözü verdi. Bir önceki NBC Haberleri araştırma, reşit olmayanlardan çıplak resimler isteyen katılımcıların olduğu genç flört sunucuları olarak reklamı yapılan Discord sunucularını buldu.
Yetişkin kullanıcılar daha önce Discord’da çocukları tımarlamaktan yargılanıyordu ve hatta reşit olmayan kullanıcıları şantajla kendi cinsel içerikli resimlerini göndermeye zorlayan suç çeteleri bile var. Genç flört sunucularını tamamen yasaklamak, sorunu hafifletmeye yardımcı olabilir. Discord ayrıca politikasına, daha genç gençleri tımar ettiği tespit edilen yaşlı gençlerin “gözden geçirileceğini ve altında işlem yapılacağını belirten bir satır ekledi. [its] Çocuklarla Uygunsuz Cinsel Davranış ve Bakım Politikası.”
Discord, kurallarını güncellemenin yanı sıra yakın zamanda ebeveynlerin çocuklarının sohbet hizmetindeki aktivitelerini takip etmek için kullanabilecekleri bir Aile Merkezi aracını kullanıma sundu. Ebeveynler, çocuklarının mesajlarının gerçek içeriğini göremeyecek olsa da, katılım aracı, çocuklarının platformda kimlerle arkadaş olduğunu ve kiminle konuştuğunu görmelerine olanak tanır. Discord, bu yeni önlemlerin ve araçların, PhotoDNA kullanarak platformuna yüklenen görüntüleri proaktif olarak taramayı içeren eski önlemlerinin yanı sıra reşit olmayan kullanıcılarını güvende tutmaya yardımcı olabileceğini umuyor.
News
