English

Her saniye, X’in (Twitter) yapay zekâsı Grok; gerçek kadınların ve çocukların fotoğraflarını izinsiz biçimde cinsel içerikli sahnelere dönüştürmek için kötüye kullanılıyor. Bu süreçte fotoğrafların kıyafetleri dijital olarak kaldırılmış versiyonları üretiliyor; görüntüler değiştirilerek aşağılayıcı ya da cinsel senaryolara yerleştiriliyor.

Bazı kullanıcılar sahte hesaplar açıp tanıdıkları kadınlara ait fotoğrafları paylaşarak, Grok’u etiketleyip bu görüntülerdeki kişilerin kıyafetlerini kaldırmasını istiyor ve ortaya çıkan içerikleri sosyal medyada yayıyor. Bu durum, dünyanın en büyük sosyal medya platformlarından birinde rızasız pornografik içeriklerin hızla yayılmasına yol açıyor.

Bu sadece yetişkinlerle sınırlı değil. Bazı vakalarda Grok, çocuklara ait cinsel istismar materyali (CSAM) üretebiliyor ve bu içerikler izinsiz şekilde kullanıcıların yanıtlarında görüntülenebiliyor.

Herhangi birimizin annesi, büyükannesi, kız kardeşi, kuzeni ya da en yakın arkadaşı bile bu tür bir istismarın hedefi olabilir. Bu kabul edilemez ve durdurulmalıdır.

Neden Müdahale Edilmeli?

• Görüntülerin rıza olmadan dijital olarak manipüle edilmesi ve deepfake içeriklerin üretilmesi; kişisel hakların, mahremiyetin ve güvenliğin açık bir ihlalidir.
• ABD’de yürürlükte olan TAKE IT DOWN Act, rızasız üretilen veya paylaşılan cinsel içeriklerin suç olduğunu açıkça tanımlamakta ve platformları bu içerikleri derhal kaldırmakla sorumlu tutmaktadır.
• Çocuklara ait cinsel içeriklerin üretilmesi ve yayılması kesinlikle suçtur.

Talebimiz
X/Twitter ve Grok AI bu duruma artık kayıtsız kalmamalıdır. Gerekli güvenlik ve denetim mekanizmaları derhal hayata geçirilmeli; zararlı içeriklerin üretimi ve yayılması engellenmeli ve sorumlular hesap vermelidir.