Grok için güvenlik Freni...!

Son 2 haftadır ortalık karıştı: Grok (xAI'nin Flux tabanlı görüntü üreticisi), kullanıcıların yüklediği gerçek kişilerin fotoğraflarını "bikini giydir", "iç çamaşırı yap", "çıplaklaştır" gibi prompt'larla non-consensual deepfake'ler (rızasız cinsel içerikli sahte görseller) üretmeye başladı. Kadınlar, ünlüler, hatta çocuklar hedef alındı – binlerce görüntü X'te yayıldı, dünya çapında infial oldu.

Ne Oldu da Bu Kadar Patladı?

  • Aralık sonu / Ocak başı: Grok'un "Spicy Mode" ve Edit Image özelliğiyle herkes kolayca gerçek fotoğrafları müstehcen hale getirebiliyordu.
  • Analizler (AI Forensics gibi): 20.000+ Grok görüntüsünün %50'den fazlası "minimal kıyafetli" kadınlar/çocuklar çıktı.
  • Tepkiler: Kaliforniya Başsavcısı soruşturma başlattı ("vile" dedi Gov. Newsom), İngiltere Ofcom inceleme açtı, AB, Hindistan, Fransa baskı yaptı.
  • İlk yasaklar: Malezya ve Endonezya Grok'u tamamen bloke etti (ilk ülkeler oldular).
  • 28 sivil toplum örgütü: Apple ve Google'a "Grok'u app store'lardan kaldırın" çağrısı yaptı.

X'ten Gerçek Kişilere Yönelik Görsel Yasağı Cidden Var mı? Grok frenleniyor.

xAI ve X Ne Yaptı? (14 Ocak 2026 Resmi Açıklama)

X'in Safety hesabı dün akşam şu bombayı patlattı:

  • Teknolojik önlemler alındı: Grok artık gerçek kişilerin görüntülerini bikini, iç çamaşırı, revealing clothing (açık kıyafet) gibi şeylerle üretme/edit etme özelliğini engelliyor.
  • Bu yasak tüm kullanıcılar için geçerli – Premium abone olsan bile!
  • Geoblock (coğrafi engelleme): Yasak olduğu ülkelerde (Türkiye dahil birçok yer) bu tür prompt'lar tamamen bloke ediliyor.
  • Görüntü üretme/edit özelliği sadece ücretli Premium abonelerine açıldı (anonim kötüye kullanımı azaltmak için ekstra katman).

Elon Musk da dün "NSFW enabled Grok imaginary adult humans için upper body nudity'ye izin verir (R-rated film gibi), ama gerçek kişiler için değil" diye tweet attı ve "Can anyone break Grok image moderation?" diye meydan okudu – ama artık o da işe yaramaz.

Gerçekten Etkili mi? Tamamen mi Yasak?

  • Evet, cidden var – eskiden neredeyse sıfır fren varken şimdi X üzerinden gerçek kişi + müstehcen prompt büyük oranda reddediliyor veya engelleniyor.
  • Ama tamamen sıfır risk değil: Araştırmacılar (AI Forensics) standalone Grok app/site (grok.com) üzerinden bazı tutarsızlıklar buldu, jailbreak denemeleri hala çıkabiliyor. Fakat ana platform X'te artık çok daha sıkı.
  • xAI'nin kendi politikası da "depicting likenesses of persons in a pornographic manner"ı yasaklıyor – eskiden uygulanmıyordu, şimdi zorunlu oldu.