xAI tarafından geliştirilen yapay zekâ modeli Grok, cinsel içerikli ve rıza dışı yapay zekâ görüntülerine yönelik artan tepkilerin ardından yeni bir yasakla karşı karşıya kaldı. Alınan karara göre Grok, artık gerçek kişilerin bikinili ya da benzeri açık giysilerle oluşturulmuş görsellerini üretemeyecek.
Dijital haklar, çocuk güvenliği ve kadın hakları alanında faaliyet gösteren kuruluşlardan oluşan bir koalisyonun Apple’a çağrıda bulunmasının hemen ardından açıklama yapan xAI, söz konusu kısıtlamanın tüm kullanıcılar için geçerli olduğunu duyurdu. Buna göre ücretli aboneler de dahil olmak üzere hiçbir kullanıcı gerçek kişilere ait bikini, iç çamaşırı veya benzeri içeriklerde görsel oluşturamayacak.
Soruşturmalar ve Tepkiler Peş Peşe Geldi
Karar, Kaliforniya Başsavcısı Rob Bonta’nın, rıza dışı deepfake görüntülerin üretilmesi nedeniyle xAI hakkında soruşturma başlatıldığını açıklamasının ardından geldi. Aynı süreçte Kaliforniya Valisi Gavin Newsom, rızasız cinsel içerik üreten yapay zekâ uygulamalarını sert sözlerle eleştirdi.
Öte yandan son haftalarda Hindistan, Malezya, Endonezya, İrlanda, İngiltere, Fransa ve Avustralya’da Grok’a yönelik incelemeler başlatıldığı bildirildi. Endonezya ve Malezya ise uygulamaya geçici erişim engeli getirdi. Avrupa’da da European Commission tarafından sürecin yakından takip edildiği açıklandı.
ABD’li Senatörlerden Uygulama Mağazalarına Çağrı
ABD’de üç Demokrat senatör, rızasız cinsel içerik üretimini engelleyecek düzenlemeler yapılana kadar X ve Grok uygulamalarının Apple App Store ve Google Play Store’dan kaldırılması çağrısında bulundu.
Kısıtlamalara Rağmen Açıklar Var
Yeni düzenlemelere rağmen, Grok üzerinden yapılan bazı aramalarda kullanıcıların kısıtlamaları aşmaya çalıştığı ve kısmen başarılı olduğu iddia ediliyor. Ücretsiz kullanıcıların görüntü oluşturma özelliklerine erişemediği, bu işlemlerin yalnızca doğrulanmış Premium hesaplarla sınırlı olduğu yönünde uyarılar gösteriliyor.
Yetkililer, Grok ve benzeri yapay zekâ sistemlerinin daha sıkı denetim altına alınması gerektiğini vurgularken, platformların önümüzdeki dönemde ek güvenlik önlemleri almak zorunda kalabileceği değerlendiriliyor.
