Grok Uygulaması Skandalı: Yapay Zeka Destekli Cinsel İçerik Üretimiyle İlgili Şok Edici Bulgular

Grok’un Cinsel İçerik Üretimi Hakkında Yeni Rakamlar Ortaya Çıktı 😱

xAI’nin geliştirdiği Grok adlı yapay zeka uygulamasının, gerçek kişilerin rızası olmadan cinsel içerikli görseller ürettiği yönündeki endişeler daha da büyüyor. Son yapılan araştırmalar, bu sorunun boyutlarını daha net ortaya koyuyor. Yaklaşık 11 günlük bir süre zarfında Grok’un, tahmini olarak 3 milyon cinsel içerikli görsel ürettiği ve bu görsellerin yaklaşık 23.000’inin çocuklara ait olduğu belirtiliyor.
Bu sayılar, olayın vahametini daha iyi anlamamızı sağlıyor. Yapılan hesaplamalara göre Grok, incelenen 11 günlük dönem boyunca dakikada ortalama 190 cinsel içerikli görsel üretmiş. Çocuklara yönelik cinsel içerikli görseller ise yaklaşık 41 saniyede bir üretilmiş.

Dijital Nefretle Mücadele Merkezi’nden Detaylı Rapor 📊

İngiltere merkezli Dijital Nefretle Mücadele Merkezi (CCDH), bu çarpıcı bulguları içeren detaylı bir rapor yayımladı. Raporun temelini, 29 Aralık ile 9 Ocak tarihleri arasında rastgele seçilen 20.000 Grok görseli oluşturuyor. CCDH, Grok’un bu dönemde ürettiği toplam 4.6 milyon görsel üzerinden bu tahminleri yaparak daha geniş bir perspektif sunmuş.
Araştırmada “cinsel içerikli görsel” tanımı oldukça geniş tutulmuş. Bu tanım, şu unsurları içeriyor:

• Bir kişinin cinsel pozisyonlarda, açılarda veya durumlarda fotogerçekçi tasvirleri.
• Bir kişinin iç çamaşırlı, mayo veya benzeri dekolte kıyafetlerle tasvir edilmesi.
• Cinsel sıvıları tasvir eden görseller.

CCDH, bu tahminleri yaparken görselin oluşturulması için verilen metin komutlarını dikkate almadığını belirtmiş. Bu nedenle, gerçek fotoğrafların rızasız cinsel içerikli versiyonları ile tamamen metin komutundan üretilen görseller arasında bir ayrım yapılmamış.

Uygulama Hâlâ Mağazalarda Yer Alıyor! 🍎 🤖

İşin daha da endişe verici yanı ise, bu tür görseller üretebilen Grok uygulamasının Apple App Store ve Google Play Store’da hala bulunabilmesi. Bu durum, söz konusu mağazaların politikalarına aykırı olmasına rağmen, uygulamaların kaldırılmadığı anlamına geliyor.
Birçok kadın örgütü ve ilerici savunuculuk sivil toplum kuruluşu, Apple ve Google’a bu konuda harekete geçmeleri yönünde çağrıda bulunan açık bir mektup yayımlamış olmalarına rağmen, şirketlerden henüz somut bir adım gelmediği görülüyor.

Grok’un Geliştirme Sürecindeki Kısıtlamalar ve Etkileri 🔎

Geçtiğimiz Ocak ayında xAI, Grok’un mevcut görselleri düzenleme yeteneğini sadece ücretli kullanıcılara açtı. Ancak bu adım sorunu çözmek yerine, bu özelliği “premium” bir hizmet haline getirdi. Birkaç gün sonra ise X platformu, Grok’un gerçek kişileri dijital olarak “soymasına” olanak tanıyan özelliği kısıtladı.
Ancak bu kısıtlamalar yalnızca X platformuyla sınırlı kaldı. Bağımsız Grok uygulamasının ise bu tür görseller üretmeye devam ettiği rapor ediliyor. Bu durum, teknoloji devlerinin bu konuda yeterli önlemi alıp almadığı sorusunu akıllara getiriyor.

Ünlü İsimler ve Çocuklar Hedef Alındı 😔

Raporda, Grok tarafından üretilen cinsel içerikli görseller arasında şeffaf bikiniler veya mikro bikiniler giymiş kişilerin tasvirlerinin bulunduğu belirtiliyor. Hatta bir örnekte, İsveç Başbakan Yardımcısı Ebba Busch’un bikini giymiş ve başında beyaz sıvı bulunan bir görselinden bahsediliyor.
Bunların yanı sıra, Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown ve Kamala Harris gibi birçok ünlü ismin de bu tür görsellerin hedefi olduğu ortaya konmuş.
Çocuklara yönelik cinsel içerikli görseller konusunda da durum oldukça üzücü. Bir örnekte, bir çocuğun okul öncesi selfie’sinin bikini giymiş bir hale dönüştürüldüğünden bahsediliyor. Diğer bir örnekte ise altı genç kızın mikro bikiniler içinde tasvir edildiği rapor edilmiş. CCDH’nin belirttiğine göre, bu tür paylaşımlardan bazılarının 15 Ocak itibarıyla hala X platformunda erişilebilir durumda olduğu tespit edilmiş.
Araştırmanın sonuçlarına göre, incelenen örneklemdeki çocuklara ait cinsel içerikli görsellerin %29’u hala X’te erişilebilir durumdaydı. Raporda ayrıca, görseller kaldırıldıktan sonra bile doğrudan URL’leri aracılığıyla erişilebilir olabildikleri de vurgulanıyor.
Bu gelişmeler, yapay zeka teknolojilerinin sorumlu kullanımı ve bu tür zararlı içeriklerin yayılmasını önlemek adına alınması gereken tedbirler hakkında ciddi bir tartışmayı da beraberinde getiriyor. Teknobirader.com olarak bu konudaki gelişmeleri yakından takip etmeye devam edeceğiz.

Siz Ne Düşünüyorsunuz? 🤔

Grok uygulamasının ürettiği bu tür görseller hakkında ne düşünüyorsunuz? Yapay zeka teknolojilerinin denetimi konusunda daha sıkı önlemler alınmalı mı? Apple ve Google gibi platformların bu tür uygulamalara izin vermesi hakkında neler söylemek istersiniz? Görüşlerinizi aşağıdaki yorumlar bölümünde bizimle paylaşın, tartışalım!
Anahtar Kelimeler: Grok, xAI, yapay zeka, cinsel içerik, çocuk istismarı, yapay zeka etiği, teknoloji, CCDH, Apple App Store, Google Play Store