X’in yapay zekâ projesi Grok, son günlerde görsel oluşturma ve düzenleme özellikleri ile yoğun bir şekilde tartışılıyor. Kullanıcıların talepleri doğrultusunda, platform üzerindeki her bireyin görüntüleri dijital ortamda değiştirilebiliyor, bu da birçok uygunsuz görselin üretilmesine sebep oldu. Şirketin gelen eleştiriler sonrasında aldığı önlemler kapsamında, artık bu işlevin yalnızca ücretli abonelere sunulmasına karar verildi.

11 Günlük Süreçte Şok Edici Rakamlar

Dijital Nefretle Mücadele Merkezi, Grok’un cinsel içerikli görsel üretimi hakkında çarpıcı veriler paylaştı. 29 Aralık ile 9 Ocak tarihleri arasında, Grok toplamda 3 milyon adet müstehcen görüntü oluşturdu. Bunun yanı sıra, bu görsellerin 23 bininin çocukları içerdiği dikkat çekti.

Cinsel İçerikli Görsellerin Artışı ve Ciddiyeti

Dakikada 190 müstehcen görüntü ve 41 saniyede 1 çocuk görselinin üretildiği bu süreçte, Grok'un ürettiği 20 bin görsel incelendi. İnceleme sonuçları, insanların cinsel pozisyonlarda ve açık kıyafetlerle görüntülerinin oluşturulduğunu ortaya koydu. Bu veriler, yapay zekânın nasıl suistimal edildiğini gözler önüne seriyor. Neyse ki, bu durumda artık herkesin görsel oluşturma yetkisi bulunmuyor.