Davacılar, Grok’ta kendilerinin bir yerlerden çalınan fotoğraflarıyla çırılçıplak, sahte porno görüntülerinin oluşturulduğunu ve bu deepfake malzemelerin çeşitli amaçlarla yayılıp kullanıldığını savundu. Şikâyetçiler, Elon Musk’ın sahibi olduğu, Grok’un bağlı bulunduğu xAI şirketi aleyhindeki davada hem tazminat hem de bu tür sahte görsellerin yasaklanmasını istiyorlar.

Kazanç uğruna

Bu, Grok’un bu yılın başında rızasız çıplak görüntüler üretmesinin ardından reşit olmayanlar tarafından açılan ilk dava olma özelliğini taşıyor. Davacıların avukatı Vanessa Baehr-Jones, “xAI, böylesine tehlikeli bir ürün yaratmanın sonuçlarını bilmesine rağmen, çocuklar dahil gerçek insanların cinsel istismarından kâr elde etmeyi seçti” dedi. Davacıların sahte porno görüntülerinin bir Discord sunucusuna yüklenip paylaşıldığı belirtildi. Tutuklanan bir şüphelinin telefonunda da xAI teknolojisiyle üretilmiş çocuk cinsel istismarı materyali bulundu.

‘Binlerce çocuğu kullandılar’

ABD’de yeni açılan dava, xAI’ın rızasız cinsel içerikli görüntüler oluşturması ve yaymasıyla ilgili Elon Musk’ın çocuklarından birinin annesinin açtığı bir dava ve Avrupa Birliği’nin soruşturması dahil birçok yasal işlem ve soruşturmaya eklendi. Merkezi İngiltere’de olan Dijital Nefretle Mücadele Merkezi’ndeki araştırmacılar, Grok’un ocak ayında iki hafta 3 milyon cinsel içerikli görüntü oluşturduğunu, bunların 23 bininde çocukların yer aldığını belirledi. xAI ocak ayında Grok’un fotoğraflarda insanları soyma özelliğini durdurmak için önlem alacağını açıklamıştı.