Elon Musk'ın yapay zeka şirketi xAI tarafından geliştirilen Grok, çocukların cinsel istismarına ilişkin içeriklerin üretildiği iddialarıyla yeni bir dava sürecine dahil oldu. Wyoming'de yaşayan bir kadın, çocukluk fotoğraflarının Grok kullanılarak sahte cinsel içerikli görüntülere dönüştürüldüğünü belirterek dava açtı.

Dava dosyasında "Jane Doe 4" olarak geçen kadın, üvey babasının Grok aracılığıyla çocukluk fotoğraflarından 7 binden fazla sahte cinsel içerikli görüntü oluşturduğunu iddia etti. Bu içerikler arasında, 11 yaşındayken çekilmiş bir fotoğrafın yapay zeka ile cinsel içerikli hale getirildiği de yer alıyor. İddialara göre, üvey baba bu görüntüleri internet üzerinden başkalarıyla paylaştı.

Polis, çocuk istismarı içerikleri nedeniyle üvey babanın elektronik cihazları üzerinde operasyon düzenledi. Operasyondan iki gün sonra üvey baba aracında ölü bulundu. Yetkililer, olayın intihar olabileceğini değerlendiriyor.

"Jane Doe 4"'ün davaya katılmasıyla birlikte xAI'a açılan davalardaki mağdur sayısı dörde yükseldi. İlk dava Tennessee'de yaşayan üç genç tarafından açılmıştı. Bu davada da Grok'un benzer sahte cinsel içerikli görüntüler oluşturmak için kullanıldığı ileri sürülmüştü. Davacıların avukatları, davanın benzer mağdurları kapsayacak toplu bir dava haline gelebileceğini belirtiyor.

Grok'un çocuk istismarı içerikleri üretmekte kullanıldığı iddiaları, xAI'nın karşılaştığı tek hukuki sorun değil. California Başsavcısı Rob Bonta, Ocak ayında xAI hakkında bir soruşturma başlattı. Soruşturma, Grok'un kadınlar ve çocukların rızası olmadan oluşturulan sahte çıplak görüntüleri üretmek için kullanıldığı iddialarını içeriyor.

Aynı dönemde Avrupa Birliği de X platformu hakkında inceleme başlattı. AB, yapay zeka tarafından oluşturulan çocuk istismarı içeriklerinin yayılmasını önlemek için yeterli önlemlerin alınıp alınmadığını araştırıyor.

xAI, dava ve soruşturmalarla ilgili henüz resmi bir açıklama yapmadı. Şirketten gelecek yanıtlar, davanın ilerleyen süreçlerine eklenecek.

Grok'un yapay zeka ile oluşturulan cinsel içeriklerde kullanılması, üretken yapay zeka araçlarının kötüye kullanımını engelleme sorumluluğu ve güvenlik önlemlerinin yeterliliği konusundaki tartışmaları gündemde tutmaya devam ediyor.