Ofcom, X'i Grok yapay zeka aracıyla oluşturulan cinsel içerikli nedeniyle soruşturuyor

Birleşik Krallık denetleme kurumu yaptığı açıklamada, chatbot'un insanların soyunmuş görüntülerini ve "çocukların cinsel içerikli görüntülerini" oluşturmak ve paylaşmak için kullanıldığına dair "son derece endişe verici raporlar" olduğunu belirtti.

Eğer yasayı ihlal ettiği tespit edilirse, Ofcom, X şirketine dünya çapındaki gelirinin %10'una veya 18 milyon sterline kadar (hangisi daha büyükse) para cezası verebilir.

BBC, X şirketinden yorum almak için iletişime geçti. Elon Musk daha önce, diğer yapay zekâ platformlarının neden incelenmediğini sorgulayan bir gönderiye yanıt olarak, Birleşik Krallık hükümetinin "sansür için her türlü bahaneyi" aradığını söylemişti.

BBC, X şirketinde kadınların soyunup rızaları olmadan cinsel pozisyonlara sokulduğu dijital olarak değiştirilmiş birçok görüntü örneği gördü. Bir kadın, kendisiyle ilgili 100'den fazla cinsel içerikli görüntünün oluşturulduğunu söyledi.

Eğer X şirketi bu şartlara uymazsa, Ofcom, internet servis sağlayıcılarını İngiltere'deki siteye erişimi tamamen engellemeye zorlamak için mahkeme emri isteyebilir.

Teknoloji Bakanı Liz Kendall, BBC'ye yaptığı açıklamada, kurumun soruşturmasını memnuniyetle karşıladığını ve en kısa sürede tamamlanması gerektiğini söyledi.

"Ofcom'un bu soruşturmayı hızla tamamlaması hayati önem taşıyor çünkü kamuoyu - ve en önemlisi mağdurlar - herhangi bir gecikmeyi kabul etmeyecektir," dedi.

Kendall'ın selefi Peter Kyle, BBC Breakfast'a yaptığı açıklamada, Grok'un "uygun şekilde test edilmemiş" olmasının "dehşet verici" olduğunu söyledi.

"Dün, Auschwitz dışında bikinili kendi görüntüsünün yapay zeka tarafından oluşturulup internete yüklendiğini öğrenen Yahudi bir kadınla görüştüm ve bu beni mide bulantısı hissettirdi," dedi.

Ofcom şimdi, X şirketinin yasa dışı içeriğin farkına vardığında bunu hızla kaldırmada ve İngiltere'deki insanların bunu görmesini engellemek için "uygun adımlar" atmada başarısız olup olmadığını inceleyecek.

Açıklamada, bu tür yasa dışı içeriklerin "rıza dışı cinsel içerikli görüntüler" ve çocuk cinsel içerikli görüntüler içerdiği belirtildi.

Karar, Grok'un görüntü oluşturma özelliğine yönelik küresel tepkilerin ardından geldi; hem Malezya hem de Endonezya hafta sonu araca erişimi geçici olarak engellemişti.