Endonezya İletişim Bakanlığı, son dönemde yapay zeka platformu Grok aracılığıyla rızasız üretilen sahte cinsel içerikli görüntülerdeki artış karşısında sert önlemler alacağını duyurdu. Jakarta Globe gazetesinin haberine göre, bakanlık yaptığı açıklamada, bu durumun vatandaşların güvenliğini ciddi şekilde tehdit ettiğini vurguladı.
Grok'ta Güvenlik Mekanizması Eksikliği Tespit Edildi
Bakanlıktan yapılan resmi açıklamada, hükümetin yaptığı değerlendirmeler sonucunda Grok platformunda bu tür uygunsuz ve zararlı görsellerin üretilmesini engelleyecek yeterli mekanizmaların bulunmadığının tespit edildiği belirtildi. Bu durumun, kişilerin mahremiyetini ihlal ettiği ve onur kırıcı sonuçlar doğurduğu kaydedildi.
Açıklamada, tüm teknoloji şirketlerine ülkenin yasalarına uyma çağrısı yapıldı. Yasaların gözetilmemesi halinde idari yaptırımlar uygulanacağı ve hatta Grok ile onun bağlı olduğu X platformuna erişimin tamamen yasaklanabileceği konusunda net bir uyarıda bulunuldu.
Bakanlık, "Tüm elektronik sistem operatörleri, sundukları teknolojinin gizlilik ihlallerine, cinsel istismara veya kişilerin onurunun zedelenmesine yol açacak bir platforma dönüşmemesini sağlamakla yükümlüdür." ifadelerini kullandı.
Yeni Ceza Kanunu ile Ağır Müeyyideler Geliyor
Endonezya'da 2 Ocak'ta yürürlüğe giren yeni ceza kanunu, bu tür olaylara karşı caydırıcı hükümler içeriyor. Kanuna göre, pornografik materyal üretimi ve dağıtımı suçundan 10 yıla kadar hapis cezası verilebiliyor. Suçlular ayrıca bazı durumlarda ağır para cezalarına da çarptırılabiliyor.
Uluslararası Tepkiler Büyüyor
Grok'a yönelik tepkiler Endonezya ile sınırlı değil. X platformunda, kullanıcıların Grok'tan ünlü veya sıradan kişilerin fotoğraflarını kullanarak sahte cinsel içerikler üretmesini istediği bir akım, küresel endişeyi artırdı.
X'in sahibi Elon Musk, 3 Ocak'ta yaptığı açıklamada, "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir." dese de bu açıklama tepkileri dindirmedi.
Avrupa Birliği Komisyonu, 5 Ocak'ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıkladı. İngiltere ise 6 Ocak'ta yaptığı açıklamada, "kadınları ve kız çocuklarını orantısız şekilde hedef alan bu aşağılayıcı ve onur kırıcı görüntülerin yayılmasına izin veremeyeceklerini" duyurdu.
Malezya, 3 Ocak'ta X'in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğu olduğunu vurgularken, Hindistan da geçen hafta X'e konu hakkında kapsamlı bir inceleme yapma talimatı verdi.
Olay, yapay zeka teknolojilerinin hızla yaygınlaşmasıyla birlikte dijital platformların içerik denetimi ve etik sorumlulukları konusundaki küresel tartışmayı yeniden alevlendirdi.
