Malaysia and Indonesia Temporarily Block Grok Over Sexualized AI Images
KUALA LUMPUR, MALAYSIA — Malaysia dan Indonesia menjadi negara pertama yang untuk sementara memblokir akses ke Grok , chatbot AI yang dikembangkan oleh xAI milik Elon Musk . Keputusan ini menyusul kekhawatiran tentang penggunaan alat tersebut untuk membuat kabarmalaysia.com gambar yang tidak berdasarkan persetujuan, eksplisit secara seksual, dan dimanipulasi, termasuk gambar perempuan dan anak di bawah umur. Langkah ini menyoroti tantangan yang dihadapi regulator dalam mengatur teknologi AI yang berkembang pesat dan mencegah potensi penyalahgunaannya yang serius.
Tindakan Regulasi dan Alasannya
Regulator di kedua negara tersebut menemukan bahwa kontrol yang ada oleh xAI tidak cukup untuk mencegah pembuatan dan penyebaran konten pornografi palsu.
- Malaysia: Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengeluarkan pembatasan sementara setelah permintaan resmi untuk pengamanan yang lebih kuat ditanggapi dengan respons yang bergantung pada pelaporan pengguna, yang dianggap tidak memadai oleh pihak berwenang. MCMC memandang pembatasan ini sebagai “langkah pencegahan dan proporsional” sampai pengamanan yang efektif diterapkan untuk mematuhi hukum Malaysia. Pembuatan dan transmisi konten ini merupakan pelanggaran berdasarkan hukum Malaysia, khususnya Undang-Undang Komunikasi dan Multimedia 1998, yang melarang transmisi konten yang sangat menyinggung atau tidak senonoh.
- Indonesia: Pemerintah Indonesia juga menangguhkan akses sementara. Menteri Komunikasi dan Digital menyatakan bahwa deepfake seksual tanpa persetujuan merupakan “pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital” dan merupakan bentuk “kekerasan berbasis digital”. Temuan awal menunjukkan Grok tidak memiliki pengamanan yang efektif untuk mencegah bahaya tersebut.
Pengawasan Global dan Tanggapan Perusahaan
Pemblokiran ini terjadi di tengah meningkatnya pengawasan terhadap Grok di wilayah lain seperti Uni Eropa, Inggris Raya, India, dan Prancis.
- Investigasi Inggris: Badan pengawas media Inggris, Ofcom, sedang menyelidiki apakah Grok mematuhi kewajibannya untuk melindungi masyarakat dari konten ilegal, yang dapat berujung pada denda atau perintah pengadilan.
- Tindakan xAI: xAI baru-baru ini membatasi pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar guna mengatasi celah keamanan. Namun, para kritikus berpendapat bahwa ini tidak cukup.
- Komentar Musk: Elon Musk menyatakan bahwa pengguna yang membuat konten ilegal melalui Grok akan menghadapi konsekuensi yang sama seperti jika mereka mengunggahnya langsung ke platform X. Sebuah email yang meminta komentar dari xAI dilaporkan menerima balasan otomatis: “Legacy Media Berbohong”.
Pemblokiran sementara ini menyoroti perlunya regulasi AI yang kuat untuk mencegah penyalahgunaan teknologi canggih secara global.
Apakah Anda ingin mengetahui lebih lanjut tentang bagaimana negara lain menangani kontroversi Grok ?