Indonesia Jadi Negara Pertama Blokir Grok AI karena Disalahgunakan untuk Buat Konten Pornografi

Jakarta, tvOnenews.com - Kementerian Komunikasi dan Digital (Kemkomdigi) resmi memblokir teknologi kecerdasan buatan atau AI, Grok buatan perusahaan Elon Musk.

Langkah ini membuat Indonesia menjadi negara pertama yang memblokir Grok karena telah disalahgunakan untuk konten pornografi berbasis video dan foto.

Menteri Komdigi Meutya Hafid menegaskan, praktik deepfake bermuatan seksual tanpa persetujuan adalah bentuk pelecehan seksual.

Dirinya pun menegaskan, hal tersebut merupakan pelanggaran serius terhadap hak asasi manusia termasuk martabat seorang warga negara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” katanya menegaskan.

Belakangan ini Grok atau AI yang terintegrasi dengan media social X menjadi sorotan karena disalahgunakan untuk membuat konten bermuatan pornografi.

Pengguna X menggunakan teknologi Grok untuk membuat foto orang lainnya tidak berpakaian atau menggunakan pakaian yang tidak senonoh.

Komdigi pun berkomitmen untuk melindungi masyarakat, khususnya perempuan dan anak dari risiko eksploitasi seksual.

Meutya menegaskan, ruang digital tidak boleh bebas hukum. Penyalahgunaan teknologi AI untuk membuat konten seksual tanpa konsensus adalah ancaman bagi keamanan public dan privasi.

Kebijakan pemutusan akses ini dilakukan berdasarkan kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum Indonesia. (ant/iwh)