TOPMEDIA – Indonesia resmi mencatatkan diri sebagai negara pertama di dunia yang menghentikan sementara akses ke Grok, aplikasi chatbot berbasis kecerdasan buatan (AI). Kebijakan ini diambil setelah ditemukan adanya penyalahgunaan teknologi Grok untuk membuat dan menyebarkan konten pornografi palsu berbasis deepfake.
Mengutip Infopublik.id, langkah tersebut dilakukan oleh Kementerian Komunikasi dan Digital (Kemkomdigi) sebagai bentuk perlindungan terhadap masyarakat, terutama perempuan dan anak-anak, dari ancaman eksploitasi seksual di ruang digital.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa pembuatan konten seksual deepfake tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia serta merendahkan martabat korban.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).
Menurut Meutya, dunia digital tidak boleh dibiarkan menjadi ruang tanpa aturan. Pemerintah memandang penyalahgunaan AI untuk menciptakan konten seksual nonkonsensual sebagai ancaman nyata bagi keamanan publik, privasi individu, serta nilai-nilai kemanusiaan.
Tak hanya memutus akses Grok, Kemkomdigi juga meminta pihak X selaku pengelola platform untuk segera memberikan penjelasan resmi dan bertanggung jawab atas dampak yang muncul dari penggunaan teknologi tersebut. Pemerintah akan melakukan evaluasi lanjutan berdasarkan komitmen perbaikan dan langkah mitigasi yang diajukan oleh penyelenggara sistem elektronik.
Pemutusan akses ini dilakukan sesuai kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Aturan tersebut mewajibkan platform digital memastikan layanannya tidak memuat, memfasilitasi, atau menyebarkan konten yang melanggar hukum Indonesia.
Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah sudah tepat dan patut diapresiasi. Ia menilai Indonesia bisa menjadi contoh global dalam mendorong operasional platform digital yang lebih aman dan bertanggung jawab.
“Kalau memang sudah terbukti menimbulkan ancaman, terutama bagi anak-anak dan perempuan, lalu tidak diblokir, siapa yang akan menanggung kerusakan mental dan moral yang ditimbulkan?” ujar Alfons saat dihubungi, Minggu (11/1/2026).
Ia menambahkan bahwa penyedia platform digital tidak bisa hanya berfokus pada keuntungan bisnis tanpa memperhatikan aspek moral, etika, dan hukum di negara tempat mereka beroperasi.
“Nilai-nilai moral tiap negara berbeda. Apa yang mungkin dianggap wajar di negara lain, belum tentu sesuai di Indonesia. Platform global tidak bisa menerapkan satu standar untuk seluruh dunia,” tegasnya.
Alfons juga membandingkan Grok dengan sejumlah platform AI lain yang menurutnya telah menerapkan sistem pengamanan lebih ketat terhadap konten sensitif, sehingga tidak mudah disalahgunakan hanya dengan perintah sederhana.
Pemblokiran sementara Grok, chatbot milik xAI yang dikembangkan oleh Elon Musk, menandai babak baru pengawasan teknologi kecerdasan buatan di Indonesia. Kebijakan ini menegaskan bahwa perkembangan inovasi harus sejalan dengan tanggung jawab sosial serta perlindungan hak-hak dasar warga negara. (*)
