TOPMEDIA – Bareskrim Polri menegaskan bahwa praktik manipulasi foto pribadi menjadi konten asusila dengan memanfaatkan fitur Grok AI di platform media sosial X dapat dikualifikasikan sebagai tindak pidana. Aparat kepolisian kini mengarahkan penyelidikan pada dugaan penyalahgunaan teknologi kecerdasan buatan tersebut.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menjelaskan bahwa pengeditan foto menggunakan artificial intelligence tanpa persetujuan pemiliknya berpotensi masuk ke ranah pidana jika terbukti sebagai manipulasi data elektronik.
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI. Karena itu memang kita sedang melakukan penyelidikan ke arah sana,” kata Himawan kepada media, Rabu (7/1/2026).
Ia menambahkan, penegakan hukum dapat dilakukan apabila terdapat bukti yang kuat bahwa foto seseorang telah diubah oleh pihak lain tanpa izin.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” ucapnya.
Di sisi lain, Kementerian Komunikasi dan Digital (Kemkomdigi) juga melakukan pendalaman terkait dugaan penyalahgunaan fitur Grok AI untuk memproduksi dan menyebarkan konten asusila. Langkah ini diambil menyusul beredarnya konten manipulasi foto pribadi yang bersifat sensitif di platform X.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan masih lemahnya pengaturan pencegahan pada fitur tersebut.
“Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia,” ujarnya dalam keterangan pers.
Menurut Alexander, kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri, terutama ketika foto seseorang dimanipulasi atau disebarkan tanpa persetujuan yang sah.
“Kemkomdigi menilai, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, tetapi bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi,” tutur dia.
Lebih lanjut, Alexander mengatakan Kemkomdigi saat ini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) guna memastikan tersedianya mekanisme perlindungan yang efektif. Pemerintah juga mengingatkan seluruh PSE yang beroperasi di Indonesia agar patuh terhadap peraturan perundang-undangan yang berlaku.
“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X,” pungkasnya. (*)
