TABLOIDELEMEN.com – Kementerian Komunikasi dan Digital (Kemkomdigi) merespons cepat dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X.
Teknologi tersebut terindikasi memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa persetujuan pemilik sah.
Langkah ini menjadi prioritas pemerintah guna menjaga keamanan ruang digital nasional.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan bahwa penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit untuk mencegah distribusi konten pornografi berbasis foto nyata.
Lemahnya sistem moderasi tersebut berpotensi melanggar hak privasi dan hak atas citra diri warga Indonesia.
Alexander menilai kondisi ini sangat berisiko karena memudahkan pihak tidak bertanggung jawab mengeksploitasi identitas visual seseorang melalui manipulasi digital.
“Temuan kami menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah penyebaran konten pornografi berbasis foto pribadi. Hal ini mengancam privasi dan hak citra diri warga secara serius,” tegas Alexander
Kemkomdigi memandang manipulasi deepfake bukan sekadar masalah kesusilaan, melainkan bentuk perampasan kendali individu yang merusak reputasi serta kondisi psikologis korban.
Ancaman Sanksi dan Pidana
Menanggapi situasi tersebut, Kemkomdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (SE) untuk memperkuat sistem moderasi konten.
Alexander mewajibkan seluruh PSE memastikan teknologi mereka tidak menjadi sarana eksploitasi seksual maupun perusakan martabat manusia.
Pemerintah menuntut prosedur penanganan cepat atas setiap laporan pelanggaran privasi yang masuk ke platform mereka.
Pemerintah juga memberikan peringatan keras bahwa seluruh PSE yang beroperasi di wilayah Indonesia wajib patuh pada hukum nasional.
“Apabila pengelola platform bersikap tidak kooperatif, Kemkomdigi memiliki kewenangan menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X secara permanen,” katanya.
Tindakan penyebaran konten manipulatif ini kini memiliki payung hukum yang lebih ketat. Sejak 2 Januari 2026, Undang-Undang Nomor 1 Tahun 2023 tentang KUHP resmi mengatur konten pornografi melalui Pasal 172 dan Pasal 407.
Pelaku yang memproduksi atau menyebarkan konten asusila terancam pidana penjara minimal enam bulan hingga maksimal sepuluh tahun, atau denda sesuai ketentuan yang berlaku.
Alexander menambahkan bahwa masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat segera menempuh upaya hukum.
Korban dapat melaporkan kejadian tersebut kepada aparat penegak hukum atau melalui kanal pengaduan resmi Kemkomdigi.
Pemerintah mengimbau publik agar menggunakan teknologi akal imitasi secara bertanggung jawab dan tetap menghormati hak privasi sesama pengguna di ruang siber.
Meletakkan literasi digital menjadi urgensi, sebagai upaya transformasi untuk menghasilkan talenta digital dan menjadi rujukan informasi yang ramah anak, aman tanpa konten negatif.
Baca update artikel lainnya di Google News
