Diduga Sebar Konten Asusila, Kemkomdigi Bakal Tindak Grok AI

PENUTUR.COM — Kementerian Komunikasi dan Informatika (Kemkominfo) mengambil langkah tegas terkait dugaan penyalahgunaan kecerdasan buatan (AI) Grok di platform X.

AI tersebut dilaporkan memproduksi konten asusila, termasuk manipulasi foto pribadi tanpa izin.

Kemkominfo menemukan indikasi bahwa Grok AI belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan penyebaran konten pornografi yang menggunakan foto warga Indonesia.

“Temuan awal menunjukkan belum ada pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” kata Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander Sabar, Rabu (7/1).

Menurutnya, kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri.

Manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, tetapi juga perampasan kendali individu atas identitas visualnya.

Hal ini dapat menimbulkan kerugian psikologis, sosial, dan reputasi.

Kemkominfo kini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan mekanisme perlindungan yang efektif.

Langkah-langkah yang diambil meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander Sabar.

Kemkominfo mengingatkan seluruh PSE yang beroperasi di Indonesia untuk patuh terhadap peraturan perundang-undangan.

Sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X dapat dijatuhkan jika ditemukan ketidakpatuhan.

Penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai hukum yang berlaku.

Alexander Sabar menjelaskan, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407.