JAKARTA, DISWAYMALANG.ID—Pemerintah memutuskan pemutusan akses sementara aplikasi Grok, chatbot kecerdasan artifisial milik platform X. Putusan ini diambil setelah ditemukan risiko penyebaran konten pornografi palsu berbasis teknologi deepfake di ruang digital.
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," kata Menteri Komunikasi dan Digital Meutya Hafid dalam keterangan resmi, Sabtu, 10 Januari 2026.
Selain memutus akses sementara, Komdigi juga telah meminta pihak platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok di Indonesia.
BACA JUGA:Komdigi Ancam Blokir Grok AI dan X Jika Tak Patuh Aturan karena Marak Manipulasi Konten Asusila
Pemutusan akses ini dilakukan berdasarkan kewenangan Komdigi yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Khususnya Pasal 9, yang mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan konten terlarang.
Sebelumnya, Komdigi telah menyoroti penggunaan Grok yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila berbasis foto nyata pengguna tanpa persetujuan.
BACA JUGA:Elon Musk Ancam Konsekuensi bagi Pengguna Ilegal Deepfake Bikini Grok AI
Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar mengungkapkan, Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto pribadi warga Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dikutip dari laman resmi Komdigi.
Komdigi menegaskan, langkah pemutusan akses ini bersifat sementara dan akan dievaluasi setelah platform X memberikan klarifikasi serta menunjukkan komitmen perbaikan sistem pengamanan konten berbasis kecerdasan artifisial. BACA JUGA:Sentuhan Gemini AI di Gmail Bikin Pengguna Lebih Produktif dan Mudah Kelola Email