Otoritas Inggris Selidiki X terkait Skandal CSAM dan Konten Deepfake Grok

LONDON, DISWAYMALANG.ID–Regulator media Inggris Ofcom mengusut platform media sosial X terkait dugaan penyebaran konten illegal melalui chatbot kecerdasan buatan, Grok. Investigasi dilakukan untuk menilai kepatuhan X dalam melindungi pengguna di Inggris dari konten yang melanggar hukum. Termasuk materi pelecehan seksual terhadap anak atau child sexual abuse material (CSAM) serta gambar intim nonkonsensual.

Ofcom mengungkapkan ada laporan serius mengenai penggunaan akun Grok di X. Pengguna yang tidak bertanggung jawab dapat membuat dan menyebarkan gambar orang tanpa busana. Serta citra seksual anak yang berpotensi melanggar hukum pidana Inggris.

Grok mendapatkan gelombang reaksi dari regulator media di sejumlah negara termasuk Inggris, Malaysia, Indonesia, dan India. --

Penyelidikan itu akan memfokuskan pada seberapa jauh X menerapkan langkah pencegahan. Supaya pengguna di Inggris tidak terpapar konten ilegal prioritas. Termasuk CSAM dan gambar intim tanpa persetujuan. Selain itu, Ofcom juga menilai kecepatan platform dalam menghapus konten ilegal setelah diketahui.

BACA JUGA:Akhirnya Komdigi Blokir Grok AI di Platform X, Berisiko Tebar Pornografi Deepfake

Selain perlindungan pengguna dewasa, Ofcom juga menyoroti aspek perlindungan anak. Regulator menilai apakah X telah melakukan penilaian risiko terhadap dampak platform bagi anak-anak. Juga sejauh mana mereka menerapkan sistem verifikasi usia yang efektif untuk mencegah akses ke konten pornografi.

Ofcom mengonfirmasi telah menghubungi X pada 5 Januari 2026. Regulator tersebut memberi tenggat tanggapan sebelum 9 Januari. Kini, Ofcom melakukan penilaian cepat terhadap bukti yang tersedia. Serta meminta klarifikasi mendesak kepada xAI terkait langkah perlindungan pengguna.

“Ada laporan tentang penggunaan Grok untuk membuat dan menyebarkan gambar intim ilegal. Serta materi pelecehan seksual anak. Itu sangat memprihatinkan,” ujar juru bicara Ofcom, dilansir Endgadget.

BACA JUGA:Elon Musk Ancam Konsekuensi bagi Pengguna Ilegal Deepfake Bikini Grok AI

Regulator itu menegaskan bahwa platform digital wajib melindungi masyarakat Inggris dari konten ilegal. Ofcom pun tidak akan ragu bertindak jika ditemukan kelalaian. Terutama yang berisiko membahayakan anak-anak.

Jika terbukti melanggar hukum, Ofcom berwenang memerintahkan X mengambil langkah korektif. Seperti mengenakan denda hingga 18 juta poundsterling atau 10 persen pendapatan global. Serta mengajukan pemblokiran layanan di Inggris.

Sementara itu, Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok. Karena dinilai tidak memiliki pengamanan memadai terhadap pembuatan deepfake seksual eksplisit.

BACA JUGA:Komdigi Ancam Blokir Grok AI dan X Jika Tak Patuh Aturan karena Marak Manipulasi Konten Asusila

Pemerintah Indonesia menyebut konten tersebut sebagai pelanggaran serius terhadap hak asasi, martabat, dan keamanan warga di ruang digital.

Regulator di India dan Uni Eropa juga dilaporkan tengah menyelidiki X terkait isu serupa.  

Sumber: harian.disway.id