Pemerintah Filipina telah memerintahkan penutupan AI chatbot Grok di bawah Undang-Undang Pencegahan Kejahatan Siber, bergabung dengan Malaysia dan Indonesia dalam membatasi akses atas kekhawatiran bahwa alat tersebut telah digunakan untuk membuat deepfakes seksual non-consensual dari wanita dan anak di bawah umur.
Pihak berwenang mengatakan bahwa akses terbuka Grok memungkinkan bahkan anak di bawah umur untuk menggunakan alat tersebut dan membuat konten pornografi, mendorong pemerintah untuk melangkah dengan pemblokiran. Komisi Telekomunikasi Nasional Filipina telah memerintahkan perusahaan telekomunikasi lokal untuk memblokir dan membatasi akses ke Grok dalam waktu 24 jam setelah pengumuman.
Pembatasan akan tetap berlaku hingga Grok, yang dimiliki oleh Elon Musk, mematuhi kebijakan penggunaan internet yang adil Filipina dan membuktikan dapat mencegah penciptaan dan distribusi konten non-consensual.
Pembatasan regional ketika X meluncurkan perlindungan
Indonesia merupakan negara Asia Tenggara pertama yang memblokir akses ke Grok, menyusul laporan bahwa alat AI telah digunakan untuk membuat deepfakes seksual dari wanita dan anggota grup gadis JKT48. Pada tanggal 10 Januari, Kementerian Komunikasi dan Informatika mengumumkan penangguhan sementara dan memerintahkan penyedia layanan internet untuk membatasi akses untuk melindungi wanita, anak-anak, dan pengguna lain dari konten pornografi yang dihasilkan AI.
Malaysia menyusul pada tanggal 11 Januari, ketika Kementerian Komunikasi dan Informatika mengumumkan pembatasan sementara, dengan mengutip kemampuan Grok untuk menghasilkan gambar yang ofensif dan dimanipulasi, termasuk kasus di mana jilbab dihapus secara digital dari foto wanita Muslim.
Platform media sosial X meluncurkan pembatasan baru pada tanggal 14 Januari sebagai respons terhadap kekhawatiran bahwa Grok dapat digunakan untuk membuat gambar yang merugikan ini.
“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dengan pakaian minim, seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,” tulis X dalam sebuah artikel di akun ‘Safety’-nya.
Jonathan Lewis, direktur manajemen X di Inggris, sebelumnya mengatakan bahwa aplikasi tersebut telah menonaktifkan fitur ‘membuka pakaian’ sepenuhnya. “Platform X telah dibatasi untuk tidak lagi mengizinkan pengeditan gambar orang sungguhan dengan pakaian minim,” kata Lewis. “Kami juga melaporkan semua akun ini kepada otoritas penegak hukum yang relevan, sesuai kebutuhan.”
Di bawah perubahan tersebut, kemampuan untuk mengedit foto di Grok atau X tetap tersedia hanya untuk pelanggan berbayar tetapi dibatasi untuk modifikasi yang bersifat baik seperti menyesuaikan warna pakaian atau gaya rambut. Lewis menambahkan bahwa perubahan ini sebagai bagian dari serangkaian kontrol keamanan yang lebih luas. Sebagai tanggapan atas kekhawatiran keselamatan digital di platform tersebut, Inggris dan California meluncurkan penyelidikan pada bulan Januari terkait penanganan konten deepfake dan materi kejahatan seksual anak oleh X.
Apa yang sebenarnya dibatasi dan bagaimana pengguna menghindarinya
Meskipun pembatasan, pengguna melaporkan bahwa Grok masih dapat diakses di Filipina, Malaysia, dan Indonesia menggunakan VPN dan trik teknis lainnya.
Akun X sendiri dari Grok tetap merespons pengguna dari Malaysia beberapa hari setelah pemblokiran. “Masih di sini! Blokir DNS di Malaysia cukup ringan—mudah dilewati dengan VPN atau tweak DNS,” kata chatbot tersebut di X, sesuai dengan laporan dari The Guardian.
Selain itu, chatbot tetap dapat diakses oleh beberapa pengguna di Malaysia dan Indonesia, di mana itu muncul sebagai akun @Grok atau sebagai asisten AI terintegrasi untuk pelanggan Premium X.
Di Filipina, pihak berwenang tidak menyebutkan apakah asisten di aplikasi Grok di X juga akan dinonaktifkan. Renato Paraiso, kepala Pusat Penyelidikan dan Koordinasi Kejahatan Siber Filipina, mengatakan kepada Bloomberg bahwa mereka menyadari chatbot masih dapat diakses di X, mencatat bahwa pemerintah hanya dapat membatasi akses ke situs web.
Di luar Asia Tenggara, otoritas di Korea Selatan, Inggris, dan beberapa negara di Uni Eropa, termasuk Prancis telah menangguhkan kemampuan pengeditan gambar Grok atau memerintahkan akses dinonaktifkan ketika “melepas pakaian digital” melanggar hukum keamanan online lokal.
Gelombang pembatasan terkini terhadap Grok mengikuti kekhawatiran yang semakin meningkat tentang keselamatan pengguna dan kurangnya kepatuhan chatbot AI. Pada Februari 2025, Komisi Perlindungan Informasi Pribadi Korea Selatan memerintahkan chatbot Tiongkok DeepSeek untuk menghentikan unduhan aplikasi baru di negara tersebut atas dugaan pelanggaran privasi. Pada bulan yang sama, otoritas di Australia dan Taiwan menutup DeepSeek dari semua perangkat pemerintah atas masalah keamanan nasional.
