Menteri Indonesia mengatakan deepfake merupakan ‘pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga secara online.’
Indonesia telah menjadi negara pertama di dunia yang memblokir chatbot Grok milik Elon Musk karena risiko konten pornografi palsu yang dihasilkan oleh kecerdasan buatan (AI).
Menteri komunikasi dan urusan digital negara tersebut mengatakan pada hari Sabtu bahwa “praktik deepfakes seksual tanpa persetujuan” merupakan “pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital.”
Untuk melindungi perempuan, anak-anak, dan masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan, pemerintah … sementara ini memblokir akses ke aplikasi Grok,” kata Meutya Hafid dalam sebuah pernyataan.
Tindakan ini dilakukan sehari setelah Grok membatasi fitur generasi dan pengeditan gambar di platform media sosial milik Musk X kepada pelanggan berbayar saat mencoba meredam kritik yang semakin meningkat terhadap deepfakes.
Musk telah diancam dengan denda karena beberapa negara secara terbuka menolak Grok, yang memungkinkan pengguna untuk mengubah gambar online untuk menghilangkan pakaian subjek.
Miliarder tersebut telah mengatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama dengan mengunggah materi tersebut secara langsung.
Namun pejabat Eropa dan aktivis teknologi mengecam langkah minggu ini untuk membatasi fitur alat kecerdasan buatan hanya kepada pelanggan berbayar di X, mengatakan hal ini gagal menangani kekhawatiran mereka.
Kantor Perdana Menteri Inggris Keir Starmer menyebut langkah tersebut “merendahkan” korban dan “bukan solusi.”
“Itu hanya menjadikan fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium,” kata juru bicara Downing Street pada hari Jumat. “Ini merendahkan korban misogini dan kekerasan seksual.”
Kementerian budaya dan urusan digital Indonesia mengatakan pada hari Sabtu bahwa mereka telah memanggil pejabat X untuk membahas masalah tersebut.
Negara ini, yang menjadi rumah bagi 285 juta orang, memiliki aturan ketat yang melarang berbagi konten online yang dianggap cabul.
