RI News Portal. Kuala Lumpur, 12 Januari 2026 – Indonesia dan Malaysia telah menjadi negara pertama di dunia yang memberlakukan pembatasan akses terhadap Grok, chatbot kecerdasan buatan (AI) generatif buatan xAI milik Elon Musk. Langkah ini diambil sebagai respons terhadap maraknya penyalahgunaan teknologi tersebut untuk menghasilkan konten gambar seksual eksplisit tanpa persetujuan, termasuk deepfake yang menargetkan perempuan dan anak di bawah umur.
Pemblokiran sementara ini mencerminkan kekhawatiran mendalam mengenai kegagalan mekanisme pengamanan internal dalam mencegah penyebaran konten berbahaya. Berbeda dari pendekatan reaktif yang sering diterapkan di negara-negara Barat, keputusan kedua negara Asia Tenggara ini menunjukkan orientasi proaktif dalam melindungi kerentanan sosial di ruang digital, khususnya di masyarakat dengan norma budaya dan agama yang ketat terhadap konten pornografi.
Grok, yang diluncurkan pada 2023, dikenal karena kemampuannya menghasilkan gambar realistis melalui fitur AI generatif. Namun, dalam beberapa pekan terakhir, alat ini dikritik karena memungkinkan pengguna menciptakan manipulasi visual yang melanggar privasi, seperti penggambaran individu nyata dalam pose seksual tanpa izin. Temuan awal dari otoritas Indonesia menunjukkan bahwa tidak ada filter efektif yang menghentikan pembuatan konten semacam itu berdasarkan foto pribadi warga.
Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, menyatakan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran berat terhadap hak asasi manusia dan martabat individu. Serupa, Komisi Komunikasi dan Multimedia Malaysia menilai respons dari pengembang lebih mengandalkan mekanisme pelaporan pengguna ketimbang pencegahan struktural, sehingga dianggap tidak memadai.
Dari perspektif etika AI, kasus ini menyoroti paradoks dalam pengembangan teknologi generatif: kebebasan inovasi versus tanggung jawab sosial. Studi akademis tentang non-consensual intimate imagery (NCII) telah lama memperingatkan bahwa deepfake dapat menyebabkan trauma psikologis jangka panjang, stigmatisasi sosial, dan kerusakan reputasi yang irreversibel, terutama bagi korban perempuan dan anak.
Di konteks Asia Tenggara, di mana mayoritas penduduk beragama Islam dan memiliki undang-undang antipornografi yang ketat, pemblokiran ini bukan sekadar tindakan teknis, melainkan pernyataan politik tentang kedaulatan digital. Langkah serupa pernah diambil terhadap platform lain yang dianggap membahayakan moral masyarakat, menunjukkan pola regulasi yang mengutamakan perlindungan kolektif daripada akses bebas.
Baca juga : Sidang Mitigasi Jimmy Lai: Persimpangan Usia, Kesehatan, dan Transformasi Hukum di Hong Kong
Pembatasan di Indonesia dan Malaysia terjadi di tengah gelombang pengawasan global terhadap AI generatif. Beberapa wilayah lain sedang mempertimbangkan investigasi serupa, dengan fokus pada apakah alat seperti Grok memenuhi standar perlindungan terhadap konten ilegal. Ini mengingatkan pada kerangka regulasi seperti AI Act di Uni Eropa, yang mengklasifikasikan aplikasi berisiko tinggi dan mewajibkan transparansi serta mitigasi risiko.
Ke depan, kasus Grok dapat menjadi preseden bagi ASEAN untuk mengembangkan pedoman bersama tentang governansi AI. Pengembang teknologi perlu mempertimbangkan pendekatan berbasis konteks budaya, bukan hanya solusi universal berupa pembatasan akses berbayar atau pelaporan pengguna. Tanpa inovasi pengamanan yang substantif—seperti filter otomatis berbasis deteksi konten sensitif—konflik antara kemajuan AI dan perlindungan hak individu akan terus berulang.
Pemblokiran ini, meski sementara, menggarisbawahi urgensi dialog global antara inovator teknologi dan regulator untuk memastikan AI generatif berkembang secara bertanggung jawab, tanpa mengorbankan martabat manusia di era digital.
Pewarta : Setiawan Wibisono
About the Author
