AZMEDIA — Pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas dengan memutus akses sementara terhadap Grok, aplikasi chatbot berbasis kecerdasan artifisial (AI). Kebijakan ini menjadikan Indonesia sebagai negara pertama yang melakukan pembatasan tersebut, menyusul kekhawatiran atas penyalahgunaan teknologi untuk memproduksi deepfake bermuatan seksual di ruang digital.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa pembuatan dan penyebaran konten seksual nonkonsensual—terutama yang memanfaatkan rekayasa AI—merupakan pelanggaran serius terhadap hak asasi manusia, privasi, dan martabat warga.
“Pemerintah mengambil tindakan pemutusan akses sementara untuk melindungi masyarakat, khususnya perempuan dan anak, dari risiko konten pornografi palsu yang dibuat dengan teknologi AI,” ujar Meutya dalam keterangan resmi di Jakarta, Minggu.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Kemkomdigi menyatakan keputusan ini diambil setelah adanya indikasi penggunaan Grok untuk menghasilkan serta menyebarluaskan konten pornografi palsu berbasis deepfake. Pemerintah menilai persoalan ini bukan sekadar isu teknologi, melainkan juga menyangkut keamanan publik dan potensi eksploitasi seksual di ranah digital.
Meutya menekankan, ruang digital tidak boleh diperlakukan sebagai area tanpa aturan. Menurutnya, penyalahgunaan AI untuk konten seksual tanpa persetujuan adalah ancaman nyata yang bisa berdampak panjang bagi korban, termasuk trauma, perundungan, dan kerusakan reputasi.
Selain menonaktifkan akses sementara, Kemkomdigi juga meminta platform X sebagai pihak terkait untuk memberikan penjelasan serta menunjukkan tanggung jawab atas dampak yang timbul. Pemerintah akan melakukan evaluasi lanjutan berdasarkan langkah korektif dan komitmen perbaikan dari penyelenggara sistem elektronik.
Kemkomdigi menyebut tindakan ini merupakan bagian dari kewenangan regulator sesuai ketentuan Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan platform memastikan layanannya tidak memuat atau memfasilitasi konten yang dilarang menurut hukum Indonesia.
Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai kebijakan tersebut tepat dan patut diapresiasi. Menurutnya, apabila sebuah layanan terbukti menghadirkan risiko serius bagi keselamatan perempuan dan anak melalui eksploitasi pornografi digital, pemblokiran sementara dapat menjadi langkah yang wajar sebagai tindakan pencegahan.
Ia juga mengingatkan bahwa penyedia platform global tidak bisa semata mengejar pertumbuhan bisnis tanpa menyesuaikan diri dengan norma, etika, dan aturan di negara tempat mereka beroperasi. “Setiap negara punya standar moral dan hukum yang berbeda. Platform global tak bisa memakai satu ukuran yang sama untuk semua,” katanya.
Pemerintah menegaskan langkah ini bersifat sementara dan akan ditinjau sesuai hasil evaluasi serta respons perbaikan dari pihak terkait. Di tengah percepatan teknologi AI, kebijakan ini sekaligus menjadi sinyal bahwa inovasi harus berjalan seiring dengan tanggung jawab, perlindungan korban, dan kepatuhan pada hukum di ruang digital.
