Pemerintah memblokir Grok AI imbas maraknya deepfake asusila. Langkah tegas ini diambil demi melindungi martabat publik.
albadarpost.com, HUMANIORA – Pemerintah Indonesia mengambil langkah tegas terhadap penyalahgunaan teknologi kecerdasan buatan. Kementerian Komunikasi dan Digital (Komdigi) resmi memblokir akses Grok AI, chatbot berbasis AI milik platform X, menyusul maraknya praktik deepfake asusila yang dinilai mengancam martabat dan hak individu.
Keputusan itu diumumkan pada Sabtu (10/1/2026) setelah Komdigi menerima lonjakan laporan penyalahgunaan teknologi AI untuk membuat konten pornografi palsu. Konten tersebut memanipulasi wajah seseorang, lalu menempelkannya ke tubuh lain tanpa izin. Korban berasal dari berbagai latar belakang, mulai dari warga biasa, figur publik, hingga anak di bawah umur.
Langkah ini menjadi sinyal kuat bahwa negara tidak akan tinggal diam menghadapi penyimpangan teknologi.
Negara Ambil Kendali atas Penyalahgunaan AI
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa pemerintah tidak memusuhi inovasi, tetapi tidak akan mentoleransi penyalahgunaan.
“Teknologi harus melindungi manusia, bukan melukai martabatnya. Ketika AI dipakai untuk merusak reputasi, menghancurkan psikologis, dan mengancam keselamatan sosial, negara wajib hadir,” kata Meutya.
Menurut Komdigi, Grok AI belum memiliki sistem penyaringan dan pengamanan yang memadai untuk mencegah pembuatan konten manipulatif bermuatan pornografi. Celah ini dimanfaatkan oknum untuk memproduksi dan menyebarkan konten deepfake asusila secara masif.
Baca juga: Tiga Fondasi Etika Publik Umat
Blokir bersifat sementara. Namun, pemerintah memberi syarat tegas: pengelola platform wajib memperbaiki sistem moderasi, memperketat filter konten, dan menyediakan mekanisme pelaporan yang responsif.
Jika tidak, pemblokiran bisa berubah menjadi permanen.
Ancaman Nyata bagi Martabat dan Keamanan Publik
Pemerintah menilai deepfake asusila bukan sekadar masalah moral, tetapi ancaman serius terhadap keamanan sosial. Korban sering mengalami tekanan psikologis, perundungan digital, hingga pengucilan sosial.
Dalam beberapa kasus, konten palsu tersebut digunakan untuk pemerasan dan intimidasi.
Kepala Bareskrim Polri menyatakan bahwa pelaku pembuatan dan penyebaran konten deepfake bermuatan pornografi dapat dijerat pidana. Aparat kini meningkatkan patroli siber untuk menelusuri jaringan pelaku.
“Ini bukan lelucon digital. Ini kejahatan,” tegasnya.
Komdigi juga mengingatkan bahwa regulasi sudah ada. Pemerintah mengacu pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE). Aturan itu mewajibkan platform menjaga ruang digital tetap aman dan bertanggung jawab.
Indonesia Kirim Pesan ke Raksasa Teknologi
Pemblokiran Grok AI tidak berdiri sendiri. Pemerintah memanggil pihak pengelola platform X untuk klarifikasi. Indonesia meminta komitmen nyata, bukan sekadar pernyataan.
Langkah ini sekaligus mengirim pesan ke seluruh perusahaan teknologi global: pasar Indonesia besar, tetapi regulasi tidak bisa ditawar.
Pengamat kebijakan digital menilai keputusan ini sebagai titik balik. Selama ini, negara sering tertinggal dari kecepatan teknologi. Kali ini, pemerintah memilih bergerak lebih cepat.
“Ini bukan sekadar blokir. Ini bentuk kedaulatan digital,” ujar seorang pakar keamanan siber.
Ia menilai, jika negara tidak bertindak, penyalahgunaan AI akan berkembang tanpa kendali.
Publik Diminta Waspada dan Melapor
Komdigi juga mengajak masyarakat berperan aktif. Warga diminta melaporkan setiap temuan konten deepfake asusila melalui kanal resmi pengaduan.
Baca juga: El Clasico Indonesia Kembali Tersaji: Persib–Persija
Pemerintah menegaskan bahwa literasi digital kini menjadi kebutuhan mendesak. Masyarakat harus memahami bahwa tidak semua yang terlihat di layar adalah kenyataan.
Di sisi lain, Komdigi tengah menyusun kerangka regulasi AI nasional yang lebih ketat. Aturan ini akan mengatur transparansi algoritma, tanggung jawab pengembang, serta sanksi tegas bagi pelanggaran.
Indonesia ingin memastikan bahwa AI berkembang sebagai alat kemajuan, bukan senjata perusak reputasi.
Teknologi Boleh Maju, Martabat Tak Bisa Dikorbankan
Blokir Grok AI menandai babak baru dalam tata kelola ruang digital nasional. Pemerintah menegaskan bahwa kebebasan inovasi tidak berarti kebebasan melukai.
Langkah ini menempatkan Indonesia di barisan negara yang mulai serius mengatur AI secara etis.
Jika upaya ini konsisten, publik akan mendapat ruang digital yang lebih aman. Bukan hanya cepat dan canggih, tetapi juga manusiawi. (AC)
