Dalam langkah proaktif menjaga integritas ruang digital Indonesia, Kementerian Komunikasi dan Digital (Komdigi) telah mengambil tindakan serius dengan memanggil platform X, yang sebelumnya dikenal sebagai Twitter.
Pemanggilan ini bertujuan untuk meminta klarifikasi mendalam terkait fitur kecerdasan artifisial (AI) bernama Grok yang dikembangkan oleh xAI, perusahaan milik Elon Musk.
Komitmen X untuk Perlindungan Ruang Digital
Pertemuan antara Komdigi dan perwakilan dari platform X membahas kekhawatiran yang berkembang mengenai potensi penyalahgunaan teknologi AI, khususnya dalam pembuatan konten yang tidak pantas.
Baca Juga
Dirjen Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa dalam pertemuan tersebut, pihak X telah menegaskan komitmen kuatnya.
“X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta akan melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” kata Alexander kepada GerhanaIndonesia di Jakarta, Selasa.
Platform tersebut berjanji untuk sepenuhnya mematuhi ketentuan hukum yang berlaku di Indonesia.
Tidak hanya itu, X juga berkomitmen untuk meningkatkan perlindungan terhadap perempuan dan anak-anak dari potensi risiko konten berbahaya di platform mereka.
Pengawasan Berkelanjutan dan Sanksi Tegas Komdigi
Komdigi tidak akan berhenti pada komitmen lisan. Kementerian ini akan terus melakukan pengawasan serta evaluasi secara berkala.
Langkah ini diambil untuk memastikan bahwa janji perlindungan ruang digital oleh platform X dapat terwujud secara nyata dan berkelanjutan.
Alexander Sabar turut menjelaskan mengenai tindakan tegas Komdigi terhadap platform yang terlibat dalam pembuatan atau penyebaran konten pornografi, terutama yang memanfaatkan AI.
Setiap Penyelenggara Sistem Elektronik (PSE) wajib hukumnya untuk mematuhi seluruh peraturan perundang-undangan yang berlaku di Indonesia.
Kewajiban tersebut meliputi pendaftaran resmi, kepatuhan terhadap standar moderasi konten yang ketat, serta respons cepat dalam menindaklanjuti perintah pemutusan akses terhadap konten yang dilarang.
Apabila ditemukan pelanggaran atau ketidakpatuhan, Komdigi memiliki wewenang penuh untuk menjatuhkan sanksi administratif.
Sanksi tersebut bahkan dapat berujung pada pemutusan akses layanan platform di Indonesia, menegaskan keseriusan pemerintah dalam menjaga keamanan siber.
Koordinasi Aparat Penegak Hukum dan Ancaman Pidana
Guna memastikan teknologi AI tidak disalahgunakan untuk tujuan ilegal, Komdigi juga secara aktif melakukan pengawasan serta berkoordinasi erat dengan aparat penegak hukum.
Langkah kolaboratif ini vital untuk menindak tegas pihak-pihak yang mencoba memanfaatkan inovasi teknologi untuk kejahatan.
Alexander menambahkan bahwa baik penyedia layanan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi dapat dikenakan konsekuensi hukum.
Sanksi yang dapat diterapkan mencakup sanksi administratif dan/atau pidana, sesuai dengan ketentuan hukum yang berlaku di Indonesia.
Latar Belakang: Pemutusan Akses Sementara Grok dan Kontroversi Global
Sebelumnya, Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) telah mengambil langkah drastis dengan melakukan pemutusan akses sementara terhadap aplikasi chatbot berbasis AI Grok.
Tindakan ini diambil sebagai bagian dari upaya pemerintah untuk menjaga ruang digital yang aman dan beretika bagi seluruh masyarakat.
Keputusan tersebut didasari oleh kekhawatiran serius terhadap praktik deepfake bermuatan seksual tanpa persetujuan.
Deepfake jenis ini merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara, menimbulkan kerusakan psikologis dan sosial yang mendalam.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid.
Perlu diketahui, Grok, sebagai produk AI terbaru dari xAI, telah mengundang kritik keras dari berbagai kalangan di seluruh dunia.
Kritik tersebut muncul karena kemampuannya yang memungkinkan pengguna untuk membuat gambar yang berbau pornografi, memicu perdebatan luas tentang etika dan regulasi AI.
Kasus ini menyoroti tantangan global dalam menyeimbangkan inovasi teknologi dengan kebutuhan akan perlindungan moral dan hukum di era digital.
GerhanaIndonesia berharap pemerintah dan platform digital dapat terus bekerja sama untuk menciptakan lingkungan digital yang aman dan bertanggung jawab bagi semua.
