JAKARTA, Literasi Hukum — Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah pemutusan akses sementara terhadap Grok, layanan chatbot kecerdasan artifisial (AI) milik xAI yang terintegrasi dengan platform X. Kebijakan ini ditempuh setelah pemerintah menilai fitur generasi dan penyuntingan gambar pada Grok berpotensi disalahgunakan untuk membuat konten pornografi palsu dan deepfake seksual non-konsensual, yang berdampak langsung pada keselamatan warga di ruang digital.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Fitur Grok Disorot, Indonesia Disebut Jadi Negara Pertama yang Memblokir
Laporan internasional menyebut Indonesia menjadi negara pertama yang secara resmi membatasi akses terhadap Grok karena risiko konten AI bernuansa seksual yang beredar luas, termasuk hasil manipulasi yang dibuat tanpa persetujuan subjek foto.
Dalam beberapa hari terakhir, Grok menjadi perhatian regulator di sejumlah yurisdiksi karena pengguna dapat meminta chatbot tersebut mengubah foto orang dengan cara yang menempatkan subjek pada pose atau konteks seksual—sering kali tanpa persetujuan. xAI kemudian mengumumkan pembatasan: fitur generasi/penyuntingan gambar Grok diklaim dibatasi untuk pelanggan berbayar, meski sejumlah kanal penggunaan lain masih dinilai membuka celah penyalahgunaan.
Pemerintah Panggil X, Singgung Risiko Pelanggaran Privasi dan “Hak atas Citra Diri”
Di Indonesia, Komdigi menyatakan telah meminta pihak platform X hadir untuk memberikan klarifikasi teknis.
Sebelumnya, Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyampaikan hasil penelusuran awal yang menyimpulkan Grok belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata, sehingga berisiko melanggar hak privasi serta hak atas citra diri (right to one’s image) ketika foto dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
Pada saat yang sama, Elon Musk juga menyatakan di X bahwa pihak yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang setara dengan mengunggah konten ilegal secara langsung.
Dasar Hukum: Kewajiban PSE dan Opsi “Pemutusan Akses”
Dari perspektif regulasi Indonesia, tindakan Komdigi dapat dibaca dalam kerangka Permenkominfo 5/2020 tentang PSE Lingkup Privat. Regulasi ini mewajibkan PSE bertanggung jawab menyelenggarakan sistem elektronik secara andal, aman, dan bertanggung jawab, serta memastikan sistemnya tidak memuat maupun memfasilitasi penyebarluasan konten yang dilarang.
Permenkominfo 5/2020 juga membuka ruang tindakan “pemutusan akses” (take down maupun access blocking) apabila PSE tidak memenuhi kewajiban tersebut. Dalam Pasal 9, ditegaskan bahwa PSE yang tidak menjalankan kewajiban memastikan sistemnya bebas dari konten terlarang dapat dikenai pemutusan akses.
Selain itu, ketentuan teknis pemutusan akses memberi kewenangan kepada Menteri untuk memerintahkan take down—termasuk terhadap konten bermuatan pornografi—dan bila tidak dipatuhi, Menteri dapat melakukan pemutusan akses dan/atau memerintahkan ISP melakukan pemutusan akses terhadap sistem elektronik terkait.
Isu “Intermediary Liability”: Safe Harbor, tetapi dengan Syarat
Kasus Grok ikut menajamkan perdebatan mengenai tanggung jawab perantara (intermediary liability), terutama ketika platform bukan sekadar menyediakan ruang unggahan, tetapi juga menyediakan alat yang dapat menghasilkan atau memodifikasi konten. Permenkominfo 5/2020 mengenal mekanisme pembatasan tanggung jawab untuk PSE user-generated content, namun sifatnya kondisional: PSE dapat dibebaskan dari tanggung jawab jika memenuhi kewajiban moderasi (Pasal 9 ayat (3) dan Pasal 10), menyediakan informasi pengguna untuk kepentingan pengawasan/penegakan hukum, serta melakukan take down terhadap konten terlarang.
Dalam konteks ini, fokus pengawasan tidak hanya pada perilaku pengguna, tetapi juga pada desain pengamanan, moderasi, dan respons platform atas potensi penyalahgunaan fitur AI.
Dinamika Global: Pembatasan xAI dan Tekanan Regulator
Perkembangan di Indonesia terjadi di tengah sorotan global. Reuters melaporkan regulator di berbagai kawasan telah mengecam, bahkan membuka penelaahan, terkait peredaran konten seksual hasil AI yang diproduksi lewat Grok. xAI menyebut pembatasan fitur generasi dan penyuntingan gambar dilakukan setelah kritik meluas, termasuk isu keluaran yang melibatkan korban tanpa persetujuan.
Bagi Indonesia, langkah pemutusan akses sementara diposisikan sebagai instrumen proteksi cepat sambil menunggu klarifikasi dan perbaikan pengamanan oleh penyedia layanan.
Komentar (0)
Tulis komentar