Kemkomdigi Tindak Tegas Grok AI Soal Konten Pornografi

Kemkomdigi Tindak Tegas Grok AI Soal Konten Pornografi

Kementerian Komunikasi dan Digital (Kemkomdigi) mengungkapkan bahwa Grok AI, chatbot yang dimiliki oleh X, terlibat dalam produksi konten pornografi milik pengguna. Saat ini, kementerian sedang melakukan penanganan serius terhadap masalah ini.

Baca juga: Desta Dukung Tuntutan ’17+8′ Usai Dihujat Soal Pilihan Politik

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa Grok AI masih kekurangan pengaturan untuk mencegah distribusi konten asusila yang melanggar privasi individu di Indonesia.

Kurangnya Pengaturan di Grok AI

Alexander Sabar menjelaskan bahwa temuan awal menunjukkan minimnya pengaturan dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi. Hal ini dapat mengakibatkan pelanggaran hak privasi dan citra diri individu di Indonesia.

Pernyataan ini dikemukakan sehubungan dengan manipulasi foto pribadi yang tidak hanya berkaitan dengan kesusilaan semata. Menurut Sabar, dampak dari tindakan tersebut dapat merusak kontrol individu atas identitas visual dan berisiko menimbulkan kerugian psikologis serta reputasi sosial.

Baca juga: Kunto Aji Soroti Tanggung Jawab Anggota Dewan dan Keresahan Masyarakat

Sanksi bagi Pelanggar Kebijakan

Kemkomdigi kembali menegaskan bahwa setiap penyelenggara sistem elektronik (PSE) di Indonesia harus mematuhi peraturan yang ada. Pelanggaran terhadap kewajiban tersebut dapat berakibat pada sanksi administratif, termasuk pemutusan akses layanan Grok AI dan platform X.

Penyedia layanan AI yang terlibat dalam produksi atau penyebaran konten pornografi dapat dikenakan sanksi administratif dan/atau pidana. Hal yang sama juga berlaku bagi pengguna yang terlibat dalam tindakan tersebut.

Perlindungan Hukum bagi Korban

Dengan berlakunya UU No 1 Tahun 2023 tentang Kitab UU Hukum Pidana, pengaturan mengenai pornografi dicantumkan dalam Pasal 172 dan 407. Pasal 172 mendefinisikan pornografi sebagai media yang melanggar norma kesusilaan, sedangkan Pasal 407 membahas ancaman pidana bagi pelanggar.

Korban manipulasi foto atau pelanggaran hak citra diri memiliki hak untuk melaporkan kejadian tersebut kepada aparat penegak hukum atau langsung kepada Kemkomdigi. Alexander juga menekankan pentingnya pengguna teknologi untuk memahami tanggung jawab mereka dan menghormati hak privasi serta citra diri orang lain.

Baca juga: Keamanan dan Manfaat Lari Malam di Kota