JAKARTA, PUSAT BERITA — Katalisator Muda Pengawas Media Sosial (KAMP-SOS) menyatakan dukungan penuh terhadap sikap DPR RI yang meminta Kementerian Komunikasi dan Digital (Komdigi) agar lebih proaktif dalam mencegah penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence/AI) untuk produksi konten pornografi di ruang digital.
Direktur Eksekutif KAMP-SOS, Muhammad Senanatha, menegaskan bahwa praktik penyalahgunaan Al terutama dalam bentuk manipulasi wajah, identitas, dan visual seseorang tanpa persetujuan merupakan ancaman serius terhadap hak privasi dan martabat manusia.
“Penyalahgunaan AI untuk konten pornografi bukan hanya persoalan moral, tetapi sudah masuk pada pelanggaran hak asasi, keamanan digital, dan perlindungan data pribadi. Negara tidak boleh abai terhadap praktik kejahatan digital semacam ini,” tegas Senanatha, Jumat (9/1).
Ia menilai, Komdigi perlu segera memperkuat pengawasan terhadap platform digital serta mewajibkan penyedia teknologi AI memiliki sistem pencegahan sejak tahap awal, termasuk pembatasan perintah (prompt) yang berpotensi menghasilkan konten asusila.
“Kami mendorong Komdigi untuk tidak hanya bersifat reaktif, tetapi juga preventif. Mekanisme pelaporan, penurunan konten ilegal, dan pencegahan unggah ulang harus berjalan cepat dan efektif,” lanjutnya.
Menurut KAMP-SOS, perkembangan teknologi AI harus diimbangi dengan regulasi dan penegakan hukum yang tegas agar tidak disalahgunakan untuk eksploitasi dan kekerasan digital terhadap masyarakat.
“Teknologi harus menjadi alat kemajuan peradaban, bukan alat eksploitasi. Ruang digital wajib dijaga agar tetap aman, beretika, dan bertanggung jawab,” pungkas Senanatha.
