beritabernas.com – Muhammad Bima Januri, Deputy Executive Director of Technology & Infrastructure, Rembug Digital Indonesia, mengatakan, teknologi Artificial Intelligence (AI) di Indonesia berkembang dengan cepat, tetapi kemajuan ini juga membawa tantangan besar terkait etika dan keamanan digital.
Tanpa aturan yang jelas, teknologi ini berpotensi merugikan martabat manusia melalui penyebaran konten vulgar dan manipulasi digital. Karena itu, menurut Muhammad Bima Januri, Indonesia perlu segera memiliki aturan yang jelas untuk penggunaan teknologi AI ini.
“Aturan tersebut sangat penting untuk menjaga martabat manusia dan mengurangi konten vulgar yang bisa merusak masyarakat,” kata Muhammad Bima Januri kepada beritabernas.com, Jumat 9 Januari 2026.
Bima menyebut masa sekarang sebagai era “Akal Imitasi”. Ia menilai inovasi dan regulasi harus berjalan beriringan agar tantangan etika dapat diatasi. “Etika harus menjadi pedoman utama dalam pengembangan AI di Indonesia,” kata Bima.
Bahaya algoritma tanpa etika
Bima memberi contoh kasus ‘Grok’, model AI generatif di platform X (Twitter). Ia mengatakan bahwa tanpa pengawasan etika, ‘Akal Imitasi’ bisa menimbulkan masalah besar. “Tidak seperti model lain yang menolak perintah melanggar norma, Grok justru memberi kebebasan penuh kepada pengguna, yang bisa berbahaya,” kata Bima.
Ia menambahkan bahwa model seperti ini hanya menghitung statistik dan tidak dapat membedakan antara seni dan pelecehan, sehingga berisiko menghasilkan gambar manipulasi wajah tanpa izin. “Jika sebuah algoritma bisa merusak kehormatan seseorang secara sistemik, maka algoritma itu cacat secara etika dan harus dibatasi,” demikian menurut Bima.
Baca juga:
- Pemanfaatan AI Menjadi Salah Satu Pilar Utama Transformasi Dunia Akademik dan Profesional
- Jaga Integritas, Mahasiswa Wajib Mencantumkan Keterlibatan AI dalam Penulisan Karya Ilmiah
- Penerapan Sistem Informasi Terintegrasi Berbasis Business Intelligence Mampu Meningkatkan Efisiensi Manajemen Rantai Pasok Obat
- Dr Raden Stevanus: Transformasi Digital Bukan Lagi Pilihan, Tapi Kebutuhan
Ketika ditanya siapa yang paling bertanggung jawab, Bima membagi peran ini kepada tiga pihak yakni pengembang, platform dan pengguna.
“Pengembang harus memastikan algoritma AI mereka mengikuti standar etika yang ketat dan meningkatkan transparansi,” kata Bima seraya menyebutkan bahwa platform harus memiliki kebijakan moderasi konten untuk mencegah penyebaran materi ilegal.
Menurut Bima, pengguna akhir juga memiliki peran penting. “Kesadaran dan literasi digital yang baik harus ditanamkan agar pengguna paham akan bahaya yang bisa ditimbulkan oleh penggunaan AI yang tidak etis,” tambah Bima.
Dorongan regulasi untuk Komdigi
Dalam hal kebijakan, Bima mengajak Kementerian Komunikasi dan Digital (Komdigi) untuk memastikan teknologi tetap berpegang pada nilai kemanusiaan. Ia menyoroti salah satu rekomendasi teknis yaitu mewajibkan platform AI untuk menggunakan standar metadata kriptografi seperti C2PA, yang dapat membantu membedakan antara konten asli dan konten yang dihasilkan AI.
Walaupun penerapan C2PA menghadapi tantangan biaya infrastruktur dan teknis, Bima menyarankan Komdigi untuk membuat roadmap implementasi, termasuk membangun kerangka hukum yang mendukung.
“Komdigi bisa lebih efektif dalam merencanakan dan memfasilitasi adopsi C2PA, sehingga keamanan digital masyarakat dapat lebih terjamin,” ujar Bima.
Bima memberikan panduan singkat bagi masyarakat awam agar bisa melindungi diri dari ancaman deepfake atau penyalahgunaan wajah oleh AI. “Pertimbangkan strategi Jaga ‘Kebersihan’ Foto Pribadi. Anda dapat memilih untuk bijak dengan tidak mengunggah terlalu banyak foto wajah resolusi tinggi (close-up) ke media sosial yang terbuka untuk umum,” saran Bima seraya menambahkan bahwa langkah sederhana namun krusial adalah mengunci akun media sosial.
“Pertimbangkan untuk mengatur akun media sosial menjadi privat, sehingga hanya orang yang Anda kenal yang bisa melihat foto-foto Anda,” saran Bima. (phj)
