Marak Konten Palsu, Wamen Komdigi Ingatkan Ancaman Penipuan Digital

Jakarta, MediaKoran.ID – Dalam gelaran Indonesia Ethical AI Summit, Wakil Menteri Komunikasi dan Digital, Nezar Patria, membahas mengenai konten palsu yang marak hadir saat ini, Rabu (17/6). Hal ini dikarenakan perkembangan kecerdasan buatan atau AI bisa digunakan juga untuk hal yang buruk termasuk ancaman penipuan digital ini.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Wamen Komdigi, Nezar Patria, dalam acara Indonesia Ethical AI Summit di Jakarta Selatan.

Menurutnya masalah hadirnya konten palsu ini perlu ditanggapi dengan serius oleh berbagai pihak. Apalagi kemajuan AI berlangsung sangat cepat.

Baca Juga: Patuhi PP Tunas, 175 PLF Termasuk Netflix Lapor ke Komdigi

Seberapa Cepat Perkembangan AI, Hingga Muncul Konten Palsu?

Wamen Komdigi tersebut mengatakan kemajuan AI saat ini sudah melampaui fase generative AI menuju pengembangan agentic AI dan berbagai teknologi baru lainnya. Perkembangan tersebut membawa manfaat besar bagi berbagai sektor.

Tetapi pada saat yang sama memunculkan risiko-risiko baru yang memerlukan perhatian serius. Dalam aspek keamanan siber, Wamen Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan (scam) salah satunya dengan membuat konten palsu.

Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik. Kecanggihan tersebut membawa masyarakat awam semakin sulit membedakan antara konten asli dan konten hasil rekayasa.

“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.

Nezar juga mengingatkan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Sebagai informasi, prinsip yang disingkat HITL ini merupakan pendekatan sistem yang menempatkan manusia sebagai bagian dari alur kerja seperti melatih, mengawasi atau memvalidasi.

Saran ini diberikan karena, manusia yang memiliki kemampuan melakukan penalaran dan pengambilan keputusan secara mandiri. Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan penting tetap berada dalam pengawasan manusia.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.

Ia menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut. Maka dari itu muncul konten palsu yang dihasilkan dari teknologi deepfake.

Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan juga diingatkan Wamen harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan ethics by design. Pemerintah mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan. Menurutnya, forum Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah-langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.

“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.