Kiniin.com – Wakil Menteri Komunikasi dan Digital (Komdigi), Nezar Patria, mengingatkan masyarakat tentang meningkatnya ancaman penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence/AI). Salah satu yang paling banyak muncul saat ini ialah penipuan digital yang memanfaatkan teknologi deepfake untuk menipu korban.
Menurut Nezar, perkembangan AI berlangsung sangat cepat. Teknologi ini tidak lagi berhenti pada generative AI, tetapi telah bergerak menuju agentic AI. Dalam beberapa tahun ke depan, AI di perkirakan akan berkembang ke tahap physical AI hingga quantum AI.
Ia menilai kemajuan tersebut membuka banyak peluang bagi berbagai sektor. Namun, di sisi lain, perkembangan AI juga menghadirkan tantangan baru yang berkaitan dengan keamanan digital dan etika penggunaan teknologi.
Kerugian Penipuan Digital Mencapai Rp 9 Triliun
Dalam Indonesia Ethical AI Summit yang berlangsung pada Rabu (17/6/2026), Nezar mengungkapkan bahwa pelaku kejahatan siber kini semakin sering memanfaatkan AI untuk menjalankan berbagai modus penipuan.
“AI juga di manfaatkan oleh pelaku kejahatan siber untuk melakukan berbagai bentuk scam. OJK mencatat kerugian akibat kasus tersebut mencapai sekitar Rp 9 triliun pada tahun ini, dan sebagian besar melibatkan penggunaan teknologi deepfake,” ujarnya.
Nezar menjelaskan bahwa deepfake memungkinkan seseorang memanipulasi suara, foto, maupun video sehingga tampak seperti asli. Teknologi tersebut mampu menciptakan konten digital yang sangat meyakinkan dan sulit di bedakan dari kenyataan.
Ia menyebut kemampuan AI menghasilkan konten sintetis yang menyerupai kondisi nyata sebagai fenomena synthetic reality atau realitas sintetis.
“Sekarang AI dapat meniru suara seseorang, menghidupkan gambar wajah, lalu mengolahnya menjadi video deepfake dengan kualitas yang sangat halus. Inilah yang di kenal sebagai synthetic reality,” katanya.
Nezar menilai masyarakat yang belum memahami perkembangan AI secara memadai menjadi kelompok yang paling rentan terhadap penipuan berbasis teknologi tersebut. Pelaku kejahatan memanfaatkan kecanggihan AI untuk membangun skenario penipuan yang terlihat lebih meyakinkan di bandingkan metode konvensional.
Karena itu, ia mendorong seluruh pihak agar menerapkan prinsip etika dalam setiap proses pengembangan dan pemanfaatan AI. Menurutnya, pengembang teknologi perlu menempatkan aspek transparansi, akuntabilitas, dan keamanan sebagai fondasi utama sejak tahap perancangan produk.
“Prinsip transparency, accountability, dan safety harus hadir dalam implementasi maupun pengembangan setiap produk AI,” tegasnya.
Nezar juga menekankan bahwa pembahasan mengenai etika AI tidak cukup hanya menjadi wacana. Pengembang, regulator, dan pengguna harus menerapkan prinsip-prinsip tersebut secara nyata agar risiko penyalahgunaan AI, termasuk penipuan digital dan penyebaran deepfake, dapat di minimalkan. (fnr/*)
Komentar