Wajah AI di Indonesia Hari Ini

Video itu beredar di grup keluarga. Wajahnya familiar, suaranya meyakinkan: seorang pejabat negara mengumumkan bantuan sosial dan meminta masyarakat mendaftar lewat nomor WhatsApp yang tersedia. Ratusan orang percaya. Mereka mentransfer uang "biaya administrasi" yang ternyata tak pernah ada. Sang pejabat tidak pernah membuat video itu. Video itu dibuat oleh sebuah algoritma kecerdasan buatan, dalam hitungan menit, dari sebuah laptop di kamar kos di Lampung Tengah.

Itulah yang terjadi pada Januari 2025, ketika Badan Reserse Kriminal (Bareskrim) Polri menangkap tersangka berinisial AMA, pelaku yang menggunakan teknologi deepfake, yakni teknik kecerdasan buatan atau Artificial Intelligence (AI) untuk memanipulasi wajah dan suara seseorang secara sangat meyakinkan, guna meniru Presiden Prabowo Subianto.

Dalam empat bulan beroperasi, Bareskrim mengidentifikasi 11 korban dari berbagai wilayah dengan total kerugian Rp30 juta. Dua pekan kemudian, tersangka kedua berinisial JS ditangkap di Pringsewu, Lampung, dengan modus serupa, tapi jangkauan jauh lebih luas: ratusan korban dari 20 provinsi.

Kasus ini bukan yang pertama, dan jelas bukan yang terakhir.

Kecerdasan buatan sejatinya hadir membawa banyak manfaat. Ia membantu guru menyusun materi ajar, memudahkan pelaku usaha kecil membuat konten pemasaran, mempercepat pekerjaan para profesional, dan menghibur jutaan pengguna media sosial setiap hari. Teknologi ini nyata gunanya dan tidak perlu diperdebatkan.

Namun di sisi yang sama, AI telah menjadi senjata baru kejahatan digital. Indonesia pun menghadapinya nyaris tanpa perisai hukum yang memadai.

Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memang tengah menyiapkan Peraturan Presiden tentang AI sebagai kerangka tata kelola nasional. Langkah ini patut diapresiasi. Namun, satu kenyataan pahit harus diakui: sementara regulasi masih digodok di meja para pejabat di Jakarta dan dipresentasikan di forum-forum internasional di Tokyo, kejahatan berbasis AI terus berlari kencang di jalanan digital Indonesia.

Hingga kini, belum ada satu pun undang-undang yang secara khusus mengatur penyalahgunaan teknologi ini. Hukum yang ada—yakni Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Perlindungan Data Pribadi, dan Kitab Undang-Undang Hukum Pidana (KUHP) baru—hanya bisa menjangkau AI secara tidak langsung, dengan tafsiran yang masih diperdebatkan.

Sebuah teknologi yang mampu menghancurkan reputasi seseorang dalam hitungan detik, ternyata hanya bisa dijerat dengan pasal-pasal yang lahir jauh sebelum teknologi itu ada.

Kasus AMA dan JS di Lampung hanyalah puncak gunung es. Pada April 2025, tiga tersangka di Jawa Timur menggunakan deepfake wajah Gubernur Khofifah Indar Parawansa, juga meniru gubernur Jawa Barat dan Jawa Tengah, untuk menjual sepeda motor fiktif dan meraup Rp87 juta dari para korban yang tertipu. Modus serupa terus menyasar wajah tokoh-tokoh nasional lain, dari mantan presiden hingga menteri keuangan, semua demi satu tujuan: menipu masyarakat yang percaya pada wajah yang mereka kenal.

Ancaman ini tidak berhenti pada penipuan berkedok pejabat. Ada juga yang disebut voice cloning, yaitu teknologi yang mampu meniru suara seseorang hanya dari rekaman singkat, lalu digunakan untuk menghubungi anggota keluarga, seolah-olah suara orang terdekat. Bayangkan menerima telepon dari "suara" anak Anda yang mengaku kecelakaan dan membutuhkan uang segera. Kepanikan bisa mengalahkan akal sehat dalam hitungan detik. Batas antara nyata dan rekayasa telah menjadi kabur sedemikian rupa.

Angka-angkanya mencerminkan betapa seriusnya situasi ini. Otoritas Jasa Keuangan (OJK) mencatat lebih dari 70.000 laporan penipuan berbasis AI hanya dalam tujuh bulan pertama 2025. Indonesia Anti-Scam Centre (IASC) mencatat 432.637 laporan penipuan digital sejak November 2024 hingga Januari 2026, dengan total kerugian Rp9,1 triliun, angka yang dirilis resmi oleh OJK.

Bahkan pada Januari 2026, Indonesia terpaksa menjadi negara pertama di dunia yang memblokir Grok, aplikasi AI milik xAI. Pemblokiran itu bukan karena terobosan regulasi, melainkan karena darurat: platform tersebut digunakan secara masif untuk memproduksi konten seksual palsu yang menyasar warga negara Indonesia.

Persoalannya bukan pada AI itu sendiri. Teknologi selalu bermuka dua, manfaat atau bahayanya bergantung pada siapa yang memegangnya. Masalahnya adalah kekosongan hukum yang membiarkan penyalahgunaan tumbuh subur tanpa sanksi yang jelas dan efek jera yang nyata.

Sekjen Komdigi Ismail—dalam forum Hiroshima AI Process di Tokyo baru-baru ini—menyampaikan visi yang tepat: AI harus dibangun di atas fondasi kepercayaan, transparansi, dan akuntabilitas. Pernyataan itu benar. Namun, kepercayaan tidak bisa dibangun hanya dengan pidato di forum internasional. Ia harus dibangun dari dalam negeri, dari regulasi yang konkret, dari penegakan hukum yang tegas, dan dari masyarakat yang melek terhadap ancaman teknologi ini.

Untuk itu, Indonesia perlu bergerak cepat pada tiga hal sekaligus.

Pertama, mempercepat pengesahan regulasi yang secara eksplisit mengatur deepfake, pemalsuan suara, dan konten manipulatif berbasis AI. UU ITE, Undang-Undang Perlindungan Data Pribadi, dan KUHP baru tidak dirancang untuk menjawab kejahatan semacam ini. Selama aturan mainnya masih abu-abu, pelaku akan terus menemukan celah, dan korban akan terus berjatuhan tanpa kepastian keadilan.

Kedua, memperkuat kemampuan aparat penegak hukum. Saat ini, kecepatan teknologi kriminal jauh melampaui kecepatan respons negara. Polri dan aparat siber perlu dilengkapi dengan alat deteksi AI yang sepadan dengan yang digunakan para pelaku. Tanpa kapasitas teknis yang memadai, regulasi sebaik apa pun hanya akan menjadi dokumen yang tidak bergigi di lapangan.

Ketiga, menjadikan literasi digital sebagai agenda nasional yang sungguh-sungguh, bukan sekadar imbauan di media sosial atau selebaran di kantor kelurahan.

Masyarakat perlu tahu cara mengenali manipulasi wajah dan suara, cara melaporkan penyalahgunaan, dan cara melindungi data pribadinya agar tidak menjadi bahan baku kejahatan. Korban deepfake bukan hanya orang yang tidak melek teknologi. Siapa pun bisa tertipu ketika yang dipalsukan adalah wajah orang yang mereka percaya.

AI akan terus berkembang, dengan atau tanpa regulasi. Pertanyaannya bukan lagi "Apakah Indonesia siap menerima AI?" Kenyataannya, AI sudah ada di sini, sudah bekerja setiap hari, dan sudah melahirkan korban nyata. Pertanyaannya: Sampai berapa banyak korban lagi yang harus jatuh sebelum negara benar-benar hadir?

Sebuah wajah bisa dipalsukan dalam hitungan menit. Sebuah suara bisa dijiplak, bahkan lebih cepat dari itu. Perlindungan itulah yang tidak boleh menunggu, perlindungan bagi warga yang tidak punya cara untuk membedakan mana yang nyata dan mana yang rekayasa, karena negara belum memberi mereka alat untuk itu.