Post-evidentiary Runtuhnya No Pict Hoax

Bulan-bulan ini banyak media mengulas tentang probema deepfakes AI karena menguatnya kebohongan visual di dunia maya. Sebuah hal yang penting mengingat pameo “No Pict Hoax” nampaknya sudah berakhir bahkan sudah harus dihilangkan. Mengapa? Karena saat ini platform AI sudah mampu merekayasa foto bahkan wajah dalam gambar atau video.

Kasus yang ada sampai membuat keresahan massal sehingga banyak negara memblokir portal tersebut. Perlu diketahui video deepfake sudah bukan lagi fiksi, tetapi realita yang dipergunakan untuk berbagai modus kejahatan. Yang lebih berbahaya teknologi telah memungkinkan manipulasi tubuh digital kita tanpa izin untuk berbagai tujuan pelaku.

Kasus Senator AS Amy Klobuchar menjadi contoh nyata. Kloning suara untuk pengucapan kata-kata vulgar dan menghina di video saat rapat senat dibuat AI. Video palsu tersebut viral dengan lebih dari satu juta penayangan dan sangat sulit dihapus dari internet. Ancaman serupa dapat menimpa siapapun.

Contoh lain, seorang kepala sekolah di Maryland difitnah lewat rekaman suara palsu berisi ujaran rasis, atau impersonasi video dan suara AI tokoh-tokoh terkemuka meningkat lebih dari 2.100 persen dalam tiga tahun di Inggris. Manipulasi visual digital saat ini sudah menjadi pola kejahatan baru untuk membentuk kepanikan sosial, dan hilangnya kepercayaan publik (sumber https://www.cbsnews.com).

Kita memasuki era post-evidentiary dimana bukti visual tidak lagi menjamin kebenaran. Situasi dimana fakta dan kebohongan tidak bisa dibedakan secara visual. Perlu literasi yang kompleks agar sebuah bukti visual bisa dijadikan rujukan, mengingat kepercayaan kelompok mampu mengalahkan fakta objektif. Sebuah hal yang memicu runtuhnya kesepakatan publik tentang realitas bersama. Di berbagai negara sudah membuat langkah awal penting dengan mengajukan Regulasi seperti TAKE IT DOWN Act yang melindungi korban gambar intim palsu, dan NO FAKES Act yang memberi hak hukum menuntut penghapusan deepfake tanpa izin.

Dampak Ekonomi

Dalam ekonomi digital, seperti dalam kasus politik, kerusakan sesungguhnya adalah hilangnya modal kepercayaan. Kita menjadi ragu menerima informasi visual digital dari keluarga, curiga pada video permintaan bantuan, skeptis terhadap kampanye donasi, bahkan tidak percaya institusi resmi. Ketika kepercayaan runtuh, biaya verifikasi meningkat, transaksi melambat, dan konflik sosial lebih mudah tersulut. Respons instan seperti memblokir platform tertentu mungkin berguna sebagai langkah darurat, tetapi tidak menyelesaikan akar masalah, terlebih regulasi platform selalu tertinggal dari inovasi platform.

Teknologi deepfake kini semakin mengkawatirkan biayanya murah dan cepat dibuat. Dengan pola visual yang pendek, disinformasi bertransformasi sebagai gangguan kecil yang berkelanjutan. Efeknya validasi informasi tereduksi dan terganggunya rasionalitas. Ancaman deepfake AI di ranah ekonomi semakin masif.

Federal Trade Commission mencatat kerugian konsumen akibat penipuan mencapai lebih dari 10 miliar dolar pada 2023 dan diproyeksikan menjadi 40 miliar di thn 2027 (Deloitte’s Center, 2024) (sumber) . World Economic Forum melaporkan kerugian penipuan berbasis deepfake yang terkonfirmasi melebihi $200 juta secara global hanya dalam kuartal pertama 2025.

Ketahanan Digital

Mengingat tingginya dampak, rasanya kita membutuhkan ruang pengetahuan bersama tentang pola serangan, cara mitigasi, dan mekanisme verifikasi yang dapat diakses publik. Infrastruktur yang dibutuhkan setidaknya database terbuka tentang teknik manipulasi terkini, protokol klarifikasi yang jelas dari lembaga resmi, sistem pelaporan yang responsif. Tentunya juga sistem yang memberi kontrol penuh pengguna atas data mereka.

UNESCO sudah menekankan: tata kelola AI harus memihak kepentingan publik, bukan hanya kepentingan korporasi. Publik membutuhkan kontrol, visibilitas, dan mekanisme kolektif. Hal penting karena media sosial gagal mengendalikan penyebaran konten berbahaya yang mampu mengamplikasi siklus misinformasi (Joan Donovan, 2020). Kebutuhan kita bukan lagi sekedar kewaspadaan tetapi juga infrastruktur yang memadai untuk memverifikasi kebenaran, dan tentunya harus user friendly agar ketahanan digital mudah dibangun.

Menghadapi situasi saat ini, ketahanan digital dapat dikembangkan dalam 3 bagian. Pertama, kesadaran perlunya berbagi informasi ancaman secara aman. Pemerintah, industri digital, dan universitas/peneliti harus saling berbagi data tentang pola serangan, ciri akun palsu, taktik manipulasi. Penyebaran informasi dengan standart ketat penting untuk melindungi privasi pengguna. Kedua, sistem verifikasi cepat yang dilakukan pengguna.

Lembaga publik perlu protokol klarifikasi responsif: kanal resmi jelas, dan prosedur standar ketika sebuah informasi visual dan manipulatif viral. Beban verifikasi maupun mereduksi implikasi rasanya kurang tepat bila diserahkan sepenuhnya kepada individu atau bahkan korban. Ketiga, literasi ketahan digital dalam bentuk membangun kebiasaan digital juga penting masif disosialisasikan. Tahan sebelum membagikan, crosschek secara komprehensive perlu diajarkan sejak dini termasuk mendidik agar mengenali pemicu emosional, membiasakan diskusi tanpa menghakimi. Tanpa ketahanan kolektif ini, kita akan hidup terpecah karena visual digital sudah menjadi sesuatu sulit untuk dipercaya bersama.