Bahaya dari kecanggihan artificial intelligence (AI) atau kecerdasan buatan semakin nyata, terutama bila berada di tangan orang-orang jahat. Federal Bereau of Investigation (FBI) baru-baru ini mengeluarkan peringatkan kepada pengguna media sosial (medsos) untuk mewaspadai aksi penjahat siber yang membuat konten deepfake porno untuk melakukan serangan sextortion atau pemerasan.
Deepfake sendiri adalah video rekayasa atau materi digital yang dibuat oleh kecerdasan buatan atau AI hingga menghasilkan gambar dan suara yang terlihat dan terdengar asli. Video dan gambar yang dimanipulasi ini kemudian digunakan untuk berbagai tujuan berbahaya, termasuk penipuan keuangan, manipulasi politik, pemerasan, hingga balas dendam.
Sedangkan sextortion adalah bentuk pemerasan online. Pelakunya mengancam akan membocorkan gambar dan video porno wajah korban yang sudah dimanipulasi dengan teknologi AI.
Dalam banyak kasus sextortion, pelaku mendapatkan foto atau video yang memang sengaja dibagikan di platform media sosial. Gambar-gambar ini kemudian dimasukkan ke dalam alat pembuatan konten deepfake dan mengubahnya menjadi konten pornografi yang dihasilkan AI. Meskipun gambar atau video yang dihasilkan tidak asli, namun terlihat sangat nyata dan bisa membuat orang lain mempercayainya, sehingga dapat menyebabkan kerugian pribadi dan reputasi yang besar bagi korban.
“Pada April 2023, FBI telah mengamati peningkatan jumlah korban sextortion yang melaporkan penggunaan gambar atau video palsu yang diambil dari konten yang diposting di media sosial,” tulis peringatan FBI yang dilansir dari Bleepingcomputer, Senin (2/6/2023).
Berdasarkan laporan korban baru-baru ini, pelaku biasanya menuntut pembayaran dengan ancaman akan membagikan gambar atau video porno hasil rekayasa tersebut ke teman media sosial mereka.
FBI mengatakan, pembuat konten terkadang juga tidak melakukan pemerasan, tetapi langsung membagikan video yang dibuat ke situs pornografi, mengekspos korban ke khalayak luas tanpa sepengetahuan atau persetujuan mereka. Bahkan kejahatan deepfake porn ini juga berdampak pada anak di bawah umur sebagai korban.
