Presiden Microsoft Brad Smith menyampaikan kekhawatiran terbesarnya seputar artificial intelligence (AI) atau kecerdasan buatan, yaitu terkait deepfake yang tampak nyata, padahal sebetulnya palsu. Masalah deepfake ini jadi konsen utama Smith dalam menyikapi tren AI yang belakangan ini sedang berkembang.
Deepfake adalah video rekayasa atau materi digital yang dibuat oleh artificial intelligence (AI) atau kecerdasan buatan hingga menghasilkan gambar dan suara yang terlihat dan terdengar asli. Video dan gambar yang dimanipulasi ini dapat digunakan untuk berbagai tujuan berbahaya, termasuk penipuan keuangan, manipulasi politik, hingga balas dendam.
“Kita harus mengatasi masalah seputar deepfake. Kita perlu mengambil langkah-langkah untuk melindungi dari perubahan konten yang maksud untuk menipu orang melalui penggunaan AI,” kata Smith dalam pidatonya di Washington dikutip Reuters, Jumat (26/5/2023).
Deepfake sendiri sudah memakan cukup banyak korban. Bahkan baru-baru ini seorang pria di Tiongkok Utara menjadi korban penipuan dari kecanggihan teknologi deepfake. Polisi di kota Baotou di wilayah Mongolia Dalam, Tiongkok, mengatakan pelaku menggunakan teknologi deepfake untuk menyamar sebagai teman korban selama video call atau panggilan video, lalu meminta ditransfer uang sebesar 4,3 juta yuan atau lebih dari Rp 9 miliar.
Korban tersebut kemudian mentransfer uang yang diminta pelaku dengan keyakinan bahwa temannya memang sedang membutuhkan uang saat itu juga. Pria tersebut baru menyadari telah menjadi korban penipuan setelah temannya mengatakan tidak mengetahui situasi yang baru menimpanya.
Dari kejadian tersebut, pemerintah Tiongkok telah memperketat pengawasan terhadap teknologi dan aplikasi semacam itu di tengah meningkatnya penipuan yang didorong oleh AI, terutama yang melibatkan manipulasi data suara dan wajah.
Dalam laporan terbaru yang dirilis Kaspersky, jasa pembuat deepfake dengan kualitas tinggi saat ini juga kian marak ditawarkan di forum darknet dengan permintaan yang tinggi. Biaya video deepfake ini bervariasi mulai dari US$ 300 hingga US$ 20.000 per menit, tergantung dari tingkat kesulitan.
