Deepfake tersebar luas di semua kejahatan mulai dari kejahatan seks, penipuan hingga pelanggaran undang-undang pemilu – Beragampengetahuan

Oleh KTimes

Para peneliti di University College London, empat tahun lalu, menilai teknologi deepfake sebagai “kejahatan berbasis AI paling berbahaya yang mungkin terjadi dalam 15 tahun ke depan”.

Penilaian ini merupakan hasil diskusi antara 31 ahli dari akademisi dan penegak hukum, yang mengevaluasi 18 jenis kejahatan berdasarkan faktor-faktor seperti potensi kerugian dan kelayakannya. Teknologi deepfake muncul di tengah kekhawatiran akan potensi penyalahgunaannya dalam kejahatan serius.

Kejahatan deepfake, yang dapat menciptakan “kepalsuan realistis” hanya dalam hitungan menit dengan menggunakan kecerdasan buatan, juga sedang meningkat di negara ini. Deepfake tidak hanya digunakan dalam kejahatan seks yang sangat kontroversial tetapi juga dalam menyebarkan informasi palsu atau menyamar sebagai selebriti untuk penipuan.

Para ahli mengatakan bahwa meskipun regulasi teknologi itu sendiri tidak mungkin dilakukan, sekarang saatnya untuk mengambil alternatif seperti peningkatan kerja sama internasional.

Video yang menampilkan Ketua Yoon Suk Yeol dibuat menggunakan teknologi deepfake / Diambil dari TikTok

Pelecehan wajah terhadap selebriti dan orang biasa

Pada bulan Februari, muncul video berdurasi 46 detik yang memperlihatkan Presiden Yoon Suk Yeol berkata, “Sayalah yang menegakkan hukum untuk melecehkan orang.”

Ini adalah salah satu contoh paling menonjol dari video deepfake yang menargetkan politisi di Korea Selatan. Dua bulan kemudian, seorang pria berusia 50-an yang membuat dan mendistribusikan video tersebut di media sosial ditangkap karena pencemaran nama baik berdasarkan Undang-Undang Jaringan Informasi dan Komunikasi.

Penggunaan deepfake untuk mempengaruhi pemilu juga meningkat. Menurut data yang diperoleh Perwakilan Partai Demokrat Korea Han Byung-do dari Komisi Pemilihan Umum Nasional (NEC), terdapat 388 postingan kampanye pemilu ilegal yang menggunakan deepfake yang dilaporkan selama periode kampanye pemilu pada 10 April.

Dari jumlah tersebut, 97 (25%) tidak dihapus meskipun ada permintaan NEC. Jumlah pelanggaran UU Pemilu Pegawai Negeri Sipil secara online juga meningkat signifikan hingga mencapai 74.172 kasus dibandingkan 1.793 kasus pada pemilu 2012.

Selebriti yang kerap tampil di depan kamera juga kerap menjadi sasaran kejahatan semacam itu. Tahun lalu, sekelompok penipu membuat video deepfake yang menampilkan aktor Jo In-sung dan Song Hye-kyo mendorong investasi, sehingga memikat korbannya untuk melakukan penipuan.

Pada bulan Februari tahun ini, sebuah kasus di Hong Kong melibatkan penggunaan wajah orang normal. Menurut CNN, seorang karyawan sebuah perusahaan multinasional mentransfer sekitar $25 juta setelah menerima permintaan dari seseorang yang mereka yakini sebagai chief financial officer.

Karyawan tersebut awalnya skeptis terhadap email tersebut, namun kecurigaan mereka mereda ketika mereka melihat wajah-wajah yang mereka kenal selama konferensi video dengan rekan kerja lainnya. Namun, keseluruhan video tersebut adalah deepfake.

Sebuah poster memperingatkan bahwa video deepfake ilegal akan dikenakan hukuman berat. File Times Korea

Sulit untuk menghentikan kemajuan teknologi

Menghentikan pesatnya kemajuan teknologi deepfake itu sendiri merupakan sebuah tantangan, karena sudah ada lingkungan di mana siapa pun dapat dengan mudah membuat dan mendistribusikan konten semacam itu.

“Deepfake telah ada selama beberapa tahun, tetapi telah menjadi masalah sosial ketika non-ahli dapat membuatnya dengan mudah,” kata Kim Min-ho, seorang profesor di Fakultas Hukum Universitas Sungkyunkwan. Kegiatan ilegal perlu dipantau dan ditekan melalui jaringan terdistribusi seperti Telegram.”

Ada pendapat yang berkembang bahwa masyarakat perlu dididik tentang fakta bahwa deepfake tidak hanya untuk hiburan tetapi juga bisa menjadi kejahatan serius.

Kejahatan terkait deepfake yang terjadi harus diawasi secara ketat melalui kerja sama internasional.

Lim Jong-in, profesor emeritus di Sekolah Pascasarjana Keamanan Informasi Universitas Korea, mengatakan: “Deepfake dapat menyebarkan suasana ketidakpercayaan dalam masyarakat kita, bahkan berpotensi menyebabkan krisis demokrasi”. “Kerja sama internasional sangatlah penting, sama seperti komunitas global menangani kejahatan narkoba.”

Artikel dari Hankook Ilbo ini, terbitan sejenis The Korea Times, diterjemahkan oleh AI sintetis dan diedit oleh The Korea Times.