Bersiaplah untuk Penipuan Media Sosial Berbasis AI – Beragampengetahuan

Hingga beberapa bulan terakhir, sebagian besar penipuan media sosial cukup dapat diprediksi dan terkenal.

Bot telah merajalela di Twitter selama bertahun-tahun, menyamar sebagai pemegang akun nyata dan bahkan menipu orang agar mengira mereka adalah manusia. “Bot” ini lebih seperti otomatisasi; mereka tidak berpura-pura menjadi orang sungguhan.

Selama setahun terakhir, kecerdasan buatan generatif telah membantu manajer media sosial membuat postingan yang terlihat seperti ditulis oleh copywriter, bukan bot. Dan, kita semua tahu bahwa banyak foto dan video yang beredar di platform media sosial dibuat oleh kecerdasan buatan. Ini hampir menjadi rutinitas.

Namun, dalam waktu dekat, penipuan baru akan muncul di platform seperti Facebook dan Twitter, beberapa di antaranya bahkan akan menipu orang yang lebih paham teknologi di antara kita.

Salah satu alasannya adalah kecerdasan buatan berkembang lebih cepat dari yang diperkirakan siapa pun. Meskipun penipuan ini tidak diketahui secara luas, sebaiknya berhati-hati terhadap potensi penyalahgunaan.

Contoh kasus: Tidak lama kemudian Anda akan mulai melihat video “berbicara langsung” yang sangat realistis yang diposting oleh “influencer” yang sebenarnya adalah robot AI. Saya telah melihat eksperimen dengan konten semacam ini, tetapi belum ada hoax yang sebenarnya di mana AI menyamar sebagai orang sungguhan tanpa mengungkapkan kebenarannya. Tak satu pun dari ini terlihat realistis saat ini. Tidak akan lama sebelum mereka melakukannya.

Yang membuat saya khawatir tentang AI yang menyamar sebagai orang sungguhan di media sosial adalah bot memiliki keunggulan yang tidak biasa dibandingkan pengguna sungguhan: Mereka tidak pernah lelah.

“Bot pemberi pengaruh” dapat membuat konten sepanjang hari, mempostingnya di banyak akun, menyukai dan berkomentar terus-menerus. Karena tidak ada tata kelola yang nyata atas konten semacam itu, dan bot AI dapat dengan mudah mengelabui penjaga gerbang, tidak ada cara untuk membedakan postingan mana yang asli dan yang digerakkan oleh AI.

Artinya, bot AI dapat memengaruhi produk dan layanan kami serta pandangan politik, menyebarkan informasi yang salah, dan bahkan menyebabkan kepanikan dan gangguan pasar. Sudah ada banyak orang berpengaruh yang menyebarkan informasi yang salah dan teori konspirasi.

Bayangkan bot AI yang dibuat oleh perusahaan mulai menyebarkan informasi yang salah tentang pesaing. Kami tidak benar-benar tahu apakah akun itu sah, atau bagaimana cara memverifikasi klaim apa pun dengan orang sungguhan.

Sudah menjadi sifat manusia untuk secara otomatis mempercayai apa yang kita lihat online. Kami tidak akan tahu itu hanya taktik pemasaran atau tipuan ketika videonya terlihat sangat nyata.

Ini baru permulaan. Bot AI juga dapat mulai mengobrol dengan kami menggunakan akun palsu ini, menyamar sebagai orang sungguhan. Kemudian mereka dapat memanggil kami dengan suara asli mereka.

Tentu saja, penipuan seperti ini sudah ada di Facebook, tetapi hal lain yang dapat terjadi antara lain akun palsu yang dijalankan oleh bot yang terlihat benar-benar nyata dan mengelabui kita agar mengira itu adalah manusia dan bukan bot. Setelah bot AI membangun kepercayaan, mereka dapat meminta kami untuk mengungkapkan detail penting tentang kehidupan kami dan pada akhirnya melanggengkan penipuan identitas lainnya.

Hal yang menakutkan tentang semua ini adalah bahwa hal itu bisa saja terjadi tanpa kita sadari. Mungkin saat ini ada beberapa akun media sosial bertenaga AI yang mengumpulkan jumlah pengikut, terlibat dengan kami, dan berpura-pura menjadi orang sungguhan.

Pertanyaannya adalah bagaimana mencegah hal ini terjadi.

Saya belum melihat solusi yang bagus. Ini adalah kesempatan bagi para profesional keamanan untuk terlibat dan memberikan saran. tanda air? Semacam undang-undang AI digital? Hari-hari ini, sangat mudah untuk membuat akun media sosial tanpa harus memverifikasi siapa Anda, di mana Anda tinggal, atau apakah Anda orang sungguhan.

Apa yang lebih mungkin terjadi? Penipuan bertenaga AI pertama akan muncul di media sosial dan menyebabkan kerusakan nyata. Kemudian kami akhirnya akan menyadari bahayanya dan mencoba memberlakukan beberapa undang-undang baru secepat mungkin.