Bersiaplah untuk Penipuan Media Sosial Berbasis AI – Beragampengetahuan

Sampai saat ini, sebagian besar penipuan media sosial dapat diprediksi.

Bot telah menjadi masalah besar di Twitter selama bertahun-tahun. Mereka menyamar sebagai pemegang akun nyata dan bahkan dapat meyakinkan orang bahwa bot itu nyata. “Bot” ini lebih seperti otomatisasi; mereka tidak berpura-pura menjadi orang sungguhan.

Selama 12 bulan terakhir, kecerdasan buatan generatif telah membantu pengelola media sosial membuat postingan yang terlihat seperti ditulis oleh copywriter, bukan robot. AI bertanggung jawab atas banyak video dan foto yang dibagikan di media sosial. Ini hampir menjadi rutinitas.

Di masa mendatang, penipuan baru dapat muncul di platform media sosial seperti Facebook dan Twitter. Beberapa dari mereka bahkan akan membodohi mereka yang mengira mereka paham teknologi.

Kecerdasan buatan berkembang lebih cepat dari yang diperkirakan siapa pun. Meskipun penipuan ini tidak diketahui secara luas, sebaiknya berhati-hati terhadap potensi penyalahgunaan.

Contoh kasus: Tidak lama kemudian Anda akan mulai melihat video “berbicara langsung” yang sangat realistis yang diposting oleh “influencer” yang sebenarnya adalah robot AI. Saya telah melihat eksperimen dengan konten semacam ini, tetapi belum ada hoax yang sebenarnya di mana AI menyamar sebagai orang sungguhan tanpa mengungkapkan kebenarannya. Saat ini, tidak satupun dari mereka terlihat nyata. Tidak akan lama sebelum mereka melakukannya.

Bot memiliki keunggulan unik dibandingkan orang sungguhan di media sosial. Mereka tidak pernah lelah.

“Bot pemberi pengaruh” dapat membuat konten sepanjang hari, mempostingnya di banyak akun, menyukai dan berkomentar terus-menerus. Karena tidak ada tata kelola yang nyata atas konten semacam itu, dan bot AI dapat dengan mudah mengelabui penjaga gerbang, tidak ada cara untuk membedakan postingan mana yang asli dan yang digerakkan oleh AI.

Bot AI mungkin dapat memengaruhi persepsi kita tentang produk, layanan, atau opini politik tertentu. Bot AI dapat menyebarkan disinformasi dan menyebabkan kebingungan dan kepanikan di pasar. Sudah ada banyak orang berpengaruh yang menyebarkan informasi yang salah dan teori konspirasi.

Bayangkan sebuah perusahaan membuat bot yang menyebarkan informasi yang salah terhadap para pesaingnya. Kami tidak benar-benar tahu apakah akun itu sah, atau bagaimana cara memverifikasi klaim apa pun dengan orang sungguhan.

Sudah menjadi sifat kita untuk mempercayai apa yang kita baca online. Kami tidak akan tahu itu hanya taktik pemasaran atau tipuan ketika videonya terlihat sangat nyata.

Ini baru permulaan. Bot AI juga dapat mulai mengobrol dengan kami melalui profil palsu ini, berpura-pura menjadi orang sungguhan. Anda juga dapat menghubungi kami dan mendapatkan suara asli.

Tentu saja, penipuan seperti ini sudah ada di Facebook, tetapi hal lain yang dapat terjadi antara lain akun palsu yang dijalankan oleh bot yang terlihat benar-benar nyata dan mengelabui kita agar mengira itu adalah manusia dan bukan bot. Setelah bot AI mendapatkan kepercayaan kami, mereka dapat meminta informasi pribadi dan bahkan terlibat dalam praktik penipuan lainnya.

Hal yang menakutkan tentang semua ini adalah bahwa hal itu bisa saja terjadi tanpa kita sadari. Akun AI di media sosial mungkin sudah berjalan dan berinteraksi dengan pengguna, berpura-pura terlihat seperti manusia.

Mengetahui bagaimana mencegah hal ini terjadi sangat penting.

Saya belum melihat solusi yang bagus. Ini adalah kesempatan bagi para profesional keamanan untuk terlibat dan memberikan saran. tanda air? Hukum AI digital? Hari-hari ini, sangat mudah untuk membuat akun media sosial tanpa harus memverifikasi siapa Anda, di mana Anda tinggal, atau apakah Anda orang sungguhan.

Apa yang lebih mungkin terjadi? Media sosial kemungkinan besar menjadi tempat penipuan yang digerakkan oleh AI pertama kali menyerang dan mendatangkan malapetaka. Kemudian kami akhirnya akan menyadari bahayanya dan mencoba memberlakukan beberapa undang-undang baru secepat mungkin.