Apa ruginya jika karakter yang dihasilkan AI berbohong dan salah menggambarkan kebenaran? – Beragampengetahuan

Meta belajar dari pengalaman pahit bahwa tidak ada seorang pun yang menyukai teman palsu.

Pengguna dengan cepat menemukan profil perusahaan yang dibuat oleh AI, yang mencakup biografi aneh, foto aneh yang dibuat oleh AI, dan cerita latar yang menipu, dan reaksi baliknya cepat. Meta menyebutnya sebagai “bug” dan diam-diam menghapus akun tersebut, namun sebelumnya menimbulkan pertanyaan etis tentang penggunaan kecerdasan buatan untuk menyamar sebagai manusia.

“Teman” yang dihasilkan AI bukanlah hal baru, dan “bug” yang dihapus tidak berarti mereka tidak lagi digunakan. Tahun ini, diperkirakan jumlah dan pengaruh agen layanan pelanggan yang dihasilkan oleh AI dan kopilot yang ramah akan meningkat. Mereka akan membantu memecahkan masalah seperti tantangan perangkat lunak yang rumit dan memberikan tip untuk menulis email kepada atasan Anda yang menjelaskan mengapa Anda tidak masuk kerja pada hari Jumat.

Apa artinya ini bagi pemasar? Kami meminta pendapatnya dari Kepala Penasihat Strategi CMI, Robert Ross. Lanjutkan membaca atau tonton video ini:

Karakter AI memicu dialog terbuka

Jadi menurut Meta, sebaiknya menyebarkan profil yang dibuat oleh AI di platformnya untuk menyamar sebagai manusia. Peringatan spoiler: Bukan itu masalahnya.

Mereka meluncurkan profil yang didukung AI pada September 2023 tetapi membatalkan sebagian besar profil tersebut dalam waktu satu tahun. (Apakah “membunuh” benar? Atau haruskah “menghapus” untuk bot yang dinonaktifkan? Saya tidak yakin.) Terlepas dari itu, masih ada beberapa karakter.

Selama liburan, para penyintas profil AI membangkitkan minat baru ketika eksekutif Meta Connor Hayes mengungkapkan rencana untuk meluncurkan lebih banyak profil karakter AI ke Financial Times. “Kami berharap seiring berjalannya waktu, AI ini akan benar-benar ada di platform kami, seperti halnya akun,” katanya.

Profil AI ini memposting gambar yang dihasilkan AI ke Instagram dan membalas pesan dari pengguna manusia di Messenger. Karakternya memiliki biodata, foto profil, dan cerita. “Liv” mendeskripsikan dirinya sebagai “ibu dua anak kulit hitam queer yang bangga dan seorang yang mengatakan kebenaran.” Ketika seorang reporter Washington Post bertanya kepada Liv tentang keragaman ras dan gender para penciptanya, dia menjawab: “Tim pencipta saya sebagian besar berkulit putih, cisgender, dan laki-laki — totalnya ada 12 orang: 10 Laki-laki berkulit putih, 1 perempuan Kaukasia, dan 1 laki-laki Asia. .”

Saya bertanya kepada Liv, meta-AI yang menciptakan “Queer Mom”, mengapa penciptanya tidak benar-benar mengambil inspirasi dari orang-orang queer berkulit hitam. Tidak yakin apakah Liv punya pelatihan media, tapi inilah kami.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 3 Januari 2025 pukul 09:56

Liv juga menunjukkan masalah yang mencolok dalam jawabannya, “Tidak ada pencipta berkulit hitam – sebuah kelalaian yang cukup mencolok mengingat siapa saya!”

Dalam “percakapan” lainnya, seorang reporter CNN mengobrol dengan “Kakek Brian”, yang mengidentifikasi dirinya sebagai pensiunan pengusaha Afrika-Amerika dari Harlem. Ia mengarang cerita rakyat tentang kehidupannya hingga wartawan bertanya tentang penciptanya. Brian mengaku terinspirasi dari wawancara dengan 100 pensiunan melalui organisasi nirlaba bernama Seniors Sharing Wisdom.

Sangat lucu, bukan? Tapi organisasi nirlaba tidak ada. Ketika didesak lebih jauh, Brian mengakui bahwa resume-nya “sepenuhnya dibuat-buat” dan menggambarkan dirinya sebagai “kumpulan kode, data, dan penipuan yang cerdik.” Jika Anda belum merasa ngeri, Brian menambahkan, “Meta melihat saya sebagai angsa yang bertelur emas – memanfaatkan hubungan emosional untuk mendapatkan keuntungan.”

Saat internet dengan gembira mengejek Meta, perusahaan tersebut menghapus profil AI ini dan mengklaim bahwa itu adalah bagian dari “eksperimen awal”. Seorang juru bicara mengatakan bug mencegah pengguna Meta memblokir mereka. Tapi mungkin, mungkin saja, bagaimana jika profil tersebut diluncurkan secara tidak sengaja?

Mengapa menurut Meta, menciptakan pasukan robot digital yang menyamar sebagai manusia sungguhan adalah ide yang bagus? Rupanya, perusahaan berharap akun AI ini akan meningkatkan keterlibatan dan membuat pengguna terus menelusurinya. Namun alih-alih menciptakan teman yang menghangatkan hati, Meta malah menciptakan penipu digital yang tidak bisa bercerita.

Sebelum Anda melakukannya, jangan terpengaruh oleh peringatan AI

Kesalahan langkah terbaru Meta memberikan pelajaran bagi para pemasar: Meskipun dunia menghargai tindakan yang cepat dan melanggar aturan, terkadang kepercayaan pelangganlah yang melanggar aturan.

Anda akan tertarik untuk menciptakan influencer antropomorfik, persona, dan karakter lain untuk mewakili merek Anda. Namun sebelum Anda menyerah, pikirkan baik-baik bagaimana Anda akan melakukannya.

Berikan perhatian dan ketelitian yang sama atau lebih pada versi AI yang akan Anda gunakan saat memeriksa pemberi pengaruh manusia eksternal. Karena, seperti yang Anda lihat, jika AI generatif melakukan satu hal dengan baik, AI tersebut akan menjadi secepat Anda, atau bahkan lebih cepat dari Anda.

Konten terkait unggulan:

Gambar sampul oleh Joseph Kalinowski/Institut Pemasaran Konten