AI pintar berarti risiko yang lebih besar – mengapa pagar pemberi pagar lebih penting dari sebelumnya – Beragampengetahuan

Badan -badan kecerdasan buatan mengubah bisnis umum mereka, terutama permainan pemasaran. Sementara mereka membawa otomatisasi dan efisiensi ke tingkat berikutnya, mereka membutuhkan tata kelola yang kuat. Ketika agen AI menjadi lebih pintar dan lebih tertanam dalam operasi harian, memastikan mereka menggunakannya secara bertanggung jawab, aman dan etis bukan hanya pilihan yang baik, tetapi juga suatu keharusan.

“Masalahnya sama, apakah itu dihasilkan AI, AI tradisional, pembelajaran mesin, atau agen,” kata Kavitha Chennupati, direktur senior manajemen produk global di SS&C Blue Prism. “

Hal -hal yang membuat AI bermanfaat – dapat menganalisis sejumlah besar data, skala dan mempersonalisasikan pengalaman pelanggan, hanya menyebutkan dua jenis data – dapat meningkatkan taruhan jika Anda mengalami masalah.

“Dampak dari tidak ada kualitas dan pemerintahan yang baik lebih tinggi dari itu,” kata Mani Gill, wakil presiden produk di Boomi.ai.

Itulah mengapa Anda harus memiliki pagar balik AI. Karena pemasaran memimpin dalam adopsi AI, pemasar harus tahu apa itu pagar pembatas dan bagaimana mengembangkannya.

Hal pertama yang perlu diketahui adalah bahwa Anda tidak mulai dengan mempelajari AI. Anda mulai dengan seseorang yang menentukan apa aturannya.

“Kami mengadopsi filosofi yang memprioritaskan tata kelola,” kata Chennupati. “Persiapkan yayasan sebelum Anda mulai mengintegrasikan teknologi.”

Organisasi mana pun yang mengimplementasikan AI harus terlebih dahulu membentuk komite tata kelola. Dewan terdiri dari orang -orang dari berbagai fungsi bisnis yang memiliki kebijakan AI untuk segala hal mulai dari aturan merek hingga orang yang perlu diintervensi dan seterusnya.

Bangun pagar: beralih ke tindakan otonom

Boomi AI Studio menggabungkan “pagar etis bawaan” ke dalam lingkungan desainnya. Ini dirancang untuk memandu pengembangan dan penyebaran tindakan agen yang bertanggung jawab. Selain fitur khusus platform, Chennupati juga menguraikan beberapa mekanisme utama untuk membangun pagar pembatas, termasuk:

• Akan memutuskan untuk menyebutkan sumber yang dapat dipercaya: Diperlukan bahwa agen membenarkan tindakannya dengan merujuk data atau logika yang diandalkan.
• Pemeriksaan berbasis kesamaan: Gunakan beberapa model AI untuk melakukan tugas yang sama dan membandingkan output mereka untuk mengidentifikasi perbedaan atau potensi kesalahan.
• Tes konfrontatif: Selama proses pengujian, agen sengaja ditantang dengan informasi yang salah atau menyesatkan untuk menilai ketahanan dan kepatuhannya terhadap batas -batas.

Ini membantu memastikan bahwa agen bertindak secara efektif dan rasional dalam parameter yang dapat diterima.

Deeper: Apakah pemirsa sintetis masa depan pengujian pemasaran?

Pastikan kunci: akses dan kontrol data

Fokus utama tata kelola AI adalah pada keamanan data dan kontrol akses. Yang terbaik adalah mengimplementasikan keamanan akses berbasis peran yang sama yang harus Anda gunakan untuk manusia.

“Ini adalah kasus penggunaan agen yang khas: bukankah lebih baik jika kami mengizinkan karyawan kami untuk melayani diri sendiri tentang diri mereka sendiri dan tim mereka?” “Sangat mudah untuk menghubungkan informasi yang terletak di HCMA ke sistem SDM Anda.

Ini juga berlaku untuk model AI di luar kendali langsung organisasi.

“Agen agen menjalankan model yang tidak Anda kendalikan,” kata Chennupati. “Anda perlu memahami aspek privasi data.”

Kewaspadaan terus menerus

Hukum privasi yang berbeda berarti Anda harus tahu di mana data tinggal dan di mana ia dikirim. Jika tidak, Anda akan berisiko denda dan denda. Anda juga harus memiliki mekanisme untuk memahami perubahan hukum dan peraturan.

Salah satu hal yang membuat AI sangat berharga adalah kemampuannya untuk belajar dan menerapkan pembelajaran ini. Namun, ini berarti Anda harus terus memantau AI untuk melihat apakah aturannya masih diikuti. Untungnya, Anda dapat menggunakan AI untuk memantau AI. Sistem terpisah memeriksa pengecualian untuk mengidentifikasi kapan perilaku proxy menyimpang dari spesifikasi yang diharapkan.

Namun, Anda tidak dapat meletakkan semua ini di AI. Baik Gill dan Chennupati menyoroti perlunya melanjutkan intervensi manusia.

“Ini bukan hanya tentang pengawasan, tetapi juga mendefinisikan ambang batas untuk metrik dengan cara Anda ingin membawa manusia ke dalam lingkaran,” kata Chennenupati. “

Kecerdasan buatan tumbuh pada tingkat yang menakjubkan dan semakin terintegrasi dengan berbagai bagian operasi bisnis. Sekarang kita dapat menyelesaikan beberapa hari, minggu atau lebih dalam detik. Berikut ini adalah kekuatan yang kuat – bagi saya – tanggung jawab besar. Seperti kata pepatah, kesalahan adalah manusia. Untuk benar -benar mengacaukan, Anda membutuhkan komputer.

Deeper: Salesforce & Microsoft dengan agen penjualan AI baru