Penggunaan alat Anthropic dalam serangan siber memberikan peringatan mengenai risiko kecerdasan buatan – Beragampengetahuan

Startup kecerdasan buatan Anthropic mengejutkan dunia teknologi ketika mengumumkan pada tanggal 13 November bahwa mereka telah menemukan kasus serangan siber pertama yang tercatat, yang sebagian besar dilakukan menggunakan alat kecerdasan buatan tanpa campur tangan manusia.

Anthropic mengatakan dalam laporan terperinci bahwa mereka memiliki “keyakinan tinggi” bahwa kelompok Tiongkok yang didukung negara menggunakan model bahasa besar agen intelijen buatan Anthropic, Claude Code, untuk melakukan operasi spionase canggih guna mengumpulkan intelijen dari sekitar 30 organisasi, termasuk bank, perusahaan teknologi, dan lembaga pemerintah.

Anthropic mengatakan kecepatan dan skala operasi ini harus menjadi peringatan bagi organisasi-organisasi untuk meningkatkan pertahanan siber mereka. “Meskipun kami memperkirakan kemampuan ini akan terus berkembang, kami terkesan dengan seberapa cepat kemampuan tersebut dikembangkan dalam skala besar,” kata perusahaan tersebut.

Peringatan ini merupakan pengingat bahwa beberapa perusahaan mulai menyuarakan pendapat mereka: kecerdasan buatan merupakan risiko bisnis sekaligus peluang bisnis.

Meta bisa dibilang merupakan presentasi risiko terkait AI yang paling komprehensif hingga saat ini. Perusahaan tersebut mengatakan kepada investor dalam laporan 10-K tahun 2024 bahwa inisiatif AI, khususnya AI generatif, mungkin tidak berhasil. Selain itu, Mehta mengatakan proyek-proyek ini dapat “memiliki dampak yang signifikan [its] kinerja bisnis, reputasi atau keuangan. “

Bahasa Meta mencakup kategori yang diharapkan seperti akurasi prediksi dan keandalan sistem. Hal ini juga berlaku untuk aplikasi berbahaya yang mungkin lebih sulit dikendalikan—misalnya deepfake, misinformasi, diskriminasi, toksisitas, pelanggaran kekayaan intelektual, privasi data, keamanan siber, dan bahkan sanksi dan paparan pengendalian ekspor. Pengakuan Meta menandai keterbukaan yang langka dalam menyoroti manfaat kecerdasan buatan dari raksasa teknologi dengan motivasi bisnis yang kuat.

Perusahaan lain mungkin mengikuti jejak Meta karena kebutuhan. Kecerdasan buatan sedang berkembang pesat di semua bidang fungsional, dan dewan direksi umumnya mengakui bahwa mereka sedang berjuang untuk mengimbanginya. di sebuah jurnal wall street Pada pertemuan puncak bulan ini, anggota dewan yang mewakili merek-merek termasuk JPMorgan Chase, Disney, dan Amgen tampaknya setuju bahwa AI berkembang lebih cepat daripada kemampuan struktur tata kelola yang ada.

Kecepatan perkembangan AI penting karena undang-undang juga berubah. Di bawah kerangka pengawasan fidusia Delaware yang terus berkembang, pejabat perusahaan kini memiliki kewajiban yang jelas untuk mengidentifikasi dan meningkatkan risiko material dalam lingkup mereka. AI mudah untuk dikualifikasikan. Ini melibatkan data, pelanggan, karyawan, operasi, pengembangan produk, kepatuhan, kekayaan intelektual, keamanan siber, dan risiko merek. Pada saat yang sama, dewan direksi harus memastikan perusahaan mereka mempunyai sistem pemantauan yang dapat mengidentifikasi masalah-masalah ini. Dalam kondisi seperti ini, perusahaan harus secara proaktif mengatasi risiko-risiko ini dalam pengungkapan publiknya.

Dan kemudian ada sudut litigasi. zaman new york Mereka telah menghabiskan banyak uang untuk mengajukan tuntutan hukum terhadap OpenAI dan Microsoft, menuduh mereka menggunakan karya mereka tanpa izin. Penerbit menghabiskan $10,8 juta untuk litigasi pada tahun 2024 dan $2,4 juta pada kuartal ketiga tahun 2025 saja. ini era Bahkan uraikan biaya-biaya ini sebagai item baris khusus dalam laporan keuangan perusahaan.

Masih banyak kasus yang menunggu keputusan di pengadilan. Penulis termasuk George RR Martin mengatasi rintangan utama ketika hakim menyatakan bahwa sinopsis plot yang dihasilkan oleh ChatGPT mungkin melanggar hak cipta. Klaim pencemaran nama baik juga bermunculan, dan beberapa pihak meminta ganti rugi sebesar delapan digit atas pernyataan yang dibuat oleh kecerdasan buatan.

Ini bukanlah risiko teoritis, namun risiko nyata. Itu adalah biaya-biaya yang muncul dalam laporan keuangan perusahaan. Saat diperkecil, sebuah pola tampak terbentuk. Perusahaan secara aktif mengadopsi kecerdasan buatan agar tetap kompetitif di pasar. Namun mereka juga mulai memperingatkan investor bahwa teknologi ini membawa risiko yang signifikan – risiko operasional, tata kelola, hukum, dan reputasi. Peristiwa antropik menyoroti pentingnya mengembangkan praktik terbaik untuk mengelola risiko-risiko ini.

Jika penyerang canggih dapat menyalahgunakan sistem AI, perusahaan harus memeriksa kelemahan sistem keamanan mereka sendiri. Perusahaan yang gagal untuk segera mengungkapkan risiko tersebut mungkin akan menghadapi peningkatan pengawasan dari pemegang saham.

—

Ingin wawasan yang lebih cepat dan cerdas? beragampengetahuan menempatkan data yang Anda butuhkan di ujung jari Anda. Minta uji coba gratis Dan cari tahu bagaimana hal ini dapat mengubah alur kerja Anda.

***

Blog beragampengetahuan sedang dalam masa jeda karena libur Thanksgiving dan akan dilanjutkan pada hari Rabu, 3 Desember 2025.