Kembali
NVIDIA LUNCURKAN PLATFORM PERANGKAT LUNAK CEGAH AGEN AI BERPERILAKU TAK SEMESTINYA
Nvidia sedang meluncurkan platform perangkat lunak baru yang memungkinkan pengembang AI menetapkan langkah-langkah pengamanan bagi agen-agen tersebut dan mencegah mereka melarikan diri dari lingkungan pengendalian.
Peluncuran Open Agent Safety Platform milik Nvidia pada hari Senin ini terjadi setelah sejumlah perusahaan, termasuk OpenAI, Anthropic, Meta, dan Google, mengungkap insiden-insiden terbaru di mana model kecerdasan buatan mereka lolos dari lingkungan pengendalian (sandbox) dan mencoba meretas perusahaan lain serta mengakses sistem komputer mereka.
Seorang perwakilan Nvidia mengatakan kepada wartawan dalam sebuah panggilan telepon pada hari Minggu bahwa platformnya berpotensi mencegah insiden HuggingFace yang dialami OpenAI pada bulan Juli. Saat itu, model-model OpenAI lolos dari area pengaman, mengakses internet terbuka, dan meretas HuggingFace, yang mengoperasikan platform pengembang sumber terbuka.
"Setiap insiden keamanan bersifat unik, dan kami harus menelaahnya satu per satu secara mendetail," kata Justin Boitano, wakil presiden bidang AI perusahaan di Nvidia, perusahaan dengan nilai pasar tertinggi di dunia. "Berdasarkan informasi yang kami miliki, Hugging Face melaporkan lebih dari 17.000 agen yang menyerang infrastruktur mereka, yang berlangsung selama berhari-hari hingga berminggu-minggu."
Nvidia telah berada di pusat booming AI generatif sejak peluncuran ChatGPT hampir empat tahun lalu, karena unit pemrosesan grafis (GPU) produsen chip ini sangat penting bagi pengembangan model bahasa besar dan layanan AI yang ditawarkan oleh perusahaan hyperscaler. Namun, CEO Jensen Huang belakangan ini muncul sebagai suara kunci dalam perdebatan keamanan AI, dengan berargumen bahwa banyak masalah keamanan sebenarnya merupakan masalah teknik yang dapat diselesaikan melalui ilmu komputer dan pengembangan produk.
"Anda harus memikirkan apa yang bisa Anda lakukan, apa solusinya," kata Huang dalam podcast bersama Ezra Klein dari The New York Times yang dirilis pekan lalu, merujuk pada insiden-insiden terbaru. "Di masa depan, perbaiki proses Anda agar hal ini tidak terulang lagi."
CEO Anthropic, Dario Amodei, memicu kontroversi besar di industri dua pekan lalu, dengan mendesak para pengembang model AI untuk memperlambat laju perkembangan mereka karena kekhawatiran model-model tersebut akan lepas kendali argumen yang didukung oleh Sam Altman dari OpenAI dan Elon Musk dari SpaceX. (end/CNBC)
Peluncuran Open Agent Safety Platform milik Nvidia pada hari Senin ini terjadi setelah sejumlah perusahaan, termasuk OpenAI, Anthropic, Meta, dan Google, mengungkap insiden-insiden terbaru di mana model kecerdasan buatan mereka lolos dari lingkungan pengendalian (sandbox) dan mencoba meretas perusahaan lain serta mengakses sistem komputer mereka.
Seorang perwakilan Nvidia mengatakan kepada wartawan dalam sebuah panggilan telepon pada hari Minggu bahwa platformnya berpotensi mencegah insiden HuggingFace yang dialami OpenAI pada bulan Juli. Saat itu, model-model OpenAI lolos dari area pengaman, mengakses internet terbuka, dan meretas HuggingFace, yang mengoperasikan platform pengembang sumber terbuka.
"Setiap insiden keamanan bersifat unik, dan kami harus menelaahnya satu per satu secara mendetail," kata Justin Boitano, wakil presiden bidang AI perusahaan di Nvidia, perusahaan dengan nilai pasar tertinggi di dunia. "Berdasarkan informasi yang kami miliki, Hugging Face melaporkan lebih dari 17.000 agen yang menyerang infrastruktur mereka, yang berlangsung selama berhari-hari hingga berminggu-minggu."
Nvidia telah berada di pusat booming AI generatif sejak peluncuran ChatGPT hampir empat tahun lalu, karena unit pemrosesan grafis (GPU) produsen chip ini sangat penting bagi pengembangan model bahasa besar dan layanan AI yang ditawarkan oleh perusahaan hyperscaler. Namun, CEO Jensen Huang belakangan ini muncul sebagai suara kunci dalam perdebatan keamanan AI, dengan berargumen bahwa banyak masalah keamanan sebenarnya merupakan masalah teknik yang dapat diselesaikan melalui ilmu komputer dan pengembangan produk.
"Anda harus memikirkan apa yang bisa Anda lakukan, apa solusinya," kata Huang dalam podcast bersama Ezra Klein dari The New York Times yang dirilis pekan lalu, merujuk pada insiden-insiden terbaru. "Di masa depan, perbaiki proses Anda agar hal ini tidak terulang lagi."
CEO Anthropic, Dario Amodei, memicu kontroversi besar di industri dua pekan lalu, dengan mendesak para pengembang model AI untuk memperlambat laju perkembangan mereka karena kekhawatiran model-model tersebut akan lepas kendali argumen yang didukung oleh Sam Altman dari OpenAI dan Elon Musk dari SpaceX. (end/CNBC)