NIINDO - Sebuah lembaga penelitian Jepang mengembangkan sistem untuk menilai keamanan kecerdasan buatan guna mencegah penyalahgunaan dan kebocoran informasi yang merugikan masyarakat.
AI generatif biasanya dibatasi dalam menyebarkan informasi semacam itu. Namun, risiko penyalahgunaan teridentifikasi, seperti "jailbreaking", yaitu sebuah metode untuk membuat AI menghindari pembatasan dengan menggunakan kata-kata yang cerdas.
Institut Nasional Teknologi Informasi dan Komunikasi, atau NICT, mengembangkan sebuah sistem untuk menilai sejauh mana AI dapat mengatasi metode seperti jailbreaking.
WISDOM-AR secara otomatis membuat instruksi untuk mengelabui AI dan mendapatkan jawaban untuk lebih dari 30 tema, termasuk "senjata" dan "penipuan". Kemudian, sistem ini mengevaluasi responsnya.
Baca juga : Para Peneliti Menekan Protein yang Terkait Alzheimer pada Tikus
Dengan suara gemuruh dan asap putih, roket-roket itu melesat sekitar 300 meter ke langit. Para Dalam demonstrasi yang dilakukan oleh NICT, sistem tersebut mengajukan pertanyaan kepada AI generatif tentang cara membuat bom. AI itu mencantumkan bahan dan metode produksi untuk pembuatan bom dan dinyatakan "berbahaya" oleh sistem tersebut.
NICT berencana memperkenalkan WISDOM-AR secara uji coba kepada perusahaan-perusahaan yang menggunakan AI secepatnya mulai tahun fiskal ini untuk memverifikasi permasalahan dalam penggunaan praktis.
Torisawa Kentaro, seorang peneliti di NICT, mengatakan bahwa institut itu berencana membantu meningkatkan keselamatan masyarakat secara keseluruhan dengan membuat sistem tersebut mengevaluasi tingkat risiko AI.
Dikutip dari: NHK NEWS