Mozilla telah mengumumkan peluncuran program baru yang disebut 0Day Investigative Network (0Din) yang berfokus pada keamanan model bahasa besar (LLM) dan teknologi deep learning lainnya. Program ini bertujuan untuk meningkatkan keamanan dalam ekosistem teknologi AI generasi baru.

Dalam program ini, para peneliti dapat melaporkan masalah keamanan seperti injeksi cepat, penolakan layanan, “keracunan” data pelatihan, dan masalah keamanan lainnya yang diidentifikasi dalam model bahasa besar. Mozilla telah memilih untuk berfokus pada masalah keamanan yang dijelaskan dalam daftar OWASP Top 10 untuk Aplikasi LLM.

Jika Anda tertarik untuk berpartisipasi dalam program ini, Anda dapat mengirimkan temuan Anda ke alamat email ‘0din at mozilla.com’. Setelah laporan Anda diverifikasi dan diterima dalam cakupan program, Anda akan ditawari untuk menjual informasi tersebut. Jika tawaran diterima, vendor yang terkena dampak akan dihubungi untuk mengatasi masalah keamanan tersebut.

Mozilla belum memberikan informasi tentang jumlah pembayaran bug bounty atau produk-produk yang menjadi target dalam program ini.

Menurut Mozilla, tujuan dari 0Din adalah untuk membantu para peneliti independen dalam mengidentifikasi dan memperbaiki masalah keamanan dalam teknologi AI generasi baru. Mereka berharap bahwa program ini akan membantu dalam mengembangkan kerangka kerja keamanan baru dan praktik terbaik yang dirancang khusus untuk model bahasa besar, sistem berbasis perhatian, dan model generatif. Para peneliti diharapkan akan berperan penting dalam menetapkan standar keamanan untuk teknologi AI, sehingga memastikan penggunaannya yang aman dan andal dalam kehidupan sehari-hari.