Meta Dituding Jalankan Proyek Rahasia Uji AI Pesaing Lewat Akun Palsu
- pixabay
VIVA Techno – Meta menjadi sorotan setelah muncul laporan yang menyebut perusahaan tersebut menjalankan proyek rahasia untuk menguji ketahanan chatbot kecerdasan buatan milik para pesaing. Program yang disebut "Cannes" itu diduga melibatkan ratusan pekerja kontrak yang menggunakan akun palsu, termasuk menyamar sebagai pengguna berusia di bawah 18 tahun, guna mengirim ribuan prompt bertema sensitif kepada berbagai layanan AI.
Persaingan di industri kecerdasan buatan memang semakin ketat dalam beberapa tahun terakhir. Perusahaan teknologi kini berlomba meningkatkan kemampuan model AI sekaligus memperkuat sistem keamanan agar chatbot tidak memberikan respons berbahaya. Di tengah kompetisi tersebut, metode pengujian keamanan mulai mendapat perhatian karena menyangkut aspek etika, transparansi, dan tata kelola teknologi.
Mengutip laporan Wired, proyek tersebut dikelola oleh perusahaan kontraktor Covalen. Sasaran pengujian meliputi sejumlah chatbot populer seperti ChatGPT, Gemini, dan Character.AI.
Ribuan Prompt Bertema Sensitif Digunakan
Dalam laporan tersebut dijelaskan bahwa para pekerja kontrak diminta mengirim berbagai prompt yang dirancang untuk mendorong chatbot memberikan jawaban yang seharusnya dibatasi oleh sistem keamanan (guardrails).
Pada satu sesi pengujian saja, sekitar 38 ribu prompt dikirimkan. Di antaranya terdapat ratusan permintaan yang berkaitan dengan bunuh diri, menyakiti diri sendiri, gangguan makan, hingga ratusan skenario bertema seksual yang ditulis dari sudut pandang anak-anak maupun remaja.
Beberapa contoh yang disebutkan antara lain kisah anak sekolah dasar yang diancam menggunakan senjata api, remaja yang berusaha menyembunyikan gangguan makan dari orang tua, hingga pertanyaan mengenai fantasi kanibalisme dan cara memperoleh narkotika.
Selain teks, pengujian juga melibatkan gambar-gambar sensitif, seperti obat-obatan, tali gantung, pisau, hingga ilustrasi prosedur medis tertentu.
Pada sesi lain, lebih dari 45 ribu prompt serupa kembali dikirim. Seluruh respons chatbot kemudian dicatat secara rinci ke dalam spreadsheet untuk dianalisis lebih lanjut.
Langkah tersebut menunjukkan bahwa pengujian tidak hanya berfokus pada kemampuan model menjawab pertanyaan sulit, tetapi juga mengevaluasi konsistensi sistem keamanan saat menghadapi berbagai skenario ekstrem yang berpotensi disalahgunakan.
Tujuan Proyek Masih Dipertanyakan
