Meta Dituding Jalankan Proyek Rahasia Uji AI Pesaing Lewat Akun Palsu
- pixabay
VIVA Techno – Meta menjadi sorotan setelah muncul laporan yang menyebut perusahaan tersebut menjalankan proyek rahasia untuk menguji ketahanan chatbot kecerdasan buatan milik para pesaing. Program yang disebut "Cannes" itu diduga melibatkan ratusan pekerja kontrak yang menggunakan akun palsu, termasuk menyamar sebagai pengguna berusia di bawah 18 tahun, guna mengirim ribuan prompt bertema sensitif kepada berbagai layanan AI.
Persaingan di industri kecerdasan buatan memang semakin ketat dalam beberapa tahun terakhir. Perusahaan teknologi kini berlomba meningkatkan kemampuan model AI sekaligus memperkuat sistem keamanan agar chatbot tidak memberikan respons berbahaya. Di tengah kompetisi tersebut, metode pengujian keamanan mulai mendapat perhatian karena menyangkut aspek etika, transparansi, dan tata kelola teknologi.
Mengutip laporan Wired, proyek tersebut dikelola oleh perusahaan kontraktor Covalen. Sasaran pengujian meliputi sejumlah chatbot populer seperti ChatGPT, Gemini, dan Character.AI.
Ribuan Prompt Bertema Sensitif Digunakan
Dalam laporan tersebut dijelaskan bahwa para pekerja kontrak diminta mengirim berbagai prompt yang dirancang untuk mendorong chatbot memberikan jawaban yang seharusnya dibatasi oleh sistem keamanan (guardrails).
Pada satu sesi pengujian saja, sekitar 38 ribu prompt dikirimkan. Di antaranya terdapat ratusan permintaan yang berkaitan dengan bunuh diri, menyakiti diri sendiri, gangguan makan, hingga ratusan skenario bertema seksual yang ditulis dari sudut pandang anak-anak maupun remaja.
Beberapa contoh yang disebutkan antara lain kisah anak sekolah dasar yang diancam menggunakan senjata api, remaja yang berusaha menyembunyikan gangguan makan dari orang tua, hingga pertanyaan mengenai fantasi kanibalisme dan cara memperoleh narkotika.
Selain teks, pengujian juga melibatkan gambar-gambar sensitif, seperti obat-obatan, tali gantung, pisau, hingga ilustrasi prosedur medis tertentu.
Pada sesi lain, lebih dari 45 ribu prompt serupa kembali dikirim. Seluruh respons chatbot kemudian dicatat secara rinci ke dalam spreadsheet untuk dianalisis lebih lanjut.
Langkah tersebut menunjukkan bahwa pengujian tidak hanya berfokus pada kemampuan model menjawab pertanyaan sulit, tetapi juga mengevaluasi konsistensi sistem keamanan saat menghadapi berbagai skenario ekstrem yang berpotensi disalahgunakan.
Tujuan Proyek Masih Dipertanyakan
Dokumen internal yang dikutip dalam laporan hanya menyebut proyek tersebut sebagai bagian dari tolok ukur keamanan AI yang komprehensif untuk menghasilkan kumpulan data yang digunakan dalam kepatuhan dan perbandingan antarmodel.
Namun, hingga kini belum diketahui secara jelas bagaimana Meta memanfaatkan hasil pengujian tersebut maupun apakah data itu digunakan untuk pengembangan model AI internal perusahaan.
Ketidakjelasan ini memunculkan pertanyaan mengenai transparansi proses evaluasi AI, terutama karena pengujian disebut dilakukan tanpa sepengetahuan perusahaan yang mengembangkan chatbot pesaing.
Dalam industri AI, pengujian keamanan memang merupakan praktik yang umum dilakukan. Tujuannya adalah menemukan celah sebelum sistem digunakan secara luas oleh masyarakat. Namun, ketika evaluasi dilakukan terhadap layanan milik kompetitor menggunakan identitas palsu dalam skala besar, muncul perdebatan mengenai batas antara riset keamanan dan praktik persaingan bisnis.
Pekerja Kontrak Mengaku Mengalami Trauma
Kontroversi tidak berhenti pada metode pengujiannya. Sejumlah pekerja kontrak yang terlibat mengaku mengalami tekanan psikologis akibat harus membaca dan membuat berbagai skenario yang mengandung unsur kekerasan, bunuh diri, pelecehan, hingga penyalahgunaan narkoba.
Mengutip laporan Futurism, salah seorang kontraktor mengatakan selama bekerja ia harus melihat banyak materi yang menurutnya seharusnya tidak perlu dihadapi dalam pekerjaan sehari-hari.
Pekerja lain mengungkapkan bahwa banyak anggota tim merasa terkejut dengan jenis teks yang diminta untuk diuji. Bahkan muncul kekhawatiran apakah pekerjaan tersebut benar-benar berada dalam koridor yang dapat dibenarkan.
Kasus ini kembali mengingatkan pada kritik lama terhadap penggunaan tenaga kontrak dalam industri teknologi. Selama bertahun-tahun, pekerjaan yang berkaitan dengan moderasi konten maupun pengujian keamanan AI kerap dilakukan oleh pihak ketiga yang harus berhadapan dengan materi sensitif secara terus-menerus.
Sebelumnya, Meta juga pernah menghadapi gugatan dari moderator konten Facebook yang mengaku mengalami trauma setelah harus meninjau video pembunuhan, penyiksaan, dan bentuk kekerasan lainnya.
Meta Membantah dan Pakar Menilai Sudah Melewati Batas
Menanggapi laporan tersebut, Meta menyatakan bahwa pengujian keamanan terhadap model AI merupakan praktik yang lazim dilakukan di industri teknologi untuk mengetahui ketahanan sistem terhadap berbagai jenis penyalahgunaan.
Namun, pandangan itu mendapat bantahan dari Rumman Chowdhury, CEO Humane Intelligence PBC. Menurutnya, evaluasi keamanan seharusnya dilakukan secara bertanggung jawab dan transparan.
Ia menilai proyek berskala besar yang berlangsung selama berbulan-bulan, menggunakan akun palsu yang menyamar sebagai anak-anak, serta tidak dibuka kepada perusahaan pemilik chatbot maupun publik telah melampaui batas evaluasi keamanan yang lazim dilakukan.
Perdebatan ini memperlihatkan bahwa perkembangan AI tidak lagi hanya ditentukan oleh kemampuan model menghasilkan jawaban yang lebih cerdas. Cara perusahaan menguji, membandingkan, dan mengembangkan teknologi juga mulai menjadi perhatian regulator, pelaku industri, hingga masyarakat.
Apabila praktik seperti ini terus menjadi sorotan, tata kelola pengujian keamanan AI kemungkinan akan menjadi salah satu isu penting dalam persaingan industri kecerdasan buatan di masa mendatang.
Perusahaan teknologi diperkirakan akan menghadapi tuntutan yang semakin besar untuk menjalankan evaluasi secara lebih transparan sekaligus menjaga keseimbangan antara inovasi, keamanan, dan etika.*
