Meta Dituding Jalankan Proyek Rahasia Uji AI Pesaing Lewat Akun Palsu
- pixabay
Dokumen internal yang dikutip dalam laporan hanya menyebut proyek tersebut sebagai bagian dari tolok ukur keamanan AI yang komprehensif untuk menghasilkan kumpulan data yang digunakan dalam kepatuhan dan perbandingan antarmodel.
Namun, hingga kini belum diketahui secara jelas bagaimana Meta memanfaatkan hasil pengujian tersebut maupun apakah data itu digunakan untuk pengembangan model AI internal perusahaan.
Ketidakjelasan ini memunculkan pertanyaan mengenai transparansi proses evaluasi AI, terutama karena pengujian disebut dilakukan tanpa sepengetahuan perusahaan yang mengembangkan chatbot pesaing.
Dalam industri AI, pengujian keamanan memang merupakan praktik yang umum dilakukan. Tujuannya adalah menemukan celah sebelum sistem digunakan secara luas oleh masyarakat. Namun, ketika evaluasi dilakukan terhadap layanan milik kompetitor menggunakan identitas palsu dalam skala besar, muncul perdebatan mengenai batas antara riset keamanan dan praktik persaingan bisnis.
Pekerja Kontrak Mengaku Mengalami Trauma
Kontroversi tidak berhenti pada metode pengujiannya. Sejumlah pekerja kontrak yang terlibat mengaku mengalami tekanan psikologis akibat harus membaca dan membuat berbagai skenario yang mengandung unsur kekerasan, bunuh diri, pelecehan, hingga penyalahgunaan narkoba.
Mengutip laporan Futurism, salah seorang kontraktor mengatakan selama bekerja ia harus melihat banyak materi yang menurutnya seharusnya tidak perlu dihadapi dalam pekerjaan sehari-hari.
Pekerja lain mengungkapkan bahwa banyak anggota tim merasa terkejut dengan jenis teks yang diminta untuk diuji. Bahkan muncul kekhawatiran apakah pekerjaan tersebut benar-benar berada dalam koridor yang dapat dibenarkan.
Kasus ini kembali mengingatkan pada kritik lama terhadap penggunaan tenaga kontrak dalam industri teknologi. Selama bertahun-tahun, pekerjaan yang berkaitan dengan moderasi konten maupun pengujian keamanan AI kerap dilakukan oleh pihak ketiga yang harus berhadapan dengan materi sensitif secara terus-menerus.
Sebelumnya, Meta juga pernah menghadapi gugatan dari moderator konten Facebook yang mengaku mengalami trauma setelah harus meninjau video pembunuhan, penyiksaan, dan bentuk kekerasan lainnya.
Meta Membantah dan Pakar Menilai Sudah Melewati Batas
Menanggapi laporan tersebut, Meta menyatakan bahwa pengujian keamanan terhadap model AI merupakan praktik yang lazim dilakukan di industri teknologi untuk mengetahui ketahanan sistem terhadap berbagai jenis penyalahgunaan.
