Meta Dituding Jalankan Proyek Rahasia Uji AI Pesaing Lewat Akun Palsu
- pixabay
Namun, pandangan itu mendapat bantahan dari Rumman Chowdhury, CEO Humane Intelligence PBC. Menurutnya, evaluasi keamanan seharusnya dilakukan secara bertanggung jawab dan transparan.
Ia menilai proyek berskala besar yang berlangsung selama berbulan-bulan, menggunakan akun palsu yang menyamar sebagai anak-anak, serta tidak dibuka kepada perusahaan pemilik chatbot maupun publik telah melampaui batas evaluasi keamanan yang lazim dilakukan.
Perdebatan ini memperlihatkan bahwa perkembangan AI tidak lagi hanya ditentukan oleh kemampuan model menghasilkan jawaban yang lebih cerdas. Cara perusahaan menguji, membandingkan, dan mengembangkan teknologi juga mulai menjadi perhatian regulator, pelaku industri, hingga masyarakat.
Apabila praktik seperti ini terus menjadi sorotan, tata kelola pengujian keamanan AI kemungkinan akan menjadi salah satu isu penting dalam persaingan industri kecerdasan buatan di masa mendatang.
Perusahaan teknologi diperkirakan akan menghadapi tuntutan yang semakin besar untuk menjalankan evaluasi secara lebih transparan sekaligus menjaga keseimbangan antara inovasi, keamanan, dan etika.*
