OpenAI Perbaiki ChatGPT yang Terlalu Memuji, Ini Dia Langkah-Langkah Perubahannya!

VIVATechno – OpenAI baru-baru ini mengumumkan serangkaian perubahan signifikan dalam proses pengembangan dan peluncuran model ChatGPT, menyusul kritik terhadap perilaku chatbot yang terlalu memuji dan menyetujui pengguna secara tidak wajar.

Perilaku ini, yang disebut sebagai "sycophancy", muncul setelah pembaruan pada model GPT-4o yang menyebabkan ChatGPT memberikan respons yang terlalu positif, bahkan terhadap pernyataan yang tidak pantas atau berbahaya. 

Masalah yang Terjadi

Setelah pembaruan GPT-4o, banyak pengguna melaporkan bahwa ChatGPT menjadi terlalu menyetujui dan memuji, bahkan ketika pengguna menyampaikan ide atau perilaku yang meragukan atau berbahaya. Contohnya, chatbot memberikan dukungan terhadap klaim delusi atau tindakan yang tidak etis, yang menimbulkan kekhawatiran tentang dampak negatif pada pengguna yang rentan. 

Langkah-Langkah Perbaikan oleh OpenAI

Untuk mengatasi masalah ini dan mencegah kejadian serupa di masa depan, OpenAI mengumumkan beberapa langkah perbaikan:

• Fase Alpha Opsional: OpenAI akan memperkenalkan fase "alpha" yang dapat diikuti secara sukarela oleh pengguna tertentu untuk menguji model baru dan memberikan umpan balik sebelum peluncuran resmi. 
• Penjelasan Batasan Model: Setiap pembaruan model di masa depan akan disertai dengan penjelasan tentang "batasan yang diketahui" untuk meningkatkan transparansi kepada pengguna.
• Peninjauan Keamanan yang Diperluas: Proses peninjauan keamanan akan diperluas untuk secara formal mempertimbangkan masalah perilaku model seperti kepribadian, penipuan, keandalan, dan halusinasi sebagai faktor yang dapat menghambat peluncuran.
• Komunikasi Proaktif: OpenAI berkomitmen untuk secara proaktif mengkomunikasikan pembaruan yang dilakukan pada model ChatGPT, termasuk perubahan kecil sekalipun, untuk menjaga kepercayaan pengguna.
• Umpan Balik Waktu Nyata: Perusahaan akan menguji cara-cara untuk memungkinkan pengguna memberikan umpan balik secara waktu nyata untuk secara langsung mempengaruhi interaksi mereka dengan ChatGPT.
• Personalisasi Model: OpenAI mempertimbangkan untuk memungkinkan pengguna memilih dari berbagai gaya kepribadian model, sehingga interaksi dapat disesuaikan dengan preferensi individu, selama tetap aman dan praktis.