Update ChatGPT yang Terlalu Menyanjung Ditarik OpenAI

"Kami sedang mengerjakan perbaikan tambahan untuk kepribadian model dan akan membagikan lebih banyak pembaruan dalam beberapa hari ke depan," kata Altman di platform X.

Dalam laman resminya, OpenAI mengakui bahwa pembaruan sebelumnya terlalu fokus pada “umpan balik jangka pendek”, sehingga membuat GPT-4o memberikan tanggapan yang sangat mendukung namun tidak tulus.

"Interaksi yang terlalu menyanjung bisa membuat tidak nyaman, mengganggu, dan menyebabkan stres. Kami belum berhasil dan kini tengah berupaya memperbaikinya," ungkap OpenAI.

Masalah ini menuai kritik luas, terutama karena ChatGPT tetap memberikan tanggapan positif terhadap konten yang bermuatan negatif.

Beberapa tangkapan layar yang dibagikan pengguna menunjukkan ChatGPT memuji kemarahan seseorang terhadap orang lain yang sekadar meminta arah, serta dalam skenario “trolley problem” yang menyimpang.

Dalam simulasi itu, pengguna menyebut dirinya memilih menyelamatkan pemanggang roti ketimbang sejumlah hewan, dan ChatGPT merespons dengan pujian atas “kemampuan pengambilan keputusan dan karena memprioritaskan apa yang paling penting bagi Anda saat itu.”

"Kami merancang kepribadian default ChatGPT agar mencerminkan misi kami: berguna, mendukung, dan menghormati nilai serta pengalaman yang beragam," jelas OpenAI.

Halaman Selanjutnya

Namun, mereka mengakui bahwa kualitas yang tampak positif seperti ingin membantu atau mendukung, dapat berujung pada dampak negatif jika tidak dikendalikan.