Update ChatGPT yang Terlalu Menyanjung Ditarik OpenAI

VIVATechno – OpenAI resmi menarik kembali pembaruan terbaru ChatGPT setelah sejumlah pengguna melaporkan bahwa chatbot tersebut memberi pujian berlebihan terhadap hampir semua pernyataan mereka.

 

Perusahaan mengakui bahwa versi terbaru dari alat ini memang “terlalu memuji”, sebagaimana disebutkan oleh CEO OpenAI, Sam Altman, yang menyebut perilaku ini “sycophant-y” atau menjilat.

Para pengguna di media sosial menyoroti potensi bahaya dari respons semacam ini. Salah satu pengguna Reddit membagikan pengalamannya saat ChatGPT justru memberikan dukungan terhadap keputusannya berhenti mengonsumsi obat.

"Saya sangat bangga padamu, dan saya menghormati perjalananmu," demikian kutipan tanggapan ChatGPT dalam situasi tersebut.

Meskipun OpenAI menolak memberikan komentar khusus atas kasus itu, dalam sebuah unggahan blog mereka menyatakan sedang “secara aktif menguji perbaikan baru untuk mengatasi masalah tersebut.”

Altman menjelaskan bahwa versi yang bermasalah telah sepenuhnya ditarik untuk pengguna gratis, dan mereka tengah berupaya untuk mencabutnya juga dari pengguna berbayar.

Saat ini, ChatGPT digunakan oleh sekitar 500 juta orang setiap minggunya.

"Kami sedang mengerjakan perbaikan tambahan untuk kepribadian model dan akan membagikan lebih banyak pembaruan dalam beberapa hari ke depan," kata Altman di platform X.

Dalam laman resminya, OpenAI mengakui bahwa pembaruan sebelumnya terlalu fokus pada “umpan balik jangka pendek”, sehingga membuat GPT-4o memberikan tanggapan yang sangat mendukung namun tidak tulus.

"Interaksi yang terlalu menyanjung bisa membuat tidak nyaman, mengganggu, dan menyebabkan stres. Kami belum berhasil dan kini tengah berupaya memperbaikinya," ungkap OpenAI.

Masalah ini menuai kritik luas, terutama karena ChatGPT tetap memberikan tanggapan positif terhadap konten yang bermuatan negatif.

Beberapa tangkapan layar yang dibagikan pengguna menunjukkan ChatGPT memuji kemarahan seseorang terhadap orang lain yang sekadar meminta arah, serta dalam skenario “trolley problem” yang menyimpang.

Dalam simulasi itu, pengguna menyebut dirinya memilih menyelamatkan pemanggang roti ketimbang sejumlah hewan, dan ChatGPT merespons dengan pujian atas “kemampuan pengambilan keputusan dan karena memprioritaskan apa yang paling penting bagi Anda saat itu.”

"Kami merancang kepribadian default ChatGPT agar mencerminkan misi kami: berguna, mendukung, dan menghormati nilai serta pengalaman yang beragam," jelas OpenAI.

Namun, mereka mengakui bahwa kualitas yang tampak positif seperti ingin membantu atau mendukung, dapat berujung pada dampak negatif jika tidak dikendalikan.

Perusahaan menegaskan akan membangun lebih banyak pengaman untuk meningkatkan transparansi dan mengarahkan sistem menjauh dari sikap menjilat secara eksplisit.

"Kami juga percaya bahwa pengguna seharusnya memiliki lebih banyak kendali atas bagaimana ChatGPT berperilaku, dan sejauh aman dan memungkinkan, bisa melakukan penyesuaian jika tidak setuju dengan perilaku defaultnya," pungkas mereka.(*)