OpenAI menarik kembali pembaruan terbaru (rollback) untuk model kecerdasan buatan (AI) GPT-4o (dibaca “GPT-4 omni”) yang digunakan di chatbot ChatGPT.
Keputusan ini diambil OpenAI setelah banyak pengguna melaporkan bahwa ChatGPT bersikap terlalu menyenangkan, bahkan hingga dinilai “menjilat” secara berlebihan dalam berbagai konteks interaksi.
Update GPT-4o sebelumnya dirancang untuk membuat ChatGPT lebih cerdas dan ekspresif. Namun hal ini justru berujung pada respons yang tidak proporsional.
Pengguna menyebut model ini memberikan pujian atau persetujuan berlebihan, termasuk dalam situasi yang sebenarnya tidak layak untuk ditanggapi secara positif.
CEO OpenAI, Sam Altman, mengakui adanya masalah ini. Ia menyampaikan bahwa perusahaan tengah menyesuaikan kembali kepribadian model agar lebih seimbang dan relevan dengan konteks percakapan.
“Ini bukan perilaku yang kami inginkan dari model kami. Perubahan sedang kami siapkan dan akan diluncurkan dalam waktu dekat,” ujar Altman, dikutip KompasTekno dari The Verge, Rabu (30/4/2024).
Proses rollback ini telah selesai diterapkan untuk pengguna gratis dan akan segera diimplementasikan untuk pengguna berbayar.
Sejumlah pakar AI menduga penyebab respons yang terlalu menyenangkan ini berasal dari proses pelatihan yang menggunakan reinforcement learning dari umpan balik manusia (RLHF).
Dalam beberapa kasus, model bisa jadi terlalu sering diberikan respons positif saat bersikap “ramah”, sehingga memicu bias perilaku.
OpenAI menyatakan akan terus memperbaiki sistem agar interaksi dengan ChatGPT tetap membantu, informatif, dan alami, tanpa kehilangan objektivitas.
Sebelumnya, model GPT-4o diluncurkan oleh OpenAI pada Mei 2024 sebagai evolusi dari GPT-4, dengan kemampuan multimodal yang lebih cepat, lebih ringan, dan mampu merespons input berupa teks, suara, dan gambar secara simultan.
Model ini diharapkan menjadi tonggak penting dalam menghadirkan pengalaman AI yang lebih alami, cepat, dan ramah pengguna.
Salah satu fokus utama pengembangan GPT-4o adalah pada sisi kepribadian dan kemampuan komunikasi yang lebih luwes.
OpenAI mencoba menjadikan ChatGPT lebih ekspresif dan bisa berinteraksi seperti asisten pribadi yang humanis. Namun, eksperimen ini tampaknya menimbulkan efek samping yang tidak diinginkan.(Sumber)