Ini Sederet Keterbatasan ChatGPT Versi OpenAI
Teknologi
JOURON -- ChatGPT menjadi salah satu terobosan paling penting dalam dunia kecerdasan buatan (AI, artificial intelligence) yang diproduksi oleh OpenAI. ChatGPT menimbulkan pro kontra dengan segala kelebihan dan kekurangannya.
OpenAI mendeskripsikan sejumlah keterbatasan ChatGPT dalam laman resmi mereka. Berikut ini sejumlah kelemahan ChatGPT versi OpenAI, yang membangun proyek AI ini.
Pertama, ChatGPT terkadang menulis jawaban yang terdengar masuk akal namun salah atau tidak masuk akal. Menurut OpenAI, memperbaiki masalah ini merupakan sebuah tantangan. Pasalanya, selama pelatihan RL, saat ini tidak ada sumber kebenaran.
Juga, melatih model untuk lebih berhati-hati menyebabkan model menolak pertanyaan yang dapat dijawab dengan benar. Dan pelatihan yang diawasi menyesatkan model karena jawaban ideal bergantung pada apa yang diketahui model, bukan pada apa yang diketahui oleh manusia yang mendemonstrasikannya.
Kedua, ChatGPT sensitif terhadap perubahan pada frasa masukan atau mencoba perintah yang sama beberapa kali. Misalnya, dengan satu ungkapan pertanyaan, model dapat mengklaim tidak mengetahui jawabannya, tetapi jika diberi sedikit ungkapan ulang, model dapat menjawab dengan benar.
Ketiga, model sering kali bertele-tele dan menggunakan frasa tertentu secara berlebihan, seperti menyatakan kembali bahwa model tersebut adalah model bahasa yang dilatih oleh OpenAI. Masalah-masalah ini muncul dari bias dalam data pelatihan (pelatih lebih memilih jawaban yang lebih panjang namun terlihat lebih komprehensif) dan masalah optimasi berlebihan yang umum terjadi.
Idealnya, model akan mengajukan pertanyaan klarifikasi ketika pengguna memberikan kueri yang ambigu. Sebaliknya, model ChatGPT saat ini biasanya menebak apa yang diinginkan pengguna.
Keempat, OpenAI menyatakan meskipun telah berupaya untuk membuat model tersebut menolak permintaan yang tidak pantas, terkadang model tersebut merespons instruksi yang merugikan atau menunjukkan perilaku yang bias.
"Kami menggunakan API Moderasi untuk memperingatkan atau memblokir jenis konten tertentu yang tidak aman, namun kami memperkirakan konten tersebut memiliki beberapa dampak negatif dan positif palsu untuk saat ini. Kami sangat ingin mengumpulkan masukan dari pengguna untuk membantu upaya berkelanjutan kami dalam menyempurnakan sistem ini," demikian penjelasan OpenAI atas keterbatasan ChatGPT.
Nulis, Makan, Minum, Sport
Terpopuler
-
#1
-
#2
-
#3
-
#4
-
#5
-
#6
Topic Pilihan
