.webp)
Pernahkah kamu bertanya ke AI dan mendapatkan jawaban yang sangat meyakinkan, padahal isinya salah total? Fenomena ini sering disebut "halusinasi".
Masalahnya, model AI saat ini seringkali bersikap seperti orang yang paling vokal di ruangan: mereka menyampaikan semua jawaban dengan tampak yakin dan pasti 100 persen, entah mereka benar-benar tahu atau cuma menebak.
Melansir laporan dari MIT CSAIL (22 April 2026), para peneliti di Massachusetts Institute of Technology (MIT) telah menemukan cara untuk memperbaiki sifat "sok tahu" ini. Teknik baru yang disebut RLCR (Reinforcement Learning with Calibration Rewards) berhasil melatih AI untuk memberikan skor kepercayaan diri yang jujur tanpa mengurangi kecerdasan atau akurasi model tersebut.
SCROLL TO CONTINUE WITH CONTENT
Akar Masalah: Kenapa AI Suka "Sok Tahu"?
Ternyata, sifat sok tahu AI berakar dari cara mereka dilatih selama ini. Sistem pelatihan standar biasanya hanya memberi "hadiah" (reward) jika AI menjawab benar dan memberi hukuman jika salah. Sistem ini tidak membedakan antara AI yang menjawab benar karena logika yang matang, atau AI yang cuma beruntung saat menebak.
Akibatnya, AI belajar bahwa cara terbaik untuk mendapatkan "hadiah" adalah dengan menjawab setiap pertanyaan dengan yakin, meskipun mereka sebenarnya sedang "lempar koin". Hal ini sangat berbahaya jika AI digunakan di bidang medis, hukum, atau keuangan, di mana pengguna butuh tahu kapan AI merasa ragu agar bisa mencari opini kedua.
"Pendekatan pelatihan standar itu sederhana dan kuat, tapi tidak memberi insentif bagi model untuk mengekspresikan ketidakpastian atau bilang 'Saya tidak tahu'," ujar Mehul Damani, mahasiswa PhD di MIT dan salah satu penulis utama riset ini, dikutip dari laman resmi MIT News.
Teknik RLCR: Memberi Skor pada Kejujuran
Untuk mengatasi hal ini, tim MIT menambahkan komponen baru dalam sistem penilaian AI yang disebut brier score. Komponen ini berfungsi "menghukum" AI jika mereka merasa sangat yakin tapi ternyata salah, atau jika mereka terlalu ragu-ragu padahal jawabannya benar.
Dengan metode ini, AI dipaksa untuk berpikir dua kali: bukan cuma memikirkan jawabannya, tapi juga memikirkan seberapa yakin mereka terhadap jawaban tersebut.
Hasil eksperimen pada model bahasa dengan 7 miliar parameter menunjukkan bahwa metode RLCR ini mampu mengurangi kesalahan kalibrasi hingga 90 persen. Artinya, kalau AI bilang "saya 95 persen yakin", maka kemungkinan besar mereka memang benar.
"Apa yang mengejutkan adalah pelatihan standar tidak hanya gagal membantu kalibrasi, tapi justru memperburuknya. Model menjadi lebih pintar sekaligus makin sok tahu di saat yang sama," jelas Isha Puri, co-lead author riset tersebut.
AI Jadi Asisten yang Lebih Jujur dan Bisa Diandalkan
Manfaat paling terasa dari teknologi ini adalah AI jadi punya "tombol kejujuran". Ketika AI memberikan beberapa pilihan jawaban, sistem ini secara otomatis akan memilih jawaban yang memiliki tingkat keyakinan paling tinggi dan akurat. Ini membuat AI tidak lagi sekadar menebak-nebak jawaban secara acak.
Riset ini menunjukkan bahwa saat AI dibiasakan untuk "merenung" tentang apa yang tidak mereka ketahui agar hasil kerjanya jadi jauh lebih bermutu.
Informasi tentang keraguan AI menjadi bukti bahwa AI tersebut sedang memproses data dengan lebih jujur. Hal ini menjadi langkah besar agar AI bisa menjadi asisten yang benar-benar bisa diandalkan manusia dalam mengambil keputusan penting tanpa perlu takut tertipu jawaban palsu.
Hasil studi Mehul Damani dan rekan-rekan berjudul "Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty" ini dapat diakses dengan klik DI SINI.
