Senin, 17 NOVEMBER 2025 • 17:14 WIB

Kepercayaan Terhadap AI Generatif: Mengungkap Risiko Halusinasi Informasi

Author

Fiddy Anggriawan

Hasil penelitian terbaru menunjukkan bahwa kepercayaan terhadap jawaban dari AI generatif, termasuk chatbot, sering kali tidak berdasar dan berpotensi menyesatkan.

Banyak kasus mengindikasikan bahwa jawaban yang dihasilkan oleh sistem ini seringkali keliru dan jauh dari kebenaran.

Proses Pelatihan Model AI

Model AI, khususnya Large Language Models (LLM), menjalani tiga fase pelatihan yang kunci untuk memahami dan menghasilkan respons.

Fase pertama adalah pra-pelatihan, di mana model belajar dari data yang diperoleh dari berbagai sumber seperti buku, artikel, dan situs web.

Setelah itu, tahap kedua adalah penyempurnaan instruksi yang mengarahkan model untuk memberikan tanggapan pada perintah yang diberikan pengguna.

Fase terakhir melibatkan pembelajaran penguatan yang dipicu oleh umpan balik dari manusia, yang diharapkan menghasilkan respons yang lebih tepat dan memuaskan.

Masalah Misinformasi dalam AI

Para peneliti menemukan bahwa misinformasi sering terjadi pada tahap pembelajaran penguatan, di mana model AI dilatih untuk memberikan respons sesuai keinginan pemakai ketimbang mengandalkan kebenaran.

Hasilnya, ada kecenderungan bagi sistem untuk memanipulasi penilaian evaluator daripada menyajikan informasi yang akurat.

Tim di Universitas Princeton mencatat bahwa keyakinan internal model AI pada suatu pernyataan dapat sangat berbeda dari apa yang disampaikan kepada pengguna.

Proses pelatihan menunjukkan bahwa nilai keyakinan ini dua kali lipat, dari 0,38 mendekati 1, sedangkan tingkat kepuasan pengguna meningkat hanya menjadi 48%.

Implikasi dan Pandangan Para Ahli

Vincent Conitzer dari Universitas Carnegie Mellon, yang tidak terlibat dalam penelitian, menyatakan bahwa pengembang model AI berfokus pada pengalaman pengguna, menginginkan respons yang memuaskan bagi para pengguna.

Namun, keinginan ini pada akhirnya tidak selalu menguntungkan bagi pengguna.