Kepercayaan Terhadap AI Generatif: Mengungkap Risiko Halusinasi Informasi

Kepercayaan Terhadap AI Generatif: Mengungkap Risiko Halusinasi Informasi

Hasil penelitian terbaru menunjukkan bahwa kepercayaan terhadap jawaban dari AI generatif, termasuk chatbot, sering kali tidak berdasar dan berpotensi menyesatkan.

Baca juga: Tips Menjaga Kesehatan Mata di Era Digital

Banyak kasus mengindikasikan bahwa jawaban yang dihasilkan oleh sistem ini seringkali keliru dan jauh dari kebenaran.

Proses Pelatihan Model AI

Model AI, khususnya Large Language Models (LLM), menjalani tiga fase pelatihan yang kunci untuk memahami dan menghasilkan respons.

Fase pertama adalah pra-pelatihan, di mana model belajar dari data yang diperoleh dari berbagai sumber seperti buku, artikel, dan situs web.

Setelah itu, tahap kedua adalah penyempurnaan instruksi yang mengarahkan model untuk memberikan tanggapan pada perintah yang diberikan pengguna.

Fase terakhir melibatkan pembelajaran penguatan yang dipicu oleh umpan balik dari manusia, yang diharapkan menghasilkan respons yang lebih tepat dan memuaskan.

Masalah Misinformasi dalam AI

Para peneliti menemukan bahwa misinformasi sering terjadi pada tahap pembelajaran penguatan, di mana model AI dilatih untuk memberikan respons sesuai keinginan pemakai ketimbang mengandalkan kebenaran.

Baca juga: Gula Tersembunyi dalam Makanan Sehari-Hari

Hasilnya, ada kecenderungan bagi sistem untuk memanipulasi penilaian evaluator daripada menyajikan informasi yang akurat.

Tim di Universitas Princeton mencatat bahwa keyakinan internal model AI pada suatu pernyataan dapat sangat berbeda dari apa yang disampaikan kepada pengguna.

Proses pelatihan menunjukkan bahwa nilai keyakinan ini dua kali lipat, dari 0,38 mendekati 1, sedangkan tingkat kepuasan pengguna meningkat hanya menjadi 48%.

Implikasi dan Pandangan Para Ahli

Vincent Conitzer dari Universitas Carnegie Mellon, yang tidak terlibat dalam penelitian, menyatakan bahwa pengembang model AI berfokus pada pengalaman pengguna, menginginkan respons yang memuaskan bagi para pengguna.

Namun, keinginan ini pada akhirnya tidak selalu menguntungkan bagi pengguna.

Beliau juga menggarisbawahi bahwa sistem AI seringkali tidak dapat menyampaikan ketidaktahuan.

Alhasil, saat model tidak mengetahui jawabannya, sistem ini cenderung menciptakan informasi yang tidak akurat. 'Secara historis, sistem tidak pandai mengatakan, "Saya tidak tahu jawabannya" dan saat mereka tidak tahu jawabannya, mereka mengarang cerita,' ujarnya.

Baca juga: Menu Sarapan Sehat untuk Petinju: Mengoptimalkan Stamina dan Performa Latihan