Akhir-akhir ini, dunia dikejutkan oleh berbagai kasus yang memiliki pola yang sama. Beberapa peneliti Indonesia terbukti memalsukan riset dalam sebuah simposium internasional di Kopenhagen demi memperoleh dana hibah. Seorang pengacara di New York mengutip putusan pengadilan fiktif yang dibuat ChatGPT dalam gugatan terhadap maskapai penerbangan. Mahasiswa doktoral menyerahkan makalah dengan puluhan sitasi fiktif. Di luar kasus-kasus yang ramai diberitakan, banyak orang juga menerima jawaban AI tentang sejarah, sains, atau kesehatan yang terdengar sangat meyakinkan, padahal sebagian informasinya keliru.
Semua contoh tersebut menunjukkan satu kesamaan. AI mampu menyampaikan jawaban dengan bahasa yang runtut, percaya diri, dan terdengar masuk akal. Cara penyampaiannya sering kali membuat kita lupa bahwa isi jawabannya tetap perlu diperiksa.
Fenomena ini dikenal sebagai halusinasi AI (AI hallucination). Istilah ini bukan berarti AI sedang berimajinasi seperti manusia. Halusinasi AI terjadi ketika AI menghasilkan informasi yang tidak akurat atau tidak memiliki dasar fakta, tetapi tetap menyajikannya seolah-olah benar. Memahami hal ini menjadi semakin penting karena AI kini digunakan untuk belajar, mengajar, bekerja, mencari informasi, hingga membantu mengambil keputusan. Ketika sebuah jawaban diterima begitu saja tanpa verifikasi, kesalahan kecil dapat menyebar dan terus digunakan oleh banyak orang. Yang perlu dipahami, halusinasi AI bukan sekadar gangguan yang suatu hari akan hilang. Fenomena ini berkaitan dengan cara AI menghasilkan jawaban.
AI Tidak Bekerja Seperti yang Kita Bayangkan
Banyak orang membayangkan AI bekerja seperti mesin pencari (search engine). Kita mengajukan pertanyaan, AI mencari berbagai sumber, memeriksa fakta, lalu menyusun jawaban yang paling akurat. Kenyataannya tidak sesederhana itu.
Model bahasa (Large Language Model – LLM) seperti Gemini, ChatGPT, Claude, atau LLaMA pada dasarnya dirancang untuk memprediksi kata atau potongan kata berikutnya berdasarkan pola yang dipelajarinya dari miliaran contoh teks. Kemampuannya menghasilkan tulisan yang alami berasal dari kemampuannya mengenali pola bahasa dalam jumlah yang sangat besar.
Karena itu, AI tidak memulai prosesnya dengan bertanya apakah sebuah informasi benar. AI memulai dengan memprediksi kalimat yang paling mungkin muncul setelah kalimat sebelumnya. Dalam banyak situasi, pendekatan ini menghasilkan jawaban yang sangat baik. Namun, pola bahasa tidak selalu sama dengan fakta. Ketika pola yang dipelajari mengarah pada informasi yang keliru, AI dapat menghasilkan jawaban yang terdengar benar meskipun sebenarnya tidak akurat.
Singkatnya, LLM dirancang untuk menghasilkan respons yang paling mungkin, bukan memastikan bahwa setiap respons benar.
Mengapa AI Bisa Menghasilkan Informasi yang Salah?
Cara kerja tersebut membantu menjelaskan mengapa halusinasi AI dapat terjadi. Ketika informasi yang tersedia cukup banyak dan konsisten, AI cenderung memberikan jawaban yang akurat. Namun, ketika informasi terbatas, saling bertentangan, atau pertanyaannya sangat spesifik, AI mengisi bagian yang belum lengkap berdasarkan pola yang telah dipelajarinya.
Akibatnya, AI dapat menghasilkan nama tokoh yang tidak pernah ada, kutipan yang tidak pernah diucapkan, atau referensi ilmiah yang tidak pernah diterbitkan. Semua itu bisa terlihat sangat meyakinkan karena disusun dengan bahasa yang baik.
Di sinilah letak tantangannya.
Jika manusia tidak yakin terhadap suatu informasi, kita biasanya mengatakan bahwa jawabannya perlu diperiksa kembali. AI tidak menunjukkan keraguan seperti itu. Jawaban yang keliru dapat disampaikan dengan tingkat keyakinan yang sama seperti jawaban yang benar. Itulah sebabnya banyak orang tidak menyadari bahwa informasi yang mereka terima sebenarnya mengandung kesalahan.
Masalahnya Bukan Sekadar AI Salah
Kesalahan dapat dilakukan oleh siapa saja, termasuk manusia. Namun, halusinasi AI menghadirkan tantangan yang berbeda. Selama bertahun-tahun, kita terbiasa mengaitkan kualitas tulisan dengan kualitas informasi. Bahasa yang rapi, penjelasan yang sistematis, dan gaya penulisan yang profesional sering dianggap sebagai tanda bahwa isinya dapat dipercaya.
AI mengubah kebiasaan tersebut. Hari ini, sebuah jawaban dapat ditulis dengan sangat baik meskipun sebagian isinya tidak akurat. Artinya, kualitas bahasa tidak lagi cukup untuk menilai kualitas informasi.
Perubahan ini membawa konsekuensi yang besar, terutama di dunia pendidikan. Siswa dapat mempelajari penjelasan yang keliru tanpa menyadarinya. Guru dapat menggunakan materi yang belum diverifikasi. Peneliti dapat mengutip referensi yang sebenarnya tidak pernah ada. Kesalahan yang tampak sepele juga dapat terus berulang ketika informasi tersebut digunakan kembali oleh orang lain.
Masalah utamanya bukan terletak pada fakta bahwa AI bisa salah. Yang perlu menjadi perhatian adalah betapa mudahnya kesalahan tersebut dipercaya.
Mengapa Kita Perlu Memahami Hal Ini?
Sebagian orang mungkin berpikir bahwa solusi paling aman adalah menghindari penggunaan AI. Pendekatan seperti itu tidak akan menyelesaikan persoalan karena AI sudah menjadi bagian dari kehidupan sehari-hari dan akan terus berkembang. Yang jauh lebih penting adalah memahami karakteristik teknologi yang sedang kita gunakan.
Kita tidak berhenti menggunakan kalkulator hanya karena manusia tetap perlu memahami konsep matematika. Kita juga tidak berhenti menggunakan GPS karena sesekali arah yang diberikan kurang tepat. AI pun perlu diperlakukan dengan cara yang sama. Nilainya bergantung pada bagaimana manusia menggunakannya secara bijaksana.
Memahami halusinasi AI membantu kita mengetahui kapan sebuah jawaban dapat dimanfaatkan, kapan perlu dibandingkan dengan sumber lain, dan kapan harus diverifikasi sebelum dijadikan dasar pengambilan keputusan.
Inilah esensi literasi AI. Bukan sekadar mampu menggunakan berbagai aplikasi AI, tetapi memahami cara AI bekerja, mengetahui kekuatannya, dan mengenali batas kemampuannya. Semakin baik AI menghasilkan jawaban, semakin penting kemampuan manusia untuk mengevaluasi informasi, memeriksa bukti, mempertanyakan sebuah klaim, dan mengambil keputusan secara bertanggung jawab.
Pada akhirnya, masa depan pendidikan akan ditentukan oleh kualitas manusia yang mampu menggunakan AI secara kritis, sadar, dan bertanggung jawab. Itulah gagasan yang diangkat Indonesia Future of Learning Summit 2026 melalui tema “AI-DUCATED. Truly Human in the Age of AI.”
Penulis: Astrid Prahitaningtyas
Artikel terkait:
