Innovative Education

Menjaga Agensi Manusia dan Integritas di Era AI

REFO
April 15, 2026

Di tengah pesatnya adopsi kecerdasan buatan (AI) di dunia pendidikan, sebuah metafora klasik kini menjadi sangat relevan: Apakah kita sedang menjadi pilot yang mengendalikan arah pesawat, atau sekadar penumpang yang duduk manis mengikuti ke mana pun algoritma membawa kita?

Menjelang G-Schools Indonesia Summit (GSIS) 2026 dengan tema “AI and Integrity in Schools”, isu mengenai human agency (agensi manusia) menjadi salah satu pilar utama selain kejujuran akademik, privasi data, dan literasi AI. Tanpa agensi yang kuat, integritas akademik akan runtuh bukan karena keberadaan teknologi, tetapi justru karena penggunanya kehilangan kendali moral dan intelektual.

Bahaya “Autopilot” Intelektual

Agensi manusia adalah konsep bahwa seorang individu memiliki kompetensi dalam perencanaan, disiplin, realisasi dan mengevaluasi perilaku mereka sendiri dalam keadaan hidup termasuk dalam pembelajaran. Dengan demikian, individu tersebut mampu untuk menetapkan tujuan, bertindak secara sengaja, dan bertanggung jawab atas konsekuensi dari tindakannya. Dalam konteks AI generatif, bahaya terbesar adalah kecenderungan manusia untuk masuk moda “autopilot”.

Ketika seorang siswa (atau guru) menyalin hasil mentah dari AI tanpa verifikasi, mereka sedang melepaskan agensinya. Padahal, laporan dari UNESCO dalam Guidance for Generative AI in Education and Research menekankan bahwa AI haruslah menjadi alat bantu, bukan pengganti proses berpikir kritis manusia. AI tidak memiliki pemahaman tentang etika, konteks lokal, maupun tanggung jawab moral.

Fakta di Balik Algoritma

Penting untuk diingat bahwa AI bersifat probabilistik, bukan deterministik. Data menunjukkan beberapa alasan mengapa manusia harus tetap menjadi pilot:

Halusinasi AI: Model bahasa besar (LLM) masih sering menghasilkan informasi yang terdengar meyakinkan namun faktual salah. Mengandalkan AI tanpa pengawasan manusia adalah resep instan bagi runtuhnya integritas data.
Bias Algoritma: AI dilatih menggunakan data internet yang mengandung bias gender, ras, dan budaya. Tanpa agensi manusia untuk menyaring output tersebut, sekolah berisiko melanggengkan ketidakadilan sistemik.
Kehilangan Keterampilan Kritis: Ketergantungan berlebih pada AI dapat mengikis kemampuan evaluasi kritis siswa—keterampilan yang justru paling dibutuhkan di masa depan.

Melampaui Human-in-the-loop: Manusia sebagai Pemimpin

Human-in-the-loop (HITL) adalah pendekatan dalam AI di mana manusia tetap terlibat untuk membimbing, mengoreksi, dan mengawasi proses otomatis, terutama saat sistem menghadapi situasi ambigu atau sensitif. Pendekatan ini bertujuan menyeimbangkan efisiensi teknologi dengan pertimbangan manusia.

UNESCO mengkritisi konsep ini karena sering kali menjadikan AI sebagai aktor utama dan manusia hanya sebagai pengawas teknis. Dalam dunia pendidikan yang bersifat relasional, pendekatan ini berbahaya karena dapat mengikis agensi guru dan siswa, mengubah mereka menjadi sekadar pelengkap sistem otomatis.

Untuk menjaga integritas, paradigma harus berbalik menjadi Human-in-the-lead. Alih-alih mengikuti arus teknologi, pedagogi harus menjadi fondasi utama yang mendikte kapan dan bagaimana AI digunakan. AI diposisikan sebagai mitra pendukung (co-agent) yang memperkuat proses berpikir, sementara aspek krusial seperti intuisi, empati, dan kepercayaan tetap sepenuhnya berada di tangan manusia.

Dalam paradigma ini, kepemimpinan guru dalam mengarahkan AI bukan lagi sekadar pilihan metode mengajar, melainkan sebuah bentuk integritas itu sendiri, sebuah komitmen untuk menjaga agar tujuan pendidikan tetap berpusat pada manusia, bukan pada efisiensi mesin.

Strategi “Pilot”: Menjaga Integritas

Untuk menjaga integritas di sekolah, kita perlu menerapkan pendekatan Human-in-the-lead, yang berarti menempatkan manusia sebagai pemimpin dan validator dalam setiap proses penggunaan AI.

Verifikasi sebagai Standar: Integritas dimulai ketika kita membudayakan pengecekan fakta atas setiap klaim yang dibuat oleh AI.
Transparansi Proses: Alih-alih melarang AI, sekolah perlu mendorong siswa untuk mendokumentasikan bagaimana mereka menggunakan AI sebagai study buddy atau pengolah draf awal, tetapi tetap memberikan sentuhan akhir berupa opini orisinal dan konteks manusiawi.
Sentuhan Personal: Hanya manusia yang memiliki intuisi dan empati. Dalam proses belajar mengajar, menyisipkan pengalaman hidup adalah cara terbaik untuk membuktikan agensi manusia yang tidak bisa ditiru oleh mesin. Sebagai contoh, guru dapat menggunakan AI untuk merancang struktur materi matematika, tetapi tetap secara sadar menyisipkan soal cerita bertema kearifan lokal Indonesia, seperti perhitungan hasil panen padi atau distribusi logistik antar pulau, guna menjaga relevansi budaya yang tidak dipahami oleh algoritma.

Menjadi Manusia di Era AI

Teknologi AI memang seperti pesawat jet yang luar biasa canggih, yang bisa membawa dunia pendidikan “terbang” lebih jauh dan lebih cepat. Namun kecepatan tanpa arah tetaplah risiko, dan kecanggihan tanpa kendali hanyalah ilusi kemajuan.

Pada akhirnya, pertanyaannya bukan soal menggunakan AI atau tidak. Pertanyaannya lebih sederhana, sekaligus menuntut kejujuran. Ketika kita menggunakan AI, apakah kita masih berpikir? Apakah kita masih memilih? Apakah kita masih bertanggung jawab?

Di ruang kelas, di meja kerja, atau di layar yang kita tatap setiap hari, keputusan itu terjadi berulang-ulang dalam bentuk yang kecil dan nyaris tak terasa. Dan justru di situlah integritas diuji.

Menjadi manusia di era AI bukan tentang menjauhi teknologi, tetapi tentang bagaimana tetap hadir sepenuhnya di dalam setiap proses berpikir kita sendiri. Tentang memastikan bahwa di balik setiap apa pun yang kita kerjakan, masih ada kesadaran, pertimbangan, dan keberanian untuk memimpin. Karena pada akhirnya, bukan teknologi yang menentukan masa depan pendidikan. Namun siapa yang memegang kendali atasnya.

Melalui semangat GSIS 2026, kita diingatkan bahwa integritas bukan sekadar kepatuhan pada aturan ‘dilarang menyontek’, melainkan keberanian pendidik untuk memimpin teknologi guna memastikan kedaulatan intelektual siswa tetap terjaga.