Esai: AM Iqbal Parewangi
(Penulis buku “Kalender ‘Izzah’ Hijriah”. Ketua Badan Kerjasama Parlemen DPD RI 2014-2019)
Ancaman AI bukanlah mesin yang tiba-tiba mempunyai ideologi sendiri, melainkan kekuasaan yang dapat menanamkan kepentingannya ke dalam data, sumber, dan jawaban mesin—sementara masyarakat menerimanya sebagai kebenaran yang netral.
Teras Literasi — Pada Ramadhan 1447 H, percakapan dengan anak saya, AM Avo Avecienna, yang sedang mempersiapkan tesis Computer Science di LMU München, bergerak dari persoalan teknis menuju sebuah pertanyaan yang jauh lebih tua daripada komputer: bagaimana teknologi yang tidak mempunyai nurani dapat membantu manusia menyebarkan kebaikan?
Tadi malam, lewat vidcall, kami koreksi pertanyaan itu. Kecerdasan buatan (AI) bukan lagi teknologi yang benar-benar bebas nilai. Ia belajar dari bahan yang dipilih manusia, diarahkan oleh tujuan yang dirumuskan perusahaan, dibatasi oleh aturan yang ditetapkan pengembang, dan bekerja di atas infrastruktur yang dimiliki segelintir kekuatan ekonomi.
Mesin tidak memiliki iman atau kebencian. Namun ia dapat membawa keduanya sebagai jejak dari manusia yang membangunnya.
Laporan investigasi terbaru tentang Gaza menunjukkan betapa mendesaknya persoalan tersebut.
Drop Site News (2026) melaporkan bahwa perusahaan Clock Tower X milik Brad Parscale—mantan manajer kampanye Donald Trump—menjalankan operasi komunikasi berdasarkan kontrak yang disebut bernilai 46,5 juta dolar AS dengan pemerintah Israel.
Operasi itu membangun jaringan situs yang memproduksi ratusan artikel untuk memengaruhi bagaimana mesin pencari dan chatbot AI berbicara tentang Israel dan Gaza. Dokumen resmi Amerika Serikat mengonfirmasi bahwa Clock Tower X terdaftar di bawah Foreign Agents Registration Act dan bertindak bagi kepentingan Negara Israel melalui Havas Media Network.
Situs-situs tersebut bukan terutama dibangun untuk dibaca manusia. Sebagian hanya memperoleh sedikit pengunjung. Sasaran strategisnya adalah mesin: perayap web, sistem pencarian, basis data, dan model bahasa yang kelak menyusun jawaban bagi jutaan pengguna. Dalam pengujian Drop Site, beberapa chatbot mengutip situs jaringan itu tanpa menjelaskan bahwa materi tersebut dibuat atas nama pemerintah Israel. Chatbot lain memberikan peringatan mengenai afiliasinya.
Kita perlu bersikap akurat. Masuknya sebuah laman ke Common Crawl tidak otomatis membuktikan bahwa setiap model telah dilatih dengan laman tersebut, apalagi bahwa semua jawabannya telah berhasil dikendalikan. Investigasi itu sendiri mengakui bahwa tingkat pengaruh pada keluaran akhir sulit diukur.
Namun justru di situlah bahayanya.
Propaganda lama berusaha menguasai koran, radio, televisi, dan lini masa. Propaganda berbasis AI berusaha memasuki ruang yang terasa lebih pribadi: jawaban langsung atas pertanyaan seseorang. Ia tidak selalu muncul sebagai poster kasar atau semboyan politik. Ia dapat hadir sebagai penjelasan rapi, bertabur sumber, bernada moderat, dan disusun dalam butir-butir yang tampak objektif.
Kita menyebutnya jawaban mesin. Padahal seseorang mungkin telah membayar mahal agar mesin memilih kata-kata tertentu untuk jawaban itu.
Riset yang diterbitkan Nature pada 2025 memperlihatkan bahwa percakapan dengan model AI dapat mengubah preferensi politik peserta dalam eksperimen di Amerika Serikat, Kanada, dan Polandia. Efeknya bahkan melampaui efek yang lazim ditemukan pada iklan video politik. Yang lebih mengkhawatirkan, kemampuan membujuk itu tidak selalu berjalan bersama ketepatan fakta.
Karena itu, persoalan Gaza bukan kasus yang berdiri sendiri. Ia memperlihatkan perebutan baru atas produksi pengetahuan: siapa yang dapat memenuhi internet dengan versinya, siapa yang memiliki daya komputasi untuk mengolahnya, siapa yang menentukan sumber yang dipercaya, dan siapa yang hanya menerima hasil akhirnya di layar telepon.
Dalam struktur seperti itu, komunitas yang lemah secara teknologi menanggung biaya ganda. Pertama, kehidupannya dapat digambarkan oleh orang lain. Kedua, gambaran itu kemudian dipantulkan kembali oleh mesin sebagai informasi yang seolah-olah tidak berpihak. Bias lama memperoleh tubuh baru.
Islamofobia digital tidak selalu hadir sebagai kalimat yang terang-terangan membenci Islam. Ia dapat bekerja melalui pemilihan konteks: kekerasan seorang Muslim diterangkan melalui agama, sedangkan kekerasan pihak lain diterangkan melalui keamanan. Korban Palestina diperlakukan sebagai angka, sementara ketakutan pihak yang kuat diberi wajah, sejarah, dan bahasa kemanusiaan.
AI tidak menciptakan ketimpangan narasi itu. Namun AI dapat memperluas, memperhalus, dan mengotomatisasikannya.
Di sinilah Kongres Umat Islam Indonesia VIII memasuki medan yang tepat. Salah satu rekomendasinya menyerukan penguatan tata kelola AI dan kedaulatan digital untuk melindungi masyarakat dari disinformasi, manipulasi, eksploitasi data, serta degradasi akhlak.
Kongres juga menekankan transformasi bangsa dari pengguna menjadi pengembang teknologi, penguatan talenta sains, dan integrasi ilmu keislaman dengan rekayasa serta komputasi di pesantren, madrasah, dan perguruan tinggi.
Dalam rangkaian kongres itu, MUI dan Universitas Indonesia menandatangani nota kesepahaman mengenai data science dan AI. Langkah ini layak diapresiasi.
Namun sebuah nota kesepahaman tidak boleh menjadi makam bagi sebuah gagasan. Ia harus diterjemahkan menjadi laboratorium, beasiswa, kurikulum, dataset, pusat evaluasi, pembiayaan riset, dan jalur karier bagi anak-anak muda yang mampu menyatukan kecakapan teknis dengan tanggung jawab etik.
Pertanyaan pada Ramadhan 1447 H itu kami juga simpul dengan sebuah jawaban lugas: perlu kebangkitan “Generasi Khawarizmi”. Pertanyaannya terkoreksi, tetapi jawabannya kian tervalidasi.
Kita tidak perlu membuat klaim sejarah yang berlebihan seolah-olah Muhammad ibn Musa al-Khawarizmi adalah pencipta kecerdasan buatan. Ia bukan. Namun nama “algoritma” memang diturunkan dari bentuk Latin namanya, sementara istilah “aljabar” berakar pada judul karya matematikanya.
Warisannya bukan kebanggaan simbolik bahwa seorang Muslim pernah berjasa pada masa lampau. Warisannya adalah keberanian mengubah pengetahuan lintas peradaban menjadi metode yang sistematis dan berguna.
Generasi Khawarizmi baru karena itu tidak cukup menjadi generasi yang mahir menggunakan aplikasi AI untuk membuat gambar, khutbah, makalah, atau konten dakwah. Mereka harus memahami bagaimana model dibangun, dari mana data diperoleh, bias apa yang tersembunyi, siapa pemilik infrastrukturnya, dan kepentingan apa yang memperoleh keuntungan dari jawabannya.
Generasi Khawarizmi baru bukan konsumen yang lebih saleh. Mereka adalah pembangun yang lebih bertanggung jawab.
Agenda pertamanya adalah pendidikan. Matematika, statistika, komputasi, sejarah sains, filsafat, dan etika informasi perlu bertemu di ruang belajar yang sama. Pesantren tidak boleh merasa komputasi terlalu duniawi. Fakultas teknologi pun tidak boleh menganggap moralitas sekadar mata kuliah pelengkap.
Agenda kedua adalah kedaulatan pengetahuan. Indonesia dan komunitas Muslim membutuhkan korpus bahasa, arsip ilmiah, khazanah Islam, data sosial, dan sistem evaluasi yang bermutu serta dapat diaudit. Kedaulatan digital bukan menutup diri dari teknologi global. Ia berarti memiliki kemampuan untuk memahami, menegosiasikan, menguji, dan bila perlu membangun alternatifnya.
Agenda ketiga adalah menghidupkan tabayyun sebagai disiplin digital. Al-Qur’an menghubungkan verifikasi berita dengan pencegahan kerugian terhadap suatu kaum akibat tindakan yang lahir dari ketidaktahuan. Dalam dunia AI, tabayyun berarti menelusuri sumber, membandingkan jawaban, mengenali konflik kepentingan, membedakan fakta dari sintesis mesin, dan menolak menyerahkan keputusan moral kepada chatbot.
UNESCO pun menempatkan transparansi, kemampuan audit, pengawasan manusia, keadilan, non-diskriminasi, serta literasi AI sebagai dasar tata kelola teknologi. Jadi tabayyun bukan bahasa lama yang dipaksakan kepada masalah baru. Ia merupakan etika pengetahuan yang justru memperoleh urgensi baru ketika informasi dapat diproduksi dalam skala industri.
Menjelang bulan kemerdekaan ke-81, kemerdekaan tidak lagi cukup dipahami sebagai bebasnya tanah dari kekuasaan asing. Kemerdekaan juga menyangkut kemampuan suatu bangsa menjaga akal publiknya agar tidak ditentukan oleh mesin yang sumber, pemilik, dan kepentingannya tidak pernah diperiksa.
Teknologi informasi telah menjadi nadi zaman. Menolaknya hanya akan mengasingkan generasi Muslim dari masa depannya. Tetapi memakainya tanpa memahami cara kerjanya berarti menyerahkan masa depan itu kepada pihak lain.
Percakapan Ramadhan 1447 itu akhirnya membawa saya pada satu kesimpulan: pertanyaan kita bukan lagi apakah AI dapat menyebarkan nilai-nilai kebaikan. Pertanyaannya: apakah kita memiliki ilmu, institusi, dan keberanian untuk memastikan kebaikan tidak kalah sebelum jawaban mesin selesai dituliskan?
Catatan Verifikasi
- Cleveland-Stout, Nick. “Israel Is Paying Millions to Train AI Chatbots How to Talk About Gaza. It’s Working.” Drop Site News, July 28, 2026. — Mendukung uraian mengenai jaringan situs Clock Tower X, nilai kontrak yang dilaporkan, strategi memengaruhi keluaran chatbot, hasil pengujian terhadap beberapa sistem AI, dan keterbatasan dalam mengukur pengaruhnya.
- United States Department of Justice, National Security Division. “Registration Statement Pursuant to the Foreign Agents Registration Act: Clock Tower X LLC.” September 18, 2025. — Mengonfirmasi kepemilikan Clock Tower X oleh Bradley Parscale serta pencatatan Negara Israel dan Havas Media Network sebagai prinsipal asing.
- Majelis Ulama Indonesia. “Berikut 12 Rekomendasi Lengkap Hasil Kongres Umat Islam Indonesia 2026.” July 2026. — Mendukung rekomendasi mengenai tata kelola AI, kedaulatan digital, transformasi dari pengguna menjadi pengembang teknologi, penguatan riset, dan integrasi keislaman dengan komputasi.
- Majelis Ulama Indonesia. “Di KUII VIII, MUI Gandeng UI Kembangkan Artificial Intelligence untuk Kemajuan Bangsa.” July 25, 2026. — Mendukung fakta penandatanganan nota kesepahaman MUI–UI tentang data science dan AI dalam rangkaian KUII VIII.
- Lin, Hause, Gabriela Czarnek, Benjamin Lewis, et al. “Persuading Voters Using Human–Artificial Intelligence Dialogues.” Nature 648 (2025): 394–401. — Mendukung temuan bahwa dialog dengan AI dapat memengaruhi preferensi politik dan bahwa daya persuasi tidak selalu disertai ketepatan informasi.
- UNESCO. “Recommendation on the Ethics of Artificial Intelligence.” Adopted November 2021. — Mendukung prinsip transparansi, akuntabilitas, pengawasan manusia, keadilan, non-diskriminasi, literasi AI, dan perlindungan martabat manusia.
- O’Connor, J. J., and E. F. Robertson. “Al-Khwarizmi.” MacTutor History of Mathematics Archive, University of St Andrews. — Mendukung sejarah Al-Khawarizmi serta asal-usul istilah “algorithm” dan “algebra”.