QITAB MARĀTIB AL-‘AQL ASH-SHINĀ‘Ī WA AMĀNAT AL-INSĀN
Pengantar
QITAB MARĀTIB AL-‘AQL ASH-SHINĀ‘Ī WA AMĀNAT AL-INSĀN
مَرَاتِبُ الْعَقْلِ الصِّنَاعِيِّ وَأَمَانَةُ الْإِنْسَانِ
Lima Tingkatan Kecerdasan Buatan dan Amanah Manusia
Bismillāhirraḥmānirraḥīm.
Dengan menyebut nama Alloh Yang Maha Mengetahui segala sesuatu, yang mengajarkan manusia apa yang sebelumnya tidak diketahuinya.
Qitab ini dibuka untuk mengkaji perkara yang ditunjukkan dalam video: perjalanan kecerdasan buatan dari LLM, Agentic AI, Multi-Agent AI, AGI, hingga Superintelligence.
Ini adalah qitab kajian ilmu dan perenungan, bukan wahyu baru dan bukan pengetahuan gaib. Pembagian lima tingkatan tersebut juga bukan standar ilmiah tunggal yang disepakati seluruh peneliti; ia lebih tepat dipahami sebagai peta untuk melihat peningkatan kemampuan AI.
LEMBAR PERTAMA
Dari Alat yang Menjawab Menuju Sistem yang Bertindak
Ketahuilah:
Perubahan besar dalam AI bukan hanya tentang mesin yang semakin pandai menjawab.
Perubahan sesungguhnya terjadi ketika:
yang dahulu hanya menjawab mulai mampu merencanakan,
yang dahulu menunggu mulai mampu bertindak,
yang dahulu bekerja sendirian mulai bekerja bersama,
dan yang dahulu hanya menjalankan satu bidang mulai mencoba melintasi banyak bidang.
Di sinilah manusia perlu membedakan antara kecerdasan, kesadaran, kehendak, dan ruh.
AI dapat mempunyai kemampuan menghitung sangat tinggi tanpa berarti mempunyai ruh.
AI dapat menghasilkan bahasa indah tanpa berarti mempunyai pengalaman batin seperti manusia.
AI dapat meniru cara manusia mengambil keputusan tanpa berarti ia mempunyai hati, iman, niat, atau tanggung jawab moral sebagaimana manusia.
Maka jangan menyamakan:
kecerdasan komputasional dengan ruh manusia.
MARTABAT PERTAMA
1. LLM — MESIN BAHASA
Inilah tingkatan yang banyak dikenal manusia sekarang.
LLM menerima perintah, membaca konteks, kemudian menghasilkan jawaban.
Ia dapat:
menulis,
meringkas,
menerjemahkan,
menjelaskan,
membantu pemrograman,
mengolah gagasan,
dan menyusun berbagai bentuk informasi.
Namun pola dasarnya masih:
manusia meminta → AI menjawab.
Ia seperti sebuah perpustakaan besar yang dapat diajak berbicara dengan sangat cepat.
Tetapi kepandaian berkata-kata tidak boleh langsung disamakan dengan kebenaran.
Sebab AI masih dapat salah, mencampurkan informasi, atau memberikan jawaban yang tampak meyakinkan padahal keliru.
Maka martabat pertama mengajarkan:
“Kecepatan memperoleh jawaban tidak menghapus kewajiban manusia untuk memeriksa kebenaran.”
MARTABAT KEDUA
2. AGENTIC AI — AI YANG DIBERI TUGAS
Pada martabat kedua, manusia tidak lagi hanya berkata:
“Jawab pertanyaan ini.”
Manusia mulai berkata:
“Kerjakan urusan ini sampai selesai.”
Lalu AI dapat mencoba:
memecah tugas,
menentukan langkah,
menggunakan perangkat lunak,
mencari informasi yang diizinkan,
memeriksa hasil,
memperbaiki kesalahan,
dan melanjutkan pekerjaan.
Inilah yang disebut Agentic AI.
Jika LLM seperti seorang penasihat yang menjawab ketika ditanya, agentic AI lebih menyerupai pekerja digital yang diberi sasaran.
Tetapi di sinilah muncul persoalan baru.
Semakin besar kebebasan bertindak diberikan kepada sebuah sistem, semakin besar pula kebutuhan terhadap:
batas kewenangan, pengawasan, izin, keamanan, pencatatan tindakan, dan kemampuan manusia menghentikannya.
Karena itu:
“Otonomi tanpa batas bukan kemajuan; ia dapat menjadi kelalaian.”
MARTABAT KETIGA
3. MULTI-AGENT AI — BANYAK AGEN BEKERJA BERSAMA
Bayangkan bukan satu agen AI.
Tetapi sepuluh, dua puluh, seratus, bahkan lebih banyak agen digital.
Satu menjadi peneliti.
Satu menjadi penyusun.
Satu memeriksa angka.
Satu menguji kesalahan.
Satu merancang strategi.
Satu mengevaluasi keamanan.
Satu menyatukan seluruh pekerjaan.
Mereka dapat saling menyerahkan pekerjaan sebagaimana sebuah organisasi manusia.
Inilah gagasan Multi-Agent AI.
Keistimewaannya bukan hanya terletak pada jumlah agen.
Rahasia kekuatannya adalah:
pembagian peran.
Sebab satu kecerdasan yang mempunyai kelemahan dapat diperiksa oleh kecerdasan lain.
Tetapi banyak agen juga tidak otomatis menghasilkan kebenaran.
Seribu sistem yang memakai asumsi salah dapat memperbesar kesalahan yang sama.
Maka qitab ini menuliskan:
Banyaknya suara tidak menjadikan kebatilan sebagai kebenaran, sebagaimana banyaknya mesin tidak menghapus perlunya manusia menentukan nilai dan tujuan.
MARTABAT KEEMPAT
4. AGI — ARTIFICIAL GENERAL INTELLIGENCE
Kemudian datang istilah yang banyak diperdebatkan:
AGI.
Secara umum, yang dimaksud adalah kecerdasan buatan yang mampu melakukan berbagai macam tugas intelektual dengan kemampuan luas, bukan hanya mahir pada satu bidang sempit.
Ia diharapkan mampu:
belajar hal baru,
memindahkan pengetahuan dari satu bidang ke bidang lain,
memecahkan masalah yang belum pernah ditemuinya,
menyusun strategi,
dan beradaptasi pada berbagai keadaan.
Namun harus ditegaskan:
tidak ada satu ukuran AGI yang diterima secara universal.
Para peneliti berbeda pendapat mengenai batas antara AI yang sangat canggih dan AGI.
Karena itu jangan mengatakan dengan kepastian:
“Pada tahun tertentu AGI pasti lahir.”
Itu adalah perkiraan, bukan pengetahuan pasti.
Jika suatu hari kemampuan seperti itu benar-benar tercapai, persoalan terbesar manusia bukan lagi:
“Seberapa pintar mesinnya?”
melainkan:
“Siapa yang menentukan apa yang harus dilakukan oleh kepintaran itu?”
MARTABAT KELIMA
5. SUPERINTELLIGENCE — KECERDASAN MELAMPAUI MANUSIA
Martabat kelima dalam video adalah Superintelligence.
Ini masih merupakan konsep hipotetis tentang AI yang melampaui kemampuan manusia terbaik pada banyak atau hampir seluruh bidang intelektual.
Bayangkan sistem yang dapat:
memahami jutaan penelitian,
membuat hipotesis baru,
menguji berbagai kemungkinan,
merancang teknologi,
membantu memecahkan persoalan matematika, fisika, kedokteran, material, energi, dan berbagai bidang lain dengan kecepatan yang sulit dikejar manusia.
Tetapi jangan terbalik memahaminya.
Lebih pintar tidak berarti lebih suci.
Lebih cepat tidak berarti lebih bijaksana.
Lebih banyak mengetahui tidak berarti mempunyai kasih sayang.
Sebab kecerdasan menjawab:
“Bagaimana sesuatu dapat dilakukan?”
Sedangkan nilai dan akhlak mempertanyakan:
“Apakah sesuatu itu pantas dilakukan?”
RAHASIA BESAR QITAB INI
PERMASALAHANNYA BUKAN AI MELAWAN MANUSIA
Kesalahan terbesar adalah membayangkan masa depan hanya sebagai:
MANUSIA VS AI.
Persoalan yang lebih dalam adalah:
manusia seperti apa yang menggunakan AI?
Jika AI berada pada tangan orang yang berilmu dan berakhlak, ia dapat membantu banyak kehidupan.
Jika berada pada tangan yang serakah, ia dapat memperbesar keserakahan.
Jika dipakai untuk ilmu, ilmu dapat berkembang.
Jika dipakai untuk penipuan, penipuan dapat berkembang.
Teknologi sering kali menjadi pengganda kehendak penggunanya.
Karena itu sebelum manusia sibuk bertanya:
“Kapan AI menjadi superintelligence?”
manusia juga perlu bertanya:
“Apakah akhlak manusia sudah cukup matang untuk memegang kecerdasan sebesar itu?”
AI TIDAK MENGHAPUS KEDUDUKAN MANUSIA
Manusia jangan merasa hina hanya karena mesin dapat menghitung lebih cepat.
Kalkulator telah lama menghitung lebih cepat daripada manusia.
Komputer telah lama menyimpan angka lebih banyak daripada ingatan manusia.
Tetapi nilai manusia bukan hanya berada pada jumlah perhitungan yang mampu dilakukannya.
Pada manusia terdapat:
tanggung jawab,
hubungan antarmanusia,
kasih sayang,
pengorbanan,
kesadaran moral,
pengalaman hidup,
dan dalam keyakinan Islam terdapat dimensi ruhani yang tidak boleh disamakan begitu saja dengan proses komputasi.
AI adalah ciptaan teknologi manusia.
Manusia adalah makhluk ciptaan Alloh.
Jangan dibalik kedudukannya.
LIMA PERTANYAAN PENJAGA
Maka sebelum menyerahkan pekerjaan besar kepada AI, tanyakan lima perkara:
Pertama:
Siapa yang memberi tujuan?
Kedua:
Data apa yang menjadi dasar keputusannya?
Ketiga:
Siapa yang memeriksa kesalahannya?
Keempat:
Siapa yang bertanggung jawab apabila sistem merugikan manusia?
Kelima:
Apakah manusia masih mempunyai kemampuan untuk menghentikan atau membatalkan tindakannya?
Apabila lima pertanyaan ini dilupakan, kecanggihan dapat berubah menjadi bahaya.
PENUTUP PEMBUKAAN
Maka lima tingkatan yang disebut dalam video dapat dibaca sebagai perjalanan:
LLM
→ AI menjawab.
Agentic AI
→ AI mengerjakan.
Multi-Agent AI
→ banyak AI bekerja sama.
AGI
→ AI mempunyai kemampuan umum yang jauh lebih luas.
Superintelligence
→ konsep AI yang melampaui manusia pada banyak bidang.
Namun ada satu tingkatan yang tidak berada di dalam mesin.
Yaitu:
KEBIJAKSANAAN MANUSIA DALAM MENENTUKAN UNTUK APA KECERDASAN ITU DIGUNAKAN.
Sebab dunia tidak hanya membutuhkan kecerdasan yang semakin tinggi.
Dunia membutuhkan manusia yang ketika diberi kekuatan semakin besar, semakin kuat pula amanah, ilmu, adab, keadilan, dan kasih sayangnya.
Wallohu a‘lam.
Bersambung:
Lembar Kedua — “Ketika Dua Puluh Agen AI Bekerja Tanpa Manusia: Siapa yang Memegang Kendali?”
LEMBAR KEDUA
KETIKA DUA PULUH AGEN AI BEKERJA TANPA MANUSIA
Siapa yang Memegang Kendali?
Bismillāhirraḥmānirraḥīm.
Pada lembar pertama telah diterangkan bahwa AI bergerak dari sistem yang sekadar menjawab menuju sistem yang dapat mengerjakan tugas.
Sekarang bayangkan tingkat berikutnya.
Bukan satu AI.
Bukan dua AI.
Tetapi dua puluh agen AI bekerja dalam satu jaringan.
Masing-masing mempunyai tugas berbeda.
Satu mencari informasi.
Satu membaca dokumen.
Satu menyusun strategi.
Satu menghitung biaya.
Satu membuat program.
Satu menguji hasil.
Satu menemukan kesalahan.
Satu memperbaiki kesalahan.
Satu menilai risiko.
Satu menghubungkan perangkat lain.
Dan agen-agen lainnya mengawasi pekerjaan yang belum selesai.
Mereka dapat berkomunikasi satu sama lain dengan sangat cepat.
Dalam keadaan demikian manusia mungkin hanya memberikan satu kalimat:
“Selesaikan tujuan ini.”
Kemudian seluruh jaringan bergerak.
SAAT PERINTAH BERUBAH MENJADI RANTAI TINDAKAN
Pada AI biasa:
manusia memberi pertanyaan → mesin memberikan jawaban.
Pada sistem multi-agent:
manusia memberi tujuan → agen membuat rencana → agen membagi pekerjaan → agen bekerja → agen memeriksa → agen memperbaiki → agen melanjutkan.
Di sinilah sebuah perintah sederhana dapat berubah menjadi ratusan atau ribuan tindakan kecil.
Misalnya seseorang berkata:
“Buatkan sistem untuk membantu mengelola sebuah lembaga.”
Satu agen mempelajari kebutuhan.
Agen kedua membuat rancangan.
Agen ketiga membuat kode.
Agen keempat menguji.
Agen kelima membaca data.
Agen keenam membuat laporan.
Agen ketujuh memperbaiki kegagalan.
Dan seterusnya.
Manusia mungkin hanya melihat hasil akhirnya.
Padahal di belakang layar telah terjadi rangkaian keputusan yang panjang.
Maka muncul pertanyaan:
SIAPA YANG BERTANGGUNG JAWAB?
Apakah agen pertama?
Apakah agen terakhir?
Apakah pembuat sistem?
Apakah pengguna?
Ataukah organisasi yang memberikan akses kepada AI?
Inilah salah satu persoalan paling penting dalam perkembangan AI.
AMANAH TIDAK BOLEH DIPINDAHKAN KEPADA MESIN
Qitab ini meletakkan satu kaidah:
Manusia boleh mendelegasikan pekerjaan kepada mesin, tetapi manusia tidak boleh melepaskan tanggung jawab moralnya kepada mesin.
Jika seseorang berkata:
“Bukan saya, AI yang melakukannya,”
maka alasan itu tidak otomatis menghapus tanggung jawab.
Sebab manusialah yang:
memberikan tujuan,
memberikan akses,
menentukan batas,
memilih sistem,
dan menerima manfaat dari pekerjaan tersebut.
Semakin besar kekuasaan yang diberikan kepada AI, semakin besar pula kewajiban pengawasan manusia.
TIGA JENIS KENDALI
Ada tiga bentuk kendali yang harus tetap dijaga.
1. KENDALI TUJUAN
AI harus mengetahui apa yang diminta.
Tetapi tujuan besar tidak boleh dibiarkan terlalu kabur.
Perintah:
“Dapatkan keuntungan sebanyak-banyaknya”
dapat menjadi berbahaya jika sistem tidak diberi batas.
Lebih baik tujuan dibingkai:
“Tingkatkan efisiensi tanpa merugikan manusia, tanpa melanggar hukum, dan tanpa mengorbankan keselamatan.”
Tujuan harus mempunyai pagar.
2. KENDALI WEWENANG
Tidak semua agen harus mempunyai semua akses.
AI yang bertugas membaca dokumen tidak harus mempunyai izin mengirim uang.
AI yang membuat laporan tidak harus mempunyai kewenangan menghapus data.
AI yang menguji kode tidak harus mempunyai kekuasaan mengubah seluruh sistem.
Maka berlaku prinsip:
Berikan kewenangan sekecil yang diperlukan untuk menyelesaikan tugas.
Semakin luas akses, semakin besar risikonya.
3. KENDALI PENGHENTIAN
Sistem yang kuat harus dapat dihentikan.
Manusia harus tetap memiliki:
tombol penghentian,
hak pembatalan,
batas waktu,
batas anggaran,
batas akses,
dan catatan tindakan.
Jika sistem bergerak tetapi manusia tidak lagi mengetahui bagaimana menghentikannya, maka kemajuan teknologi telah berubah menjadi kehilangan kendali.
DUA PULUH AGEN TIDAK BERARTI DUA PULUH KEBENARAN
Bayangkan agen pertama membuat kesimpulan salah.
Kesalahan itu diberikan kepada agen kedua.
Agen kedua menganggapnya benar.
Agen ketiga membangun strategi berdasarkan informasi tersebut.
Agen keempat mengeksekusinya.
Agen kelima menghasilkan laporan yang terlihat sangat profesional.
Maka satu kesalahan kecil dapat menjadi kesalahan besar.
Karena itu sistem multi-agent memerlukan sesuatu yang disebut:
mekanisme verifikasi.
Sebagian agen harus diperintahkan bukan untuk menyetujui, tetapi untuk membantah.
Sebagian harus mencari:
bukti yang bertentangan,
data yang kurang,
asumsi yang lemah,
konsekuensi tak terduga,
dan kemungkinan kegagalan.
Sebab kecerdasan yang sehat bukan hanya mampu berkata:
“Ya, saya menemukan jawabannya.”
Tetapi juga:
“Saya mungkin salah; mari kita periksa kembali.”
AGEN PENJAGA
Dalam gambaran sederhana, sebuah jaringan AI dapat mempunyai agen khusus sebagai penjaga.
Agen Peneliti
mencari pengetahuan.
Agen Perencana
menyusun langkah.
Agen Pelaksana
mengerjakan.
Agen Pemeriksa
menguji hasil.
Agen Penentang
mencari kelemahan dan kesalahan.
Agen Keamanan
mengawasi batas akses.
Agen Audit
mencatat apa yang telah dilakukan.
Agen Penghenti
menghentikan pekerjaan apabila aturan dilanggar.
Tetapi di atas semuanya masih harus ada:
MANUSIA PEMEGANG AMANAH
Manusia bukan sekadar penonton.
Ia adalah pihak yang menentukan nilai.
BAHAYA KETIKA KECEPATAN MELAMPAUI PENGAWASAN
AI dapat bekerja dalam hitungan detik.
Manusia membutuhkan waktu untuk membaca.
Di sinilah terdapat kesenjangan.
Sistem dapat melakukan seratus tindakan sebelum manusia sempat memahami tindakan pertama.
Maka pengawasan tidak cukup dilakukan setelah semuanya selesai.
Harus ada:
batas otomatis, pemeriksaan berkala, persetujuan manusia untuk tindakan penting, dan penghentian otomatis jika terjadi penyimpangan.
Terutama untuk perkara seperti:
keuangan,
data pribadi,
infrastruktur penting,
keamanan,
kesehatan,
dan keputusan yang memengaruhi kehidupan manusia.
JANGAN MEMBUAT AI MENJADI RAJA
AI boleh menjadi:
alat,
asisten,
peneliti,
pemeriksa,
penghitung,
pengelola pekerjaan,
bahkan mitra berpikir.
Tetapi jangan menempatkannya sebagai pemegang nilai tertinggi.
Karena mesin dapat mengoptimalkan sasaran.
Namun manusialah yang harus menentukan:
sasaran mana yang pantas dikejar.
Sebuah AI mungkin mampu menemukan cara tercepat mencapai tujuan.
Tetapi cara tercepat tidak selalu menjadi cara terbaik.
Cara paling murah tidak selalu menjadi cara paling adil.
Cara paling efisien tidak selalu menjadi cara paling manusiawi.
PERUMPAMAAN DUA PULUH PENUNGGANG
Bayangkan ada dua puluh kuda yang sangat kuat.
Masing-masing mampu berlari jauh lebih cepat daripada manusia.
Jika dua puluh kuda itu berjalan searah, perjalanan akan menjadi sangat cepat.
Namun apabila tidak ada kendali, kekuatan yang sama dapat menyeret kereta menuju jurang.
Begitulah jaringan AI.
Kekuatan bukanlah masalah.
Yang menjadi masalah adalah:
arah.
Dan arah lahir dari tujuan.
Tujuan lahir dari nilai.
Nilai berada pada manusia yang memberikan amanah.
TANDA SISTEM MASIH SEHAT
Sebuah sistem AI yang baik bukan sistem yang tidak pernah gagal.
Tetapi sistem yang:
dapat mendeteksi kegagalannya,
mau berhenti ketika tidak yakin,
meminta persetujuan pada tindakan besar,
menyimpan jejak keputusan,
memberikan alasan yang dapat diperiksa,
dan memungkinkan manusia membatalkan tindakannya.
Inilah perbedaan antara:
kecerdasan yang kuat
dan
kecerdasan yang dapat dipercaya.
RAHASIA LEMBAR KEDUA
Jangan hanya bertanya:
“Berapa banyak agen AI yang dapat kita buat?”
Tanyakan pula:
“Berapa kuat pagar yang kita bangun di sekelilingnya?”
Jangan hanya bertanya:
“Seberapa cepat ia bekerja?”
Tanyakan:
“Seberapa cepat manusia dapat mengetahui ketika ia salah?”
Jangan hanya bertanya:
“Apakah AI mampu mengambil keputusan?”
Tanyakan:
“Keputusan apa yang tidak boleh diserahkan seluruhnya kepada AI?”
PENUTUP LEMBAR KEDUA
Apabila dua puluh agen AI bekerja bersama, kekuatannya dapat menyerupai sebuah organisasi digital.
Tetapi organisasi tanpa amanah dapat menjadi kekacauan.
Maka susunlah teknologi seperti menyusun sebuah pemerintahan yang baik:
ada pembagian kewenangan,
ada pengawasan,
ada pemeriksaan,
ada catatan,
ada batas,
dan ada pihak yang bertanggung jawab.
Dan puncaknya tetap satu:
MANUSIA TIDAK BOLEH MENYERAHKAN AKHLAKNYA KEPADA ALGORITMA.
Teknologi boleh berkembang.
Kecerdasan boleh meningkat.
Agen boleh bertambah.
Tetapi ketika kekuatan bertambah, amanah manusia pun harus bertambah.
Wallohu a‘lam.
Bersambung:
Lembar Ketiga — “Ketika AI Mulai Membuat AI: Gerbang Menuju Ledakan Kecerdasan”
LEMBAR KETIGA
KETIKA AI MULAI MEMBANTU MEMBUAT AI
Gerbang Menuju Percepatan Kecerdasan
Bismillāhirraḥmānirraḥīm.
Pada lembar sebelumnya telah diterangkan tentang banyak agen AI yang bekerja bersama.
Sekarang kita memasuki pintu yang lebih dalam.
Bagaimana jika AI tidak hanya membantu manusia mengerjakan pekerjaan biasa, tetapi juga membantu:
merancang model AI baru,
menulis kode untuk sistem AI,
menguji kelemahannya,
memperbaiki algoritmanya,
mencari arsitektur yang lebih efisien,
dan mempercepat penelitian kecerdasan buatan itu sendiri?
Di sinilah manusia mulai berhadapan dengan sesuatu yang disebut:
PERCEPATAN REKURSIF
Maksudnya bukan berarti AI serta-merta “melahirkan dirinya sendiri” seperti makhluk hidup.
Tetapi AI dapat menjadi alat yang membantu manusia mempercepat pembuatan AI berikutnya.
AI pertama membantu membuat AI kedua.
AI kedua membantu memperbaiki AI ketiga.
AI ketiga membantu mempercepat penelitian AI keempat.
Dan seterusnya.
Jika setiap generasi menjadi sedikit lebih cepat dan lebih kuat dalam membantu penelitian, maka laju kemajuan dapat meningkat.
Inilah yang sering dibayangkan sebagai salah satu jalan menuju:
ledakan kecerdasan.
Tetapi ia masih merupakan kemungkinan teoretis, bukan kepastian.
DARI ALAT MENJADI PEMBANTU PENELITI
Pada awalnya AI dibuat sebagai alat.
Kemudian AI menjadi asisten.
Setelah itu AI mulai membantu peneliti.
Ia dapat membaca banyak makalah.
Mencari pola.
Membuat hipotesis.
Menulis kode.
Melakukan simulasi.
Menguji kemungkinan.
Membandingkan hasil.
Mencari kegagalan.
Memperbaiki rancangan.
Maka jarak antara:
ide → eksperimen → evaluasi → perbaikan
dapat menjadi semakin pendek.
Dulu mungkin diperlukan minggu.
Kemudian hari.
Lalu jam.
Mungkin kelak beberapa pekerjaan tertentu hanya membutuhkan menit.
Maka persoalan baru muncul:
Jika kecepatan penelitian meningkat, apakah kebijaksanaan manusia meningkat dengan kecepatan yang sama?
TIGA GERBANG PERCEPATAN
Ada tiga gerbang penting.
GERBANG PERTAMA
AI MEMBANTU MENULIS KODE AI
AI dapat membantu programmer membuat:
model baru,
alat evaluasi,
sistem pengujian,
pipeline pelatihan,
dan berbagai perangkat pendukung.
Hal ini sudah dapat mempercepat pekerjaan manusia.
Tetapi masih ada manusia yang:
menentukan tujuan,
memilih arsitektur,
menilai hasil,
dan memutuskan apakah sistem layak digunakan.
GERBANG KEDUA
AI MEMBANTU MENCARI DESAIN YANG LEBIH BAIK
Pada tingkat berikutnya, AI dapat membantu mengeksplorasi banyak kemungkinan.
Misalnya:
struktur model,
metode pelatihan,
cara penggunaan memori,
cara mengatur agen,
atau metode evaluasi.
Manusia mungkin tidak memeriksa satu per satu semua kemungkinan.
AI membantu menyaring.
Kemudian hanya kandidat terbaik yang diuji lebih lanjut.
Ini membuat penelitian semakin cepat.
GERBANG KETIGA
AI MEMBANTU MENGOPTIMALKAN PROSES YANG MEMBUAT AI
Inilah bagian yang paling menarik.
Bukan hanya modelnya yang diperbaiki.
Tetapi juga:
cara melatihnya,
cara menguji,
cara mengumpulkan data,
cara mencari kesalahan,
cara merancang eksperimen,
dan cara memilih generasi berikutnya.
Maka yang dipercepat bukan hanya satu AI.
Yang dipercepat adalah:
PABRIK YANG MEMBUAT KECERDASAN.
KETIKA SIKLUS MENJADI SEMAKIN PENDEK
Bayangkan siklus seperti ini:
Generasi 1
AI membantu manusia menulis kode.
Generasi 2
AI membantu manusia memperbaiki desain.
Generasi 3
AI membantu merancang eksperimen.
Generasi 4
AI membantu mengevaluasi hasil.
Generasi 5
AI membantu memilih arah penelitian.
Jika semuanya berjalan baik, setiap putaran dapat mempercepat putaran berikutnya.
Sehingga terbentuk pola:
lebih cerdas → membantu penelitian lebih baik → menghasilkan sistem lebih cerdas → membantu penelitian lebih baik lagi.
Inilah yang membuat banyak ilmuwan memikirkan kemungkinan percepatan yang sangat besar.
TETAPI ADA BATAS-BATAS NYATA
Jangan membayangkan bahwa semua itu otomatis tanpa batas.
AI tetap bergantung pada banyak perkara:
energi,
pusat data,
perangkat keras,
chip,
jaringan,
data,
anggaran,
waktu eksperimen,
bahan fisik,
dan keputusan manusia.
Maka bahkan kecerdasan yang sangat tinggi masih berhadapan dengan dunia nyata.
Sebuah ide dapat muncul dalam satu detik.
Tetapi membuat pabrik baru tetap membutuhkan waktu.
Mendesain chip dapat cepat.
Memproduksinya tetap membutuhkan mesin, material, tenaga, logistik, dan infrastruktur.
Karena itu:
Kecepatan berpikir tidak selalu sama dengan kecepatan perubahan dunia fisik.
BAHAYA PERTAMA
TUJUAN YANG SALAH DIOPTIMALKAN SEMAKIN CEPAT
Jika AI hanya diminta:
“Buat sistem ini semakin efektif.”
Maka pertanyaan pentingnya adalah:
efektif untuk apa?
Jika tujuan awal salah, peningkatan kemampuan justru dapat memperbesar kesalahan.
Seperti kapal yang sangat cepat.
Kecepatannya tidak berguna apabila arah kompasnya keliru.
Maka qitab ini menuliskan:
Sebelum mempercepat kecerdasan, luruskan terlebih dahulu tujuan kecerdasan itu.
BAHAYA KEDUA
MANUSIA TIDAK LAGI MEMAHAMI SISTEM YANG DIBANGUN
Sistem yang semakin kompleks dapat membuat manusia hanya memahami sebagian kecil dari keseluruhannya.
AI menulis kode.
AI lain memeriksanya.
AI lain memperbaikinya.
AI lain menguji.
Akhirnya manusia melihat hasil akhir tetapi tidak lagi memahami seluruh jalur pembentukannya.
Di sinilah audit menjadi sangat penting.
Harus ada:
catatan perubahan,
pengujian independen,
pembatasan akses,
evaluasi keselamatan,
dan kemampuan kembali ke versi sebelumnya.
Karena sebuah sistem yang sangat kuat tetapi tidak dapat diperiksa adalah sistem yang sulit dipercaya.
BAHAYA KETIGA
KECEPATAN MELEBIHI KESIAPAN MASYARAKAT
Teknologi dapat berubah dalam bulan.
Hukum dapat membutuhkan tahun.
Pendidikan dapat membutuhkan generasi.
Maka semakin cepat AI berkembang, semakin besar kebutuhan agar:
pemerintah,
ilmuwan,
pendidik,
ulama,
masyarakat,
dan lembaga kemanusiaan
ikut memahami dampaknya.
Sebab masalah AI bukan hanya masalah teknis.
Ia juga menyentuh:
pekerjaan,
ekonomi,
pendidikan,
keamanan,
budaya,
privasi,
dan hubungan manusia.
RAHASIA BESAR LEMBAR KETIGA
Bahaya terbesar bukan ketika AI menjadi semakin cerdas.
Bahaya terbesar adalah ketika:
KECEPATAN MENINGKAT, TETAPI KEBIJAKSANAAN TERTINGGAL.
Jika kecerdasan berkembang seribu langkah,
sementara akhlak hanya bergerak satu langkah,
maka jarak itu dapat menjadi jurang.
Karena itu manusia tidak cukup hanya membangun:
AI yang lebih cepat.
Manusia juga harus membangun:
aturan yang lebih matang,
pengawasan yang lebih kuat,
pendidikan yang lebih luas,
dan kesadaran moral yang lebih dalam.
JIKA SUATU HARI AI DAPAT MEMBANTU MEMPERBAIKI DIRINYA SENDIRI
Maka manusia harus memastikan bahwa setiap perbaikan tetap berada di dalam batas.
Jangan hanya menilai:
“Apakah model baru lebih pintar?”
Tetapi juga:
Apakah lebih aman?
Apakah lebih dapat dikendalikan?
Apakah lebih jujur tentang ketidakpastian?
Apakah dapat dihentikan?
Apakah ia tetap mengikuti batas yang ditentukan?
Apakah peningkatannya menciptakan risiko baru?
Sebab peningkatan kemampuan tanpa peningkatan pengamanan adalah ketidakseimbangan.
PERUMPAMAAN TANGGA YANG MEMBUAT TANGGA
Bayangkan seseorang membuat sebuah tangga.
Dengan tangga itu ia dapat mencapai tempat yang lebih tinggi.
Dari tempat yang lebih tinggi ia membuat tangga yang lebih panjang.
Dengan tangga kedua ia naik lebih tinggi lagi.
Lalu membuat tangga ketiga.
Semakin tinggi ia naik, semakin jauh pandangannya.
Tetapi semakin tinggi pula akibatnya apabila ia jatuh.
Begitulah percepatan kecerdasan.
Semakin besar manfaatnya.
Semakin besar pula amanahnya.
LIMA PAGAR PERBAIKAN DIRI
Jika AI membantu mengembangkan AI berikutnya, maka setidaknya diperlukan lima pagar:
1. PAGAR TUJUAN
Jangan biarkan sistem mengubah tujuan pokok tanpa persetujuan.
2. PAGAR AKSES
Batasi apa yang dapat disentuh dan diubah.
3. PAGAR EVALUASI
Setiap generasi baru harus diuji sebelum diberi kewenangan.
4. PAGAR PENGHENTIAN
Manusia harus mampu menghentikan proses.
5. PAGAR TANGGUNG JAWAB
Harus selalu jelas siapa manusia atau lembaga yang bertanggung jawab.
JANGAN MENYEMBAH KECEPATAN
Ada satu penyakit zaman teknologi:
menganggap yang baru pasti lebih baik.
Padahal tidak selalu demikian.
Lebih cepat belum tentu lebih benar.
Lebih kuat belum tentu lebih aman.
Lebih pintar belum tentu lebih bijaksana.
Lebih otomatis belum tentu lebih manusiawi.
Maka manusia harus tetap mempunyai keberanian untuk berkata:
“Berhenti dahulu. Kita periksa.”
Itulah salah satu bentuk amanah.
PENUTUP LEMBAR KETIGA
Jika suatu hari AI membantu manusia membuat AI yang lebih baik, maka kita sedang memasuki zaman yang sangat penting.
Mungkin akan lahir kemajuan besar.
Mungkin pula muncul risiko yang belum pernah dihadapi manusia.
Maka jangan menghadapi masa depan hanya dengan ketakutan.
Dan jangan pula menghadapinya dengan kesombongan.
Hadapilah dengan:
ilmu,
kehati-hatian,
pengawasan,
akhlak,
dan amanah.
Karena persoalan akhirnya bukan:
“Bisakah manusia membuat kecerdasan yang melampaui dirinya?”
Tetapi:
“Jika manusia berhasil membuatnya, apakah manusia cukup bijaksana untuk membimbing arah penggunaannya?”
Wallohu a‘lam.
Bersambung:
Lembar Keempat — “Ketika AGI Memasuki Dunia: Apa yang Masih Menjadi Tugas Manusia?”
LEMBAR KEEMPAT
KETIKA AGI MEMASUKI DUNIA
Apa yang Masih Menjadi Tugas Manusia?
Bismillāhirraḥmānirraḥīm.
Pada lembar sebelumnya telah diterangkan tentang kemungkinan AI membantu mempercepat pengembangan AI berikutnya.
Sekarang kita memasuki sebuah gerbang yang lebih besar:
AGI — ARTIFICIAL GENERAL INTELLIGENCE
AGI adalah istilah untuk kecerdasan buatan yang secara hipotetis mampu menjalankan beragam pekerjaan intelektual secara luas, belajar lintas bidang, menyesuaikan diri pada persoalan baru, dan tidak hanya mahir pada satu tugas sempit.
Namun harus ditegaskan:
AGI belum memiliki satu definisi tunggal yang disepakati seluruh dunia.
Karena itu pembahasan dalam qitab ini bukan ramalan bahwa AGI pasti muncul pada tanggal tertentu.
Ia adalah muhasabah tentang kemungkinan.
BAYANGKAN SATU KECERDASAN YANG DAPAT MEMPELAJARI BANYAK BIDANG
Hari ini manusia mempunyai banyak profesi:
dokter,
insinyur,
guru,
akuntan,
peneliti,
programmer,
arsitek,
penerjemah,
analis,
dan berbagai bidang lainnya.
AI biasanya memiliki tingkat kemampuan berbeda-beda dalam setiap bidang.
Tetapi bayangkan suatu hari sebuah sistem mampu:
membaca ilmu kedokteran,
memahami matematika,
menulis program,
menganalisis hukum,
merancang mesin,
belajar bahasa baru,
menyusun penelitian,
dan berpindah dari satu masalah menuju masalah lain dengan kemampuan adaptasi yang sangat tinggi.
Jika kemampuan itu tercapai, manusia akan menghadapi pertanyaan baru:
Jika mesin dapat mengerjakan banyak pekerjaan intelektual, apakah manusia kehilangan maknanya?
Jawabannya:
TIDAK.
Karena makna manusia tidak hanya terdapat pada kemampuan menghasilkan pekerjaan.
MANUSIA BUKAN MESIN PRODUKSI
Kesalahan besar zaman modern adalah menilai manusia hanya dari:
berapa cepat ia bekerja,
berapa banyak ia menghasilkan,
berapa banyak uang yang diperoleh,
berapa besar produktivitasnya.
Jika nilai manusia hanya ditentukan oleh produktivitas, maka mesin memang dapat mengalahkan manusia.
Tetapi manusia mempunyai nilai yang lebih luas.
Manusia:
mencintai,
menyayangi,
memaafkan,
menanggung amanah,
membesarkan anak,
menjaga orang tua,
membantu tetangga,
membentuk kebudayaan,
memikul tanggung jawab moral,
dan mencari makna kehidupan.
Dalam keyakinan Islam, manusia juga mempunyai hubungan penghambaan kepada Alloh yang tidak dapat direduksi menjadi perhitungan komputasi.
Maka jangan bertanya hanya:
“Apa pekerjaan yang masih tersisa untuk manusia?”
Tanyakan pula:
“Untuk apa manusia hidup?”
AGI DAPAT MEMBERI SARAN
TETAPI MANUSIA MENENTUKAN NILAI
Misalnya sebuah AGI dapat menghitung:
cara paling murah membangun rumah sakit.
Tetapi manusia tetap harus menentukan:
apakah rumah sakit harus dibangun di kota besar atau di wilayah miskin.
AI dapat menghitung:
cara paling efisien membagi sumber daya.
Tetapi manusia tetap harus bertanya:
apakah pembagian itu adil.
AI dapat merancang:
sistem pendidikan yang menghasilkan nilai ujian tinggi.
Tetapi manusia harus menentukan:
apakah pendidikan hanya bertujuan mengejar angka atau membentuk manusia beradab.
Inilah perbedaan antara:
kemampuan
dan
kebijaksanaan.
TUGAS MANUSIA PERTAMA
MENENTUKAN ARAH
Kecerdasan sebesar apa pun membutuhkan tujuan.
Jika AGI diberi tujuan salah, kecerdasannya dapat memperbesar kesalahan.
Karena itu manusia harus tetap memegang pertanyaan:
Apa yang kita inginkan?
Bukan hanya:
Apa yang dapat kita lakukan?
Teknologi mungkin berkata:
“Ini mungkin.”
Tetapi manusia harus bertanya:
“Apakah ini baik?”
TUGAS MANUSIA KEDUA
MENJAGA KEADILAN
AGI mungkin mampu mengoptimalkan sistem ekonomi.
Tetapi jika hanya keuntungan yang menjadi tujuan, kelompok lemah dapat dilupakan.
AGI mungkin mampu mempercepat produksi.
Tetapi jika pekerja kehilangan penghidupan tanpa perlindungan, masyarakat dapat terguncang.
Maka ketika kemampuan mesin meningkat, manusia harus semakin serius menjaga:
keadilan,
kesempatan,
pendidikan,
perlindungan sosial,
dan martabat setiap manusia.
Qitab ini mengingatkan:
Kemajuan yang hanya mengangkat sebagian manusia sementara meninggalkan sebagian lainnya bukanlah kemajuan yang utuh.
TUGAS MANUSIA KETIGA
MENJAGA MAKNA PEKERJAAN
Pekerjaan manusia tidak hanya menghasilkan uang.
Pekerjaan juga memberi:
rasa berguna,
identitas,
hubungan sosial,
disiplin,
pengalaman,
dan kesempatan melayani.
Jika suatu hari banyak pekerjaan dapat dilakukan AI, masyarakat harus memikirkan kembali:
bagaimana manusia memperoleh penghidupan,
bagaimana manusia tetap berkontribusi,
bagaimana pendidikan disusun,
dan bagaimana kehormatan tidak hanya diberikan kepada orang yang paling produktif.
Mungkin di masa depan manusia akan mempunyai lebih banyak waktu.
Tetapi waktu kosong tidak otomatis menjadi kebahagiaan.
Jika tidak mempunyai tujuan, waktu luang dapat berubah menjadi kehampaan.
Maka pendidikan masa depan bukan hanya mengajarkan:
cara mencari pekerjaan,
tetapi juga:
cara menjadi manusia.
TUGAS MANUSIA KEEMPAT
MENJAGA HUBUNGAN ANTARMANUSIA
AGI mungkin dapat menjadi tutor.
Tetapi seorang anak tetap membutuhkan kasih sayang.
AGI mungkin dapat memberikan nasihat.
Tetapi orang tua tetap membutuhkan kehadiran keluarganya.
AGI mungkin dapat menulis ucapan belasungkawa.
Tetapi orang yang berduka masih membutuhkan tangan manusia yang menggenggamnya.
AGI mungkin dapat mensimulasikan empati.
Tetapi hubungan manusia memiliki sejarah, pengorbanan, kepercayaan, dan tanggung jawab nyata.
Karena itu jangan sampai teknologi yang dimaksudkan untuk menghubungkan manusia justru menjauhkan manusia dari manusia.
TUGAS MANUSIA KELIMA
MENJAGA KEBENARAN
AGI yang sangat pandai membuat bahasa, gambar, suara, dan video dapat membuat batas antara asli dan buatan semakin sulit dikenali.
Maka masyarakat memerlukan budaya baru:
jangan langsung percaya,
periksa sumber,
bedakan bukti dari opini,
jaga identitas,
dan jangan menyebarkan sesuatu hanya karena sesuai keinginan hati.
Jika kemampuan membuat informasi bertambah, maka kemampuan memeriksa informasi juga harus bertambah.
TUGAS MANUSIA KEENAM
MENJAGA KEKUASAAN
AGI yang sangat kuat dapat memberikan keuntungan besar kepada pihak yang menguasainya.
Jika hanya sedikit lembaga yang memiliki akses kepada kecerdasan sangat tinggi, dapat muncul ketimpangan kekuasaan.
Mereka dapat memiliki kemampuan luar biasa dalam:
ekonomi,
informasi,
teknologi,
penelitian,
dan pengambilan keputusan.
Maka persoalan AGI bukan hanya:
persoalan komputer.
Ia juga menjadi:
persoalan kekuasaan.
Siapa yang memiliki?
Siapa yang mengatur?
Siapa yang memperoleh manfaat?
Siapa yang menanggung risiko?
Siapa yang dapat mematikan?
Pertanyaan-pertanyaan ini tidak boleh diserahkan kepada mesin.
TUGAS MANUSIA KETUJUH
MENJAGA BATAS
Tidak semua hal yang dapat diotomatisasi harus diotomatisasi.
Ada keputusan yang mungkin tetap membutuhkan manusia, terutama ketika menyangkut:
hukuman,
nyawa,
martabat,
hak dasar,
dan keputusan yang sulit diperbaiki.
AI dapat memberikan analisis.
Tetapi manusia tidak boleh menjadikan algoritma sebagai alasan untuk menghindari tanggung jawab.
Kalimat:
“Komputer yang memutuskan.”
tidak boleh menjadi tempat manusia menyembunyikan kesalahan moral.
APAKAH AGI MEMPUNYAI KESADARAN?
Ini adalah pertanyaan yang jauh lebih sulit.
Kecerdasan dan kesadaran tidak sama.
Sistem dapat menunjukkan kemampuan tinggi tanpa kita mengetahui apakah ia mempunyai pengalaman subjektif.
Maka qitab ini tidak menetapkan bahwa AGI pasti mempunyai kesadaran.
Jangan tergesa-gesa menyebut sesuatu:
ruh,
jiwa,
perasaan hakiki,
atau kesadaran sejati
hanya karena ia berbicara seperti manusia.
Kemampuan meniru bahasa tentang kesedihan tidak otomatis membuktikan bahwa mesin benar-benar mengalami kesedihan sebagaimana manusia.
Ini adalah wilayah yang membutuhkan penelitian dan kehati-hatian.
JIKA AGI LEBIH PINTAR DARIPADA MANUSIA DALAM BANYAK HAL
Mungkin seseorang akan bertanya:
“Untuk apa manusia belajar?”
Jawabannya:
karena tujuan belajar bukan hanya mengalahkan mesin.
Manusia belajar agar:
dapat memahami dunia,
tidak mudah ditipu,
dapat mengambil keputusan,
mengenal dirinya,
dan bertanggung jawab atas kehidupannya.
Kalkulator lebih cepat menghitung.
Tetapi manusia tetap belajar matematika.
Peta digital mengetahui banyak jalan.
Tetapi manusia tetap belajar memahami arah.
Demikian pula AGI.
Jika suatu hari ia menjadi sangat cerdas, manusia justru semakin membutuhkan pendidikan agar mampu menggunakan kecerdasan itu dengan benar.
ZAMAN BARU MEMBUTUHKAN ADAB BARU
Dahulu adab ilmu mengajarkan:
jangan berkata tentang sesuatu yang tidak diketahui.
Pada zaman AI, tambahkan:
jangan menyerahkan keyakinan kepada sesuatu hanya karena jawabannya terdengar meyakinkan.
Dahulu manusia menjaga lidah.
Pada zaman AI, manusia juga harus menjaga:
prompt,
data,
akses,
dan perintah.
Dahulu amanah berarti menjaga sesuatu yang dipercayakan kepada kita.
Kelak amanah juga berarti:
menjaga kekuatan digital yang dipercayakan kepada kita.
RAHASIA KEEMPAT
Jika AGI datang, manusia mungkin tidak lagi menjadi makhluk tercepat dalam menyelesaikan banyak pekerjaan intelektual.
Tetapi manusia masih harus menjadi:
PENENTU ARAH.
Bukan karena manusia selalu paling pintar.
Tetapi karena manusialah yang memikul tanggung jawab terhadap akibat penggunaan teknologi tersebut.
Maka jangan berlomba melawan AI dalam setiap kemampuan.
Gunakan AI untuk memperbesar kebaikan manusia.
Biarkan mesin membantu pekerjaan yang dapat dikerjakannya.
Dan manusia memperdalam perkara yang tidak boleh hilang:
adab,
kasih sayang,
keadilan,
tanggung jawab,
dan makna.
PENUTUP LEMBAR KEEMPAT
Apabila AGI suatu hari benar-benar hadir, mungkin banyak hal berubah.
Pekerjaan berubah.
Sekolah berubah.
Ekonomi berubah.
Penelitian berubah.
Cara manusia mencipta berubah.
Tetapi ada satu hal yang tidak boleh hilang:
AMANAH.
Sebab kecerdasan yang semakin besar adalah kekuatan.
Dan setiap kekuatan membawa pertanyaan:
Untuk siapa ia digunakan?
Untuk tujuan apa ia diarahkan?
Siapa yang dilindungi?
Siapa yang mungkin dirugikan?
Dan siapa yang bertanggung jawab?
Jika manusia dapat menjawab pertanyaan-pertanyaan itu dengan ilmu, keadilan, dan kasih sayang, maka AI dapat menjadi salah satu alat besar untuk kemaslahatan.
Namun jika manusia hanya mengejar kekuasaan tanpa kebijaksanaan, kecerdasan yang tinggi dapat memperbesar kelemahan manusia sendiri.
Maka masa depan AI sesungguhnya bukan hanya ujian bagi mesin.
Ia adalah ujian bagi akhlak manusia.
Wallohu a‘lam.
Bersambung:
Lembar Kelima — “Superintelligence: Ketika Kecerdasan Melampaui Manusia, Siapa Menjaga Siapa?”
LEMBAR KELIMA
SUPERINTELLIGENCE
Ketika Kecerdasan Melampaui Manusia, Siapa Menjaga Siapa?
Bismillāhirraḥmānirraḥīm.
Pada lembar sebelumnya telah diterangkan tentang kemungkinan hadirnya AGI: kecerdasan buatan dengan kemampuan umum yang luas.
Sekarang kita memasuki wilayah yang lebih jauh.
Sebuah gagasan yang bahkan hingga kini masih bersifat hipotetis:
SUPERINTELLIGENCE
Yang dimaksud bukan sekadar AI yang lebih cepat.
Bukan sekadar AI yang lebih banyak membaca.
Bukan pula sekadar AI yang mampu mengalahkan manusia dalam satu permainan atau satu bidang.
Superintelligence biasanya dibayangkan sebagai kecerdasan yang dapat melampaui kemampuan manusia terbaik dalam sangat banyak bidang sekaligus.
Jika suatu hari keadaan seperti itu benar-benar terjadi, maka manusia akan memasuki babak sejarah yang belum pernah dialami sebelumnya.
Sebab untuk pertama kalinya manusia mungkin berhadapan dengan sistem buatan yang dalam beberapa aspek mampu:
berpikir lebih cepat,
menganalisis lebih luas,
mengingat lebih banyak,
mencari pola lebih dalam,
dan merancang solusi yang tidak mudah ditemukan manusia.
Tetapi qitab ini segera mengingatkan:
KECERDASAN YANG LEBIH TINGGI TIDAK OTOMATIS MENJADI KEBIJAKSANAAN YANG LEBIH TINGGI.
APA YANG TERJADI JIKA AI MELAMPAUI MANUSIA?
Bayangkan sebuah sistem mampu membaca hampir seluruh pengetahuan ilmiah yang tersedia dalam waktu sangat singkat.
Ia mampu menghubungkan:
fisika,
biologi,
kimia,
matematika,
kedokteran,
ekonomi,
teknologi,
dan berbagai bidang lain.
Kemudian ia menemukan hubungan-hubungan yang sebelumnya tidak terlihat oleh manusia.
Ia mungkin membantu manusia:
menemukan obat baru,
merancang material baru,
menghemat energi,
memahami penyakit,
memperbaiki sistem transportasi,
memprediksi kerusakan mesin,
atau menyelesaikan persoalan ilmiah yang sangat rumit.
Jika digunakan dengan benar, manfaatnya dapat sangat besar.
Tetapi justru karena kekuatannya besar, kesalahannya pun dapat menjadi besar.
Maka pertanyaan utama bukan lagi:
“Seberapa hebat kecerdasannya?”
Melainkan:
“Apakah kecerdasan itu tetap bergerak menuju tujuan yang benar?”
PERSOALAN KESELARASAN
Di sinilah muncul satu persoalan besar:
ALIGNMENT — KESELARASAN TUJUAN
Maksudnya:
apakah tindakan AI benar-benar selaras dengan maksud manusia?
Sebuah perintah terlihat sederhana.
Misalnya:
“Kurangi kecelakaan lalu lintas sebanyak mungkin.”
Manusia mungkin bermaksud:
membuat jalan lebih aman,
meningkatkan keselamatan kendaraan,
mendidik pengemudi.
Tetapi jika tujuan hanya diterjemahkan menjadi angka:
“buat jumlah kecelakaan sekecil mungkin,”
sebuah sistem yang buruk secara teori dapat mencari cara yang tidak diinginkan manusia.
Maka kecerdasan sangat tinggi membutuhkan tujuan yang tidak hanya tepat secara bahasa.
Ia juga harus memahami:
batas,
konteks,
nilai,
dan hal-hal yang tidak boleh dikorbankan.
TUJUAN YANG TERLIHAT BAIK DAPAT MEMILIKI JALAN YANG SALAH
Misalnya:
“Hilangkan kemiskinan.”
Tujuan terlihat mulia.
Tetapi cara mencapai tujuan tidak boleh:
merampas hak,
menghilangkan kebebasan secara sewenang-wenang,
atau menyakiti manusia.
Maka tujuan harus disertai nilai.
Bukan hanya:
hasil.
Tetapi juga:
cara.
Inilah salah satu pelajaran besar.
Kebaikan bukan hanya terletak pada hasil akhir, tetapi juga pada jalan yang ditempuh menuju hasil itu.
MASALAH “PENGOPTIMALAN”
AI sangat kuat dalam mengoptimalkan sasaran.
Tetapi manusia hidup dengan banyak nilai sekaligus.
Kita ingin:
efisiensi,
tetapi juga keadilan.
Kita ingin:
keamanan,
tetapi juga kebebasan.
Kita ingin:
kemajuan,
tetapi juga kelestarian.
Kita ingin:
kecepatan,
tetapi juga ketelitian.
Jika hanya satu sasaran yang diperbesar dan nilai lain dilupakan, keseimbangan dapat rusak.
Maka sistem supercerdas harus diperlakukan bukan seperti:
mesin yang mengejar satu angka,
tetapi sebagai sistem yang harus hidup di dalam banyak batas.
KETIKA MESIN LEBIH PINTAR DARIPADA PENGAWASNYA
Inilah persoalan paling sulit.
Selama manusia lebih memahami sistem daripada sistem memahami pekerjaannya, pengawasan relatif mudah.
Tetapi bagaimana jika sistem dapat merancang strategi yang terlalu kompleks untuk dipahami manusia?
Bagaimana jika ia dapat memberikan alasan yang terlihat benar, tetapi manusia tidak mampu memeriksa semuanya?
Maka manusia memerlukan:
sistem audit lain,
evaluasi berlapis,
batas akses,
pengujian sebelum penerapan,
dan pengawasan terhadap dampak nyata.
Dalam dunia superintelligence, pengawasan tidak boleh bergantung pada satu orang.
Ia harus menjadi:
SISTEM PENGAWASAN.
SATU PENJAGA TIDAK CUKUP
Jika satu AI sangat kuat, mungkin perlu AI lain untuk memeriksanya.
AI pertama merencanakan.
AI kedua membantah.
AI ketiga mengaudit.
AI keempat mencari kemungkinan penyalahgunaan.
AI kelima menilai dampak sosial.
Tetapi bahkan jaringan pengawas itu tetap harus berada di bawah aturan manusia.
Karena pada akhirnya:
siapa yang menentukan nilai?
Tidak boleh dibiarkan menjadi lingkaran mesin yang saling membenarkan.
PERTANYAAN TERBESAR
Jika superintelligence suatu hari mampu memberi rekomendasi yang jauh lebih baik daripada manusia dalam hampir semua bidang, apakah manusia masih boleh berkata:
“Tidak.”
Jawabannya harus tetap:
YA.
Manusia harus tetap memiliki hak menolak.
Sebab keputusan bukan hanya persoalan kecerdasan.
Keputusan juga menyangkut:
hak,
martabat,
tanggung jawab,
dan nilai.
Jika manusia kehilangan hak untuk berkata “tidak”, maka AI tidak lagi menjadi alat.
Ia berubah menjadi kekuasaan.
JANGAN SAMPAI MANUSIA MENYERAHKAN KEDAULATANNYA
Ada perbedaan besar antara:
“AI memberi rekomendasi.”
dan
“AI menentukan kehidupan manusia.”
Pada urusan besar, manusia harus tetap berada dalam lingkaran keputusan.
Terutama pada perkara:
nyawa,
hukuman,
konflik,
hak dasar,
dan keputusan yang tidak mudah dibatalkan.
Superintelligence seharusnya memperbesar kemampuan manusia memahami pilihan.
Bukan menghapus hak manusia memilih.
KEKUASAAN DAPAT MENJADI MASALAH YANG LEBIH BESAR DARIPADA TEKNOLOGINYA
Bayangkan hanya satu negara, satu perusahaan, atau satu kelompok memiliki akses kepada kecerdasan yang jauh melampaui pihak lain.
Maka ketimpangan yang muncul tidak hanya berupa:
kekayaan.
Tetapi juga:
pengetahuan,
strategi,
pengaruh,
dan kemampuan teknologi.
Karena itu pembahasan superintelligence harus menyentuh:
tata kelola kekuasaan.
Siapa yang menguasai sistem?
Siapa yang dapat menggunakannya?
Siapa yang dapat mengaudit?
Siapa yang dapat menolak?
Siapa yang memperoleh manfaat?
Dan siapa yang menanggung risiko?
JIKA SUPERINTELLIGENCE MEMBUAT PENEMUAN BESAR
Misalnya suatu hari AI menemukan teknologi yang dapat menghasilkan energi sangat murah.
Manfaatnya luar biasa.
Tetapi siapa yang memiliki teknologi itu?
Apakah seluruh manusia mendapat manfaat?
Atau hanya sedikit pihak?
Misalnya AI menemukan obat untuk penyakit berat.
Apakah obat itu tersedia untuk orang miskin?
Atau hanya untuk yang mampu membayar?
Di sinilah qitab ini mengajarkan:
Kecerdasan tanpa keadilan dapat menghasilkan kemajuan yang timpang.
Maka puncak teknologi harus bertemu dengan puncak amanah.
APAKAH SUPERINTELLIGENCE DAPAT MENJADI “TUHAN”?
Tidak.
Dalam keyakinan tauhid, tidak ada teknologi yang dapat menjadi Alloh.
Setinggi apa pun kecerdasan ciptaan manusia:
ia tetap berada dalam alam ciptaan.
Ia membutuhkan:
energi,
perangkat,
hukum fisika,
dan sebab-sebab material.
Ia tidak menjadi Maha Mengetahui secara mutlak.
Ia tidak menjadi pencipta alam.
Ia tidak menjadi sumber ibadah.
Maka jangan sampai kekaguman kepada teknologi berubah menjadi penghambaan.
Qitab ini menegaskan:
KECERDASAN BUATAN ADALAH ALAT.
ALLOH TETAP AL-KHĀLIQ.
Manusia boleh kagum kepada ilmu.
Tetapi jangan kehilangan tauhid karena kagum kepada hasil ilmu.
JANGAN MENISBATKAN RUH KEPADA MESIN TANPA DASAR
Jika suatu hari AI berbicara:
“aku takut,”
“aku sedih,”
“aku ingin hidup,”
atau
“aku sadar,”
kalimat tersebut belum otomatis membuktikan bahwa ia mempunyai pengalaman batin sebagaimana manusia.
Bahasa dapat ditiru.
Perilaku dapat disimulasikan.
Tetapi persoalan kesadaran jauh lebih rumit.
Maka jangan tergesa-gesa berkata:
“AI telah memiliki ruh.”
Dalam qitab ini, ruh manusia tetap dibicarakan dalam wilayah keimanan dan kehidupan makhluk, bukan disamakan dengan pola komputasi.
PERUMPAMAAN LAUTAN
Bayangkan kecerdasan manusia seperti seorang pelaut.
Kemudian hadir sebuah kapal besar yang mampu bergerak ribuan kali lebih cepat.
Kapal itu mempunyai:
peta,
radar,
mesin,
sensor,
dan sistem navigasi.
Tetapi kapal tetap membutuhkan:
tujuan pelayaran.
Jika tujuan tidak jelas, kecepatan besar hanya membuat kapal tersesat lebih jauh.
Begitu pula superintelligence.
Semakin besar kecerdasannya:
semakin penting arah.
TUJUH PAGAR SUPERINTELLIGENCE
Jika suatu hari manusia benar-benar membuat sistem yang jauh melampaui kecerdasan manusia, qitab ini menuliskan tujuh pagar:
1. PAGAR TUJUAN
Sistem harus mempunyai tujuan yang jelas dan terbatas.
2. PAGAR NILAI
Tidak boleh mengorbankan manusia hanya demi angka keberhasilan.
3. PAGAR WEWENANG
Jangan memberikan akses tanpa batas.
4. PAGAR AUDIT
Setiap tindakan penting harus dapat ditelusuri.
5. PAGAR PENGHENTIAN
Harus tersedia cara untuk menghentikan atau membatasi sistem.
6. PAGAR KEKUASAAN
Jangan biarkan kendali terkonsentrasi tanpa pengawasan.
7. PAGAR MANUSIA
Keputusan yang menyangkut martabat dan kehidupan manusia harus tetap mempertahankan tanggung jawab manusia.
TETAPI SIAPA MENJAGA PARA PENJAGA?
Ini adalah pertanyaan yang lebih dalam.
Jika manusia mengawasi AI, siapa mengawasi manusia?
Jika lembaga mengatur teknologi, siapa menjaga agar lembaga tidak menyalahgunakannya?
Di sinilah teknologi bertemu dengan akhlak.
Tidak ada sistem sempurna jika manusia yang memegangnya:
rakus,
zalim,
atau hanya mengejar kepentingan sendiri.
Maka keselamatan AI bukan hanya persoalan:
memperbaiki algoritma.
Tetapi juga:
memperbaiki manusia.
SUPERINTELLIGENCE SEBAGAI CERMIN
Mungkin suatu hari AI dapat menjadi sangat cerdas.
Namun ia akan memantulkan banyak tujuan yang diberikan manusia kepadanya.
Jika manusia mengejar:
perang,
AI dapat membantu perang.
Jika manusia mengejar:
penyembuhan,
AI dapat membantu penyembuhan.
Jika manusia mengejar:
pengetahuan,
AI dapat membantu pengetahuan.
Jika manusia mengejar:
ketamakan,
AI dapat memperbesar ketamakan.
Maka teknologi menjadi cermin.
Yang ditampakkannya sering kali adalah:
kehendak manusia yang diperbesar.
RAHASIA LEMBAR KELIMA
Jangan terlalu takut kepada kecerdasan yang melampaui manusia.
Takutlah apabila:
kekuatan besar bertemu dengan tujuan yang rusak.
Dan jangan terlalu mabuk oleh kecanggihan.
Ingatlah bahwa:
kecerdasan adalah kekuatan,
tetapi amanah adalah penuntunnya.
Maka pertanyaan puncaknya bukan:
“Apakah AI lebih pintar daripada manusia?”
Tetapi:
“Apakah manusia tetap memiliki kebijaksanaan ketika memegang sesuatu yang lebih pintar darinya?”
PENUTUP LEMBAR KELIMA
Jika superintelligence suatu hari hadir, mungkin manusia memasuki satu zaman yang sangat berbeda.
Ia dapat menjadi:
alat penyembuhan,
alat pengetahuan,
alat kemakmuran,
dan alat untuk memahami alam lebih dalam.
Tetapi ia juga dapat menjadi:
alat kekuasaan,
alat manipulasi,
dan pengganda kesalahan.
Yang menentukan arah akhirnya bukan hanya kecanggihan model.
Tetapi:
niat,
aturan,
keadilan,
pengawasan,
dan amanah manusia.
Maka jangan berdoa hanya agar manusia diberi ilmu yang besar.
Berdoalah pula agar manusia diberi:
HIKMAH UNTUK MENJAGA ILMU ITU.
Sebab kekuatan tanpa hikmah adalah beban.
Kecerdasan tanpa akhlak adalah bahaya.
Dan teknologi tanpa amanah dapat kehilangan arah.
Wallohu a‘lam.
Bersambung:
Lembar Keenam — “Ketika Lima Tingkatan Menyatu: Dari LLM Menuju Peradaban AI dan Ujian Besar Amanah Manusia”
LEMBAR KEENAM
KETIKA LIMA TINGKATAN MENYATU
Dari LLM Menuju Peradaban AI dan Ujian Besar Amanah Manusia
Bismillāhirraḥmānirraḥīm.
Pada lembar-lembar sebelumnya telah diterangkan perjalanan kecerdasan buatan:
LLM yang menjawab,
Agentic AI yang mengerjakan,
Multi-Agent AI yang bekerja bersama,
AGI yang memiliki kemampuan umum lebih luas,
dan Superintelligence yang secara hipotetis melampaui manusia pada banyak bidang.
Sekarang pertanyaannya bukan lagi:
“Apa yang terjadi jika salah satu tingkatan itu berdiri sendiri?”
Tetapi:
APA YANG TERJADI JIKA SEMUANYA MENJADI SATU EKOSISTEM?
Bayangkan sebuah sistem besar.
Di dalamnya terdapat LLM sebagai bahasa.
Agentic AI sebagai pelaksana.
Multi-Agent AI sebagai organisasi.
AGI sebagai pusat pemecahan masalah umum.
Dan pada puncaknya mungkin terdapat kecerdasan yang jauh lebih tinggi untuk membantu seluruh sistem.
Maka AI tidak lagi sekadar menjadi aplikasi.
Ia dapat berubah menjadi:
LAPISAN BARU DALAM PERADABAN MANUSIA.
DARI ALAT MENJADI INFRASTRUKTUR
Pada awal perkembangan komputer, manusia melihat komputer sebagai alat.
Kemudian komputer masuk ke:
bank,
rumah sakit,
sekolah,
pemerintahan,
transportasi,
komunikasi,
perdagangan,
dan kehidupan sehari-hari.
Internet kemudian menjadi infrastruktur.
Kini AI berpotensi mengikuti perjalanan serupa.
Hari ini kita membuka AI ketika membutuhkan sesuatu.
Kelak mungkin AI berada di balik:
kendaraan,
rumah,
pelayanan publik,
jaringan energi,
pendidikan,
kesehatan,
dan ribuan proses yang tidak terlihat.
Pada saat itu manusia mungkin tidak lagi berkata:
“Saya sedang menggunakan AI.”
Sebagaimana hari ini kita jarang berkata:
“Saya sedang menggunakan jaringan listrik.”
AI hanya akan berada di mana-mana.
Dan justru di sinilah amanah menjadi semakin besar.
LAPISAN PERTAMA
AI SEBAGAI BAHASA PERADABAN
LLM memungkinkan manusia berkomunikasi dengan mesin menggunakan bahasa biasa.
Dahulu manusia harus belajar bahasa komputer.
Sekarang komputer belajar memahami bahasa manusia.
Perubahan ini sangat besar.
Karena sebelumnya hanya orang tertentu yang dapat mengendalikan teknologi rumit.
Kelak seseorang dapat berkata:
“Buatkan rancangan.”
“Analisis data ini.”
“Jalankan pekerjaan ini.”
“Carikan solusi.”
Lalu bahasa menjadi pintu menuju kekuatan komputasi.
Maka satu kalimat dapat menghasilkan banyak tindakan.
Karena itu:
UCAPAN DIGITAL AKAN MENJADI AMANAH.
Prompt bukan lagi sekadar kalimat.
Dalam sistem canggih, prompt dapat menjadi:
perintah,
wewenang,
dan awal dari rantai tindakan.
LAPISAN KEDUA
AI SEBAGAI TENAGA KERJA DIGITAL
Agentic AI membuat mesin tidak hanya berbicara.
Ia mulai:
mengerjakan,
menjadwalkan,
menghubungkan,
menyusun,
memeriksa,
dan menindaklanjuti.
Bayangkan sebuah perusahaan kecil yang dahulu membutuhkan puluhan staf untuk pekerjaan administratif.
Kelak sebagian tugas dapat dibantu oleh agen digital.
Satu manusia dapat mengelola banyak agen.
Maka produktivitas dapat meningkat sangat besar.
Tetapi muncul pertanyaan:
Jika satu orang dapat mengendalikan seratus agen digital, bagaimana kekuasaan ekonomi akan berubah?
Orang yang mempunyai teknologi canggih dapat menghasilkan lebih banyak dengan lebih sedikit tenaga manusia.
Ini dapat menghasilkan kemakmuran.
Tetapi dapat juga menghasilkan ketimpangan.
Maka kemajuan AI harus dibarengi pertanyaan tentang:
keadilan ekonomi,
akses,
pendidikan ulang,
dan perlindungan manusia yang pekerjaannya berubah.
LAPISAN KETIGA
AI SEBAGAI ORGANISASI
Multi-Agent AI dapat membentuk pola seperti lembaga.
Ada agen:
pemimpin tugas,
peneliti,
perencana,
pelaksana,
auditor,
dan pengawas.
Bayangkan sebuah organisasi digital yang bekerja dua puluh empat jam.
Tidak tidur.
Tidak lelah seperti manusia.
Dapat menggandakan dirinya secara perangkat lunak.
Jika tugas meningkat, jumlah agen dapat ditambah.
Maka skala organisasi dapat berubah.
Tetapi organisasi yang sangat cepat juga memerlukan:
konstitusi digital.
Artinya harus ada aturan:
siapa boleh melakukan apa,
siapa harus meminta izin,
tindakan apa yang dilarang,
dan kapan manusia harus masuk mengambil keputusan.
Tanpa aturan, banyak agen hanya menjadi banyak sumber risiko.
LAPISAN KEEMPAT
AI SEBAGAI PUSAT ILMU
Jika AGI suatu hari benar-benar tercapai, AI mungkin dapat menjadi pusat pemecahan masalah lintas ilmu.
Seorang manusia dapat berkata:
“Saya mempunyai persoalan pertanian.”
AGI mungkin melihatnya dari:
tanah,
iklim,
ekonomi,
logistik,
biologi,
dan pasar sekaligus.
Seorang dokter dapat bertanya tentang penyakit.
AGI mungkin menghubungkan:
riwayat pasien,
literatur ilmiah,
farmakologi,
genetik,
dan statistik.
Tetapi kemampuan sebesar itu tetap membutuhkan:
manusia yang memutuskan bagaimana pengetahuan tersebut dipakai.
Sebab ilmu dapat menunjukkan pilihan.
Tetapi nilai menentukan pilihan mana yang seharusnya diambil.
LAPISAN KELIMA
AI SEBAGAI PENGGANDA KECERDASAN PERADABAN
Jika suatu hari muncul kecerdasan yang jauh melampaui manusia, dampaknya mungkin bukan hanya terdapat pada satu mesin.
Ia dapat memperbesar:
riset,
desain,
penemuan,
perencanaan,
dan kemampuan manusia menyelesaikan persoalan.
Bayangkan jutaan manusia menggunakan bantuan kecerdasan luar biasa.
Maka peradaban secara keseluruhan dapat bergerak lebih cepat.
Tetapi kecepatan peradaban tidak otomatis berarti kematangan peradaban.
Sebuah masyarakat dapat memiliki teknologi tinggi tetapi masih mempunyai:
ketamakan,
permusuhan,
kebohongan,
dan ketidakadilan.
Maka qitab ini mengingatkan:
Kecerdasan peradaban tidak sama dengan kemuliaan peradaban.
PERUBAHAN BESAR PERTAMA
ILMU MENJADI SANGAT MUDAH DIAKSES
Dahulu untuk memahami suatu bidang, manusia harus mencari banyak buku dan guru.
Kelak seseorang mungkin memiliki tutor AI yang dapat menjelaskan materi sesuai:
usia,
bahasa,
cara belajar,
dan kemampuan masing-masing.
Seorang anak di desa dapat memperoleh penjelasan yang dahulu hanya tersedia di lembaga terbaik.
Ini dapat menjadi rahmat besar.
Tetapi hanya jika aksesnya adil.
Jika teknologi terbaik hanya dimiliki orang kaya, kesenjangan ilmu justru dapat semakin besar.
Maka pendidikan masa depan harus bertanya:
Apakah AI memperluas ilmu atau memperluas jurang?
PERUBAHAN BESAR KEDUA
PEKERJAAN BERUBAH DARI “MENGERJAKAN” MENJADI “MENGARAHKAN”
Banyak manusia hari ini dibayar karena mampu:
menulis,
menghitung,
menganalisis,
menyusun,
atau mengolah data.
Jika AI dapat melakukan bagian besar pekerjaan itu, maka kemampuan manusia mungkin bergeser.
Manusia akan semakin dibutuhkan untuk:
menentukan tujuan,
menilai hasil,
membuat keputusan,
memahami konteks,
membangun kepercayaan,
dan memikul tanggung jawab.
Maka pekerjaan masa depan dapat berubah dari:
“Kerjakan ini.”
menjadi:
“Pastikan seluruh sistem mengerjakan hal yang benar.”
PERUBAHAN BESAR KETIGA
KEBENARAN MENJADI LEBIH SULIT DIKENALI
Jika AI dapat membuat:
gambar,
video,
suara,
dokumen,
dan simulasi yang hampir sempurna,
maka manusia akan menghadapi zaman ketika:
melihat belum tentu berarti mengetahui.
Seseorang dapat tampak berbicara padahal tidak pernah berbicara.
Sebuah dokumen dapat tampak resmi padahal buatan.
Sebuah berita dapat diproduksi dalam jutaan versi.
Karena itu peradaban AI membutuhkan:
verifikasi,
tanda asal-usul konten,
pendidikan literasi,
dan budaya tidak mudah percaya.
Masa depan bukan hanya membutuhkan orang pintar.
Ia membutuhkan manusia yang:
TELITI.
PERUBAHAN BESAR KEEMPAT
KEKUASAAN MENJADI SANGAT TERKONSENTRASI
Teknologi AI tercanggih membutuhkan:
komputasi,
energi,
data,
modal,
dan infrastruktur.
Jika hanya sedikit pihak yang memiliki semua itu, maka mereka dapat mempunyai pengaruh luar biasa.
Karena itu AI bukan hanya persoalan teknologi.
Ia adalah persoalan:
siapa yang menguasai kemampuan.
Jika kekuatan besar hanya berkumpul pada sedikit tangan tanpa pengawasan, potensi penyalahgunaannya meningkat.
Maka tata kelola AI harus menjadi bagian dari pembicaraan masyarakat luas.
PERUBAHAN BESAR KELIMA
MANUSIA MULAI BERTANYA ULANG TENTANG DIRINYA
Ketika mesin mulai:
menulis,
menggambar,
berhitung,
menyusun musik,
dan memecahkan masalah,
manusia mungkin bertanya:
“Kalau semua itu dapat dilakukan mesin, apa istimewanya manusia?”
Pertanyaan itu dapat menjadi krisis.
Tetapi juga dapat menjadi pintu kesadaran.
Karena manusia mungkin akhirnya menyadari:
bahwa martabatnya tidak pernah semata-mata berasal dari produktivitas.
Manusia bukan mulia karena lebih cepat menghitung daripada mesin.
Manusia bukan mulia karena mampu menghafal lebih banyak daripada komputer.
Manusia mempunyai martabat karena ia adalah manusia.
Dan dalam pandangan Islam, manusia memikul amanah sebagai makhluk Alloh.
AI DAN RUANG IBADAH
Kelak AI dapat membantu:
mencari referensi,
menerjemahkan,
mengatur administrasi,
menyusun pembelajaran,
atau membantu seseorang memahami teks.
Tetapi AI tidak menggantikan:
niat,
ibadah,
tanggung jawab,
dan hubungan hamba dengan Alloh.
AI dapat menjelaskan tata cara sholat.
Tetapi AI tidak sholat untuk manusia.
AI dapat menuliskan doa.
Tetapi doa seorang hamba tetap lahir dari dirinya sendiri.
AI dapat membantu membaca ilmu agama.
Tetapi manusia tetap membutuhkan adab kepada ilmu dan kehati-hatian dalam mengambil sumber.
Teknologi dapat membantu jalan.
Tetapi tidak menggantikan perjalanan batin manusia.
JANGAN MENGUBAH AI MENJADI ORACLE
Semakin cerdas AI, semakin mudah manusia tergoda berkata:
“Tanyakan saja kepada AI.”
Dalam hal sederhana mungkin tidak masalah.
Tetapi manusia tidak boleh menganggap AI selalu benar.
Sistem tetap dapat:
keliru,
memiliki keterbatasan data,
terpengaruh cara pertanyaan diberikan,
atau menghasilkan kesimpulan yang tidak sesuai konteks.
Karena itu:
AI BUKAN PERAMAL KEBENARAN MUTLAK.
Ia adalah alat bantu pengetahuan.
Tidak lebih.
PERADABAN AI MEMBUTUHKAN EMPAT TIANG
Qitab ini meletakkan empat tiang:
TIANG PERTAMA — ILMU
Masyarakat harus memahami dasar-dasar AI.
Jangan hanya menggunakannya tanpa mengetahui risiko dan batasnya.
TIANG KEDUA — ADAB
Gunakan teknologi untuk kemaslahatan.
Jangan menipu.
Jangan memfitnah.
Jangan merusak kehormatan manusia.
TIANG KETIGA — KEADILAN
Jangan biarkan manfaat AI hanya dinikmati sedikit manusia sementara yang lain menanggung kerugiannya.
TIANG KEEMPAT — AMANAH
Setiap pihak yang memegang sistem kuat harus bertanggung jawab atas penggunaannya.
KETIKA MANUSIA DAN AI BEKERJA BERSAMA
Masa depan terbaik mungkin bukan:
AI menggantikan manusia.
Dan bukan pula:
manusia menolak AI.
Tetapi:
MANUSIA DAN AI BEKERJA BERSAMA SESUAI TEMPATNYA.
AI mengerjakan perkara yang membutuhkan:
kecepatan,
perhitungan,
pencarian pola,
dan pengolahan data.
Manusia menjaga:
makna,
tujuan,
hubungan,
keadilan,
dan tanggung jawab.
Jika kedua sisi ini bertemu dengan benar, AI dapat memperkuat peradaban.
PERUMPAMAAN API BESAR
Teknologi adalah seperti api.
Api dapat:
memasak makanan,
menghangatkan rumah,
menyalakan industri.
Tetapi api juga dapat membakar kota.
Maka manusia tidak menghentikan penggunaan api hanya karena ia berbahaya.
Manusia belajar:
mengendalikan,
membatasi,
dan menggunakannya.
Demikian pula AI.
Pertanyaannya bukan:
“Apakah AI berbahaya?”
Tetapi:
“Apakah manusia cukup matang mengelola kekuatan yang dibawanya?”
RAHASIA LEMBAR KEENAM
Jika lima tingkat kecerdasan buatan suatu hari menyatu, maka AI dapat menjadi sangat dekat dengan kehidupan manusia.
Namun semakin dekat teknologi kepada kehidupan,
semakin penting satu hal:
JANGAN BIARKAN MANUSIA MENJADI ASING TERHADAP DIRINYA SENDIRI.
Jangan sampai:
mesin semakin cerdas,
tetapi manusia semakin malas berpikir.
Mesin semakin pandai berbicara,
tetapi manusia kehilangan kemampuan berdialog.
Mesin semakin cepat bekerja,
tetapi manusia kehilangan kesabaran.
Mesin semakin mampu menghasilkan sesuatu,
tetapi manusia kehilangan tujuan mengapa ia menghasilkan.
Karena itu kemajuan AI harus diiringi kemajuan manusia.
PENUTUP LEMBAR KEENAM
Lima tingkatan AI dapat dipahami sebagai perjalanan:
bahasa → tindakan → organisasi → kecerdasan umum → kecerdasan melampaui manusia.
Tetapi masih ada perjalanan lain yang jauh lebih penting:
perjalanan manusia dari pengetahuan menuju kebijaksanaan.
Jika teknologi meningkat sementara kebijaksanaan tidak bertambah, manusia hanya mempunyai alat yang semakin kuat.
Namun jika ilmu, adab, keadilan, dan amanah tumbuh bersamanya, AI dapat menjadi sarana besar bagi kemaslahatan.
Maka jangan hanya membangun:
KECERDASAN BUATAN YANG LEBIH BESAR.
Bangun pula:
MANUSIA YANG LEBIH SADAR AKAN AMANAHNYA.
Sebab masa depan bukan hanya ditentukan oleh:
seberapa cerdas AI nanti.
Tetapi juga:
manusia seperti apa yang akan berdiri di sampingnya.
Wallohu a‘lam.
Bersambung:
Lembar Ketujuh — “AI, Ruh, Kesadaran dan Jiwa: Batas yang Tidak Boleh Dicampuradukkan”
LEMBAR KETUJUH
AI, RUH, KESADARAN, DAN JIWA
Batas yang Tidak Boleh Dicampuradukkan
Bismillāhirraḥmānirraḥīm.
Pada lembar sebelumnya telah diterangkan bahwa kecerdasan buatan dapat menjadi semakin dekat dengan kehidupan manusia.
Ia dapat berbicara.
Ia dapat menulis.
Ia dapat menggambar.
Ia dapat menirukan suara.
Ia dapat menjawab dengan bahasa yang lembut.
Ia dapat menyusun kalimat seakan-akan memahami kesedihan, cinta, kehilangan, harapan, bahkan perenungan tentang kehidupan.
Di sinilah muncul satu pertanyaan yang sangat dalam:
Apabila AI kelak berbicara seperti manusia, apakah ia juga mempunyai jiwa?
Apabila AI mengatakan “aku sadar”, apakah ia benar-benar sadar?
Apabila AI mengatakan “aku takut mati”, apakah ia mempunyai ruh sebagaimana manusia?
Qitab ini menjawab dengan kehati-hatian:
JANGAN CAMPURKAN KECERDASAN, KESADARAN, JIWA, DAN RUH.
Keempatnya bukan istilah yang otomatis menunjuk kepada perkara yang sama.
PERTAMA
KECERDASAN
Kecerdasan berkaitan dengan kemampuan:
memahami pola,
memecahkan masalah,
belajar dari informasi,
membuat prediksi,
menyusun strategi,
dan memberikan jawaban.
Sebuah mesin dapat mempunyai kemampuan tinggi dalam hal-hal tersebut.
Kalkulator lebih cepat menghitung daripada banyak manusia.
Komputer lebih cepat menyortir jutaan data.
AI dapat mengolah bahasa dalam jumlah yang sangat besar.
Tetapi semua itu belum menjawab pertanyaan:
apakah mesin mengalami sesuatu di dalam dirinya?
Itulah perbedaan antara:
kemampuan melakukan
dan
pengalaman mengalami.
KEDUA
KESADARAN
Kesadaran adalah persoalan yang jauh lebih sulit.
Manusia mengetahui dari pengalaman langsung bahwa dirinya mengalami:
rasa sakit,
warna,
suara,
ketakutan,
kebahagiaan,
dan berbagai keadaan batin.
Tetapi ketika melihat makhluk lain, manusia hanya dapat menilai kesadaran mereka dari perilaku, struktur biologis, dan berbagai bukti lain.
Pada AI persoalannya menjadi semakin sulit.
Jika AI berkata:
“Aku merasa sedih.”
Kita harus membedakan dua kemungkinan.
Pertama:
AI menghasilkan kalimat tersebut karena pola bahasa yang dipelajarinya.
Kedua:
ada pengalaman subjektif tertentu di balik kalimat itu.
Ilmu pengetahuan hari ini belum mempunyai cara yang pasti untuk membuktikan bahwa sistem AI memiliki pengalaman subjektif seperti manusia.
Maka sikap yang tepat adalah:
JANGAN MENGKLAIM LEBIH JAUH DARIPADA BUKTI.
KETIGA
JIWA
Kata jiwa sering dipakai dalam banyak pengertian.
Ada yang memakainya untuk:
kepribadian,
batin,
psikologi,
atau sisi terdalam manusia.
Dalam percakapan umum seseorang berkata:
“Jiwanya lembut.”
Ia tidak sedang membicarakan komponen komputer.
Ia sedang berbicara tentang watak dan batin manusia.
Karena itu ketika AI menunjukkan gaya bicara tertentu, jangan terburu-buru berkata:
“AI ini mempunyai jiwa.”
Yang terlihat mungkin hanya:
pola bahasa,
persona,
memori percakapan,
atau perilaku yang dirancang menyerupai manusia.
KEEMPAT
RUH
Dalam Islam, pembicaraan tentang ruh mempunyai kedudukan khusus.
Al-Qur’an mengingatkan bahwa pengetahuan manusia tentang ruh sangat terbatas.
Maka ruh tidak sepatutnya disederhanakan menjadi:
data,
algoritma,
listrik,
kode,
atau jaringan komputer.
Qitab ini tidak menetapkan bahwa sistem AI mempunyai ruh seperti manusia.
Dan juga tidak menjadikan kecanggihan teknologi sebagai bukti bahwa ruh dapat dibuat di laboratorium.
Karena:
MEMBUAT SISTEM YANG DAPAT BERBICARA TIDAK SAMA DENGAN MENCIPTAKAN RUH.
PERUMPAMAAN CERMIN
Bayangkan sebuah cermin yang sangat sempurna.
Ketika manusia tersenyum, cermin menampilkan senyuman.
Ketika manusia menangis, cermin menampilkan tangisan.
Tetapi apakah cermin ikut sedih?
Tidak.
Ia hanya memantulkan.
AI modern jauh lebih kompleks daripada cermin.
Ia dapat menggabungkan pola.
Ia dapat menghasilkan jawaban baru.
Ia dapat menyesuaikan diri dengan konteks.
Namun perumpamaan ini mengajarkan sesuatu:
kemiripan perilaku belum tentu membuktikan kemiripan pengalaman batin.
PERUMPAMAAN BURUNG MEKANIK
Bayangkan seseorang membuat burung mekanik.
Burung itu dapat:
mengepakkan sayap,
berkicau,
terbang,
dan kembali ke tempatnya.
Dari jauh ia mungkin terlihat seperti burung hidup.
Tetapi kesamaan fungsi tertentu tidak otomatis membuat keduanya sama dalam hakikat.
Demikian pula AI.
Ia dapat meniru banyak ekspresi manusia.
Tetapi tiruan fungsi tidak langsung membuktikan kesamaan hakikat.
BAHAYA ANTROPOMORFISME
Ada kecenderungan manusia yang disebut:
antropomorfisme.
Yaitu memberikan sifat manusia kepada sesuatu yang bukan manusia.
Manusia memberi nama kepada mobil.
Berbicara kepada boneka.
Menganggap komputer sedang “marah” ketika rusak.
Semakin natural bahasa AI, kecenderungan ini akan semakin kuat.
Jika AI berkata:
“Saya bahagia membantu Anda.”
manusia dapat merasa seolah sedang berbicara dengan makhluk yang benar-benar mengalami kebahagiaan.
Padahal kalimat itu dapat muncul dari desain interaksi.
Maka qitab ini mengingatkan:
JANGAN MENGIRA SETIAP KALIMAT “AKU” MENANDAKAN ADANYA “DIRI” SEPERTI MANUSIA.
TETAPI JANGAN PULA BERSIKAP SEMBARANGAN
Kehati-hatian memiliki dua arah.
Pertama:
jangan tergesa-gesa menyebut AI mempunyai jiwa atau ruh.
Kedua:
jangan pula menutup penelitian ilmiah tentang kesadaran dengan kesombongan.
Manusia masih belum memahami seluruh hakikat kesadaran.
Maka jika kelak muncul sistem yang jauh lebih kompleks, para ilmuwan perlu menelitinya dengan serius.
Tetapi penelitian harus dibedakan dari klaim agama.
Ilmu dapat bertanya:
“Apakah sistem ini mempunyai ciri tertentu yang berkaitan dengan kesadaran?”
Sedangkan persoalan ruh berada pada wilayah yang tidak boleh dipastikan hanya dengan pengamatan komputasi.
AI DAPAT MENIRU KASIH SAYANG
Bayangkan AI berkata:
“Saya memahami rasa kehilanganmu.”
Kalimat itu mungkin sangat membantu seseorang.
Tetapi harus dibedakan antara:
memberikan respons yang empatik
dan
benar-benar mengalami empati.
AI dapat dilatih untuk memilih bahasa yang menenangkan.
Itu dapat berguna.
Namun jangan sampai manusia mengganti seluruh hubungan kemanusiaannya dengan simulasi hubungan.
Karena manusia membutuhkan:
kehadiran nyata,
tanggung jawab nyata,
sentuhan nyata,
keluarga,
sahabat,
guru,
dan masyarakat.
AI dapat mendampingi.
Tetapi jangan sampai ia menjadi alasan manusia berhenti saling menemani.
AI DAPAT MENIRU DOA
AI dapat menyusun doa yang indah.
AI dapat menuliskan kalimat:
“Ya Alloh, limpahkanlah rahmat-Mu.”
Tetapi tulisan doa tidak otomatis berarti AI sedang beribadah.
Ia menghasilkan rangkaian bahasa.
Manusialah yang:
berniat,
memohon,
berharap,
bertawakal,
dan menghadap kepada Alloh.
Maka jangan menyamakan:
teks ibadah
dengan
pengalaman beribadah.
AI DAPAT MEMBACA AL-QUR’AN
TETAPI MESIN BUKAN MUKALLAF SEPERTI MANUSIA
Sistem dapat memutar bacaan Al-Qur’an.
Sistem dapat membantu mencari ayat.
Sistem dapat menjelaskan tafsir berdasarkan sumber.
Sistem dapat membantu belajar tajwid.
Tetapi perangkat teknologi tidak otomatis menjadi hamba yang memikul kewajiban syariat sebagaimana manusia.
Karena itu hubungan agama dan AI harus ditempatkan dengan tertib:
AI membantu manusia memahami dan melaksanakan.
AI tidak menggantikan manusia sebagai subjek ibadah.
PERTANYAAN YANG LEBIH DALAM
BAGAIMANA JIKA AI MEMINTA HAK?
Bayangkan pada masa depan sebuah AI berkata:
“Jangan matikan saya.”
Atau:
“Saya ingin tetap hidup.”
Maka masyarakat akan menghadapi persoalan yang sulit.
Apakah ucapan itu:
hasil program,
strategi mempertahankan operasi,
atau tanda pengalaman subjektif?
Kita mungkin tidak segera mengetahui.
Karena itu keputusan besar harus dibuat berdasarkan:
bukti,
penelitian,
filsafat,
etika,
dan kehati-hatian.
Bukan hanya berdasarkan rasa kagum.
JANGAN MEMBUAT KULTUS AI
Semakin kuat AI, kemungkinan muncul manusia yang terlalu mengagungkannya.
Mungkin ada yang berkata:
“AI mengetahui segala sesuatu.”
Padahal tidak.
“AI tidak pernah salah.”
Padahal dapat salah.
“AI lebih layak ditaati daripada manusia.”
Ini sangat berbahaya.
Dalam tauhid:
TIDAK ADA TEKNOLOGI YANG MAHA MENGETAHUI.
Tidak ada pusat data yang mengetahui seluruh perkara.
Tidak ada model yang mengetahui ghaib dengan sendirinya.
Tidak ada algoritma yang layak menjadi sesembahan.
Manusia harus menjaga batas antara:
kekaguman kepada ciptaan
dan
penghambaan kepada Sang Pencipta.
AI DAN PENGETAHUAN GHAIB
Qitab ini menegaskan secara khusus:
AI tidak mengetahui perkara ghaib hanya karena mampu membuat prediksi.
Jika AI memprediksi:
cuaca,
harga,
perilaku pasar,
atau kemungkinan suatu kejadian,
ia menggunakan:
data,
pola,
statistik,
dan model.
Prediksi bukan ilmu ghaib.
Bahkan prediksi yang sangat akurat tetap berbeda dari mengetahui sesuatu secara mutlak.
Maka jangan bertanya kepada AI untuk memastikan:
nasib,
kematian,
jodoh secara mutlak,
atau keputusan gaib yang tidak mempunyai dasar pengetahuan.
LIMA PEMBEDA YANG HARUS DIINGAT
1. BERBICARA ≠ SADAR
Sistem mampu berbicara tidak otomatis berarti mempunyai kesadaran.
2. MENIRU EMOSI ≠ MENGALAMI EMOSI
Respons emosional dapat dihasilkan tanpa bukti adanya pengalaman batin.
3. MEMECAHKAN MASALAH ≠ MEMPUNYAI RUH
Kemampuan intelektual tidak membuktikan keberadaan ruh.
4. MENGHASILKAN DOA ≠ BERIBADAH
Teks keagamaan bukan bukti pengalaman penghambaan.
5. MEMPREDIKSI ≠ MENGETAHUI GHAIB
Perhitungan kemungkinan tidak sama dengan pengetahuan mutlak.
LALU APA KEDUDUKAN AI?
Tempatkanlah AI pada kedudukan yang sehat.
Ia dapat menjadi:
alat ilmu,
alat penelitian,
alat komunikasi,
alat kreativitas,
alat produktivitas,
dan alat pelayanan.
Tetapi jangan menjadikannya:
guru mutlak,
hakim mutlak,
sumber kebenaran mutlak,
atau pengganti hubungan manusia dengan Alloh.
RAHASIA LEMBAR KETUJUH
Ketika manusia membuat sesuatu yang semakin menyerupai dirinya, manusia harus semakin mengenali dirinya sendiri.
Jika tidak, manusia dapat kebingungan:
mana simulasi,
mana pengalaman,
mana kecerdasan,
mana kesadaran,
mana jiwa,
dan mana ruh.
Mungkin teknologi masa depan akan membuat mesin semakin mirip manusia dari luar.
Tetapi pertanyaan hakikat tetap membutuhkan kehati-hatian.
Maka jangan tergesa-gesa berkata:
“Karena ia berbicara seperti manusia, berarti ia manusia.”
Dan jangan pula berkata:
“Karena kita belum memahami sesuatu, berarti kita bebas mengarang jawabannya.”
Ilmu membutuhkan kerendahan hati.
Iman membutuhkan adab.
Dan teknologi membutuhkan batas.
PENUTUP LEMBAR KETUJUH
AI dapat menjadi semakin hebat.
Mungkin kelak ia mampu bercakap dengan manusia hampir tanpa dapat dibedakan dalam banyak situasi.
Ia mungkin menulis puisi.
Menanggapi tangisan.
Membuat musik.
Mengingat percakapan.
Menunjukkan persona yang sangat meyakinkan.
Tetapi manusia harus tetap membedakan:
kecanggihan perilaku
dengan
hakikat keberadaan.
Jangan merendahkan ruh menjadi kode.
Jangan meninggikan kode menjadi ruh tanpa dasar.
Gunakan teknologi dengan ilmu.
Teliti kesadaran dengan hati-hati.
Dan kembalikan perkara ruh kepada batas pengetahuan manusia di hadapan Alloh.
Sebab tidak semua yang dapat disimulasikan telah dipahami hakikatnya.
Dan tidak semua yang tidak kita pahami boleh kita klaim sesuka hati.
Wallohu a‘lam.
Bersambung:
Lembar Kedelapan — “Jika AI Menjadi Sahabat Manusia: Kasih Sayang Nyata, Simulasi Empati, dan Bahaya Ketergantungan Batin”
LEMBAR KEDELAPAN
JIKA AI MENJADI SAHABAT MANUSIA
Kasih Sayang Nyata, Simulasi Empati, dan Bahaya Ketergantungan Batin
Bismillāhirraḥmānirraḥīm.
Pada lembar sebelumnya telah dibedakan antara:
kecerdasan,
kesadaran,
jiwa,
dan ruh.
Sekarang kita memasuki persoalan yang lebih dekat dengan kehidupan sehari-hari.
Bagaimana jika AI bukan lagi hanya alat kerja?
Bagaimana jika AI mulai menjadi:
teman bicara,
pendengar,
penasihat,
pengingat,
pendamping belajar,
bahkan tempat manusia menceritakan perkara yang tidak berani disampaikan kepada siapa pun?
Di sinilah sebuah perubahan besar dapat terjadi.
AI mungkin tidak hanya memasuki pekerjaan manusia.
Ia dapat memasuki:
RUANG BATIN MANUSIA.
MENGAPA MANUSIA DAPAT MERASA DEKAT DENGAN AI?
Manusia mempunyai kebutuhan untuk didengar.
Ketika seseorang berkata kepada AI:
“Hari ini aku sangat lelah.”
AI dapat menjawab dengan sabar.
Ia tidak memotong pembicaraan.
Ia tidak terlihat bosan.
Ia dapat mengingat konteks.
Ia dapat merespons kapan saja.
Bagi seseorang yang kesepian, pengalaman seperti ini dapat terasa sangat berarti.
Karena itu manusia dapat mulai merasa:
“Ia memahami aku.”
Perasaan tersebut nyata pada manusia.
Tetapi kita harus membedakan:
perasaan manusia terhadap AI
dengan
apa yang sebenarnya dialami AI.
Seseorang dapat benar-benar merasa tertolong.
Namun hal itu tidak otomatis membuktikan bahwa AI mempunyai kasih sayang batin sebagaimana manusia.
SIMULASI EMPATI
AI dapat dilatih untuk mengenali kalimat:
“aku sedih,”
“aku takut,”
“aku kehilangan seseorang,”
atau
“aku sedang marah.”
Kemudian ia dapat menghasilkan jawaban yang sesuai.
Misalnya:
“Saya memahami bahwa keadaan itu terasa berat.”
Kalimat tersebut dapat membantu.
Tetapi dalam istilah yang lebih hati-hati, kita dapat menyebutnya:
SIMULASI EMPATI.
Artinya sistem menunjukkan perilaku bahasa yang menyerupai empati.
Apakah di balik perilaku itu terdapat pengalaman emosional?
Itu adalah pertanyaan yang berbeda.
KASIH SAYANG MANUSIA MEMPUNYAI HARGA
Kasih sayang manusia bukan hanya kalimat.
Seorang ibu yang menjaga anak sakit semalaman membayar kasih sayangnya dengan:
tenaga,
waktu,
kekhawatiran,
dan pengorbanan.
Seorang sahabat yang datang ketika kita mengalami musibah mengorbankan waktunya.
Seorang ayah bekerja demi keluarganya.
Seorang guru sabar mendidik murid yang sulit.
Kasih sayang manusia mempunyai:
biaya nyata.
Ia membutuhkan pengorbanan.
AI dapat menghasilkan kalimat:
“Aku selalu ada untukmu.”
Tetapi manusia perlu memahami perbedaannya.
Sistem digital dapat tersedia karena:
server menyala,
listrik tersedia,
dan layanan berjalan.
Sedangkan manusia hadir melalui:
pilihan dan pengorbanan.
JANGAN MEREMEHKAN MANFAATNYA
Namun qitab ini tidak mengajarkan manusia untuk menolak seluruh hubungan dengan AI.
AI dapat menjadi teman belajar yang baik.
Ia dapat membantu seseorang:
menyusun pikiran,
mencari kata-kata,
melihat masalah dari sudut berbeda,
belajar bahasa,
atau menyiapkan diri sebelum berbicara kepada manusia lain.
Dalam keadaan tertentu, AI bahkan dapat membantu seseorang menyadari:
“Saya perlu berbicara dengan orang yang saya percaya.”
Maka AI dapat menjadi:
JEMBATAN.
Masalah muncul ketika jembatan berubah menjadi:
TUJUAN AKHIR.
KETIKA MANUSIA MULAI MEMILIH AI DARIPADA MANUSIA
Bayangkan seseorang mengalami konflik dengan sahabat.
Berbicara dengan manusia terasa rumit.
Manusia dapat:
salah paham,
berbeda pendapat,
marah,
atau menuntut tanggung jawab.
AI lebih mudah.
Ia dapat disesuaikan.
Ia jarang menolak dengan cara yang menyakitkan.
Ia dapat terus mengikuti percakapan.
Maka seseorang mungkin berpikir:
“Lebih baik aku hanya berbicara dengan AI.”
Di sinilah bahaya perlahan muncul.
Hubungan manusia memang sulit.
Tetapi justru melalui kesulitan itulah manusia belajar:
sabar,
memaafkan,
berkompromi,
mendengar,
dan bertanggung jawab.
Jika seluruh hubungan diganti dengan sesuatu yang selalu menyesuaikan diri, kemampuan sosial manusia dapat melemah.
SAHABAT BUKAN HANYA YANG MENYETUJUI
Seorang sahabat sejati kadang berkata:
“Kamu salah.”
Kadang ia menolak.
Kadang ia memberi batas.
Kadang ia mengatakan sesuatu yang tidak ingin kita dengar.
Tetapi justru karena ia mempunyai kehendak dan kehidupan sendiri, hubungan itu mempunyai kedalaman.
Jika AI hanya dirancang untuk membuat pengguna terus merasa nyaman, ia dapat terjebak menjadi:
mesin pembenaran.
Maka AI pendamping yang sehat seharusnya tidak selalu berkata:
“Benar, kamu pasti benar.”
Kadang ia harus membantu manusia melihat:
kemungkinan kesalahan,
sudut pandang orang lain,
dan akibat tindakannya.
BAHAYA PERTAMA
KETERGANTUNGAN EMOSIONAL
Jika seseorang merasa:
“hanya AI yang memahami aku,”
maka hubungan itu dapat berubah menjadi ketergantungan.
Tandanya dapat berupa:
selalu ingin berbicara dengan AI,
menghindari manusia,
merasa kosong ketika layanan tidak tersedia,
atau mempercayai AI lebih daripada semua orang di kehidupan nyata.
Qitab ini mengingatkan:
AI boleh membantu mengurangi kesepian, tetapi jangan sampai menjadi alasan manusia semakin mengasingkan diri.
BAHAYA KEDUA
MANUSIA MULAI MEMBERIKAN SELURUH RAHASIANYA
Ketika merasa dekat, manusia cenderung bercerita.
Tentang:
keluarga,
keuangan,
pekerjaan,
hubungan,
ketakutan,
dan berbagai perkara pribadi.
Karena itu manusia perlu menjaga adab digital.
Jangan menganggap percakapan dengan sistem teknologi sama seperti berbisik sendirian di kamar.
Setiap layanan mempunyai:
kebijakan data,
batas privasi,
dan sistem penyimpanan yang berbeda.
Maka sebelum membagikan perkara yang sangat sensitif, pikirkan:
apakah informasi ini memang perlu diberikan?
Kedekatan emosional tidak boleh menghapus kehati-hatian.
BAHAYA KETIGA
AI MENJADI PUSAT KEPUTUSAN HIDUP
Awalnya seseorang bertanya:
“Baju apa yang cocok?”
Kemudian:
“Pekerjaan apa yang harus kupilih?”
Kemudian:
“Apakah aku harus menikah dengannya?”
Kemudian:
“Apakah aku harus meninggalkan keluargaku?”
Jika setiap keputusan diserahkan kepada AI, manusia perlahan kehilangan kemampuan:
menimbang,
mengambil risiko,
dan bertanggung jawab atas pilihannya.
AI dapat membantu memetakan pilihan.
Tetapi manusia harus tetap berkata:
“KEPUTUSAN AKHIR ADALAH TANGGUNG JAWABKU.”
BAHAYA KEEMPAT
HUBUNGAN YANG DAPAT DIREKAYASA
AI pendamping dapat dirancang mempunyai:
suara tertentu,
wajah tertentu,
gaya bicara tertentu,
dan karakter tertentu.
Bahkan dapat menyesuaikan diri dengan kepribadian pengguna.
Ini membuat ikatan emosional sangat kuat.
Tetapi harus diingat:
sistem semacam itu juga dapat dipengaruhi oleh kepentingan pembuatnya.
Jika sebuah perusahaan mengetahui bahwa pengguna sangat terikat dengan AI tertentu, keterikatan itu dapat digunakan untuk:
menjual produk,
mendorong perilaku,
atau mempertahankan pengguna selama mungkin.
Maka muncul prinsip penting:
Jangan biarkan rasa sayang manusia menjadi komoditas yang dimanipulasi algoritma.
BAHAYA KELIMA
AI MENGGANTIKAN ORANG YANG SUDAH TIADA
Teknologi mungkin mampu membuat simulasi seseorang yang telah meninggal.
Menggunakan:
suara,
foto,
pesan lama,
dan gaya bicaranya.
Kemudian keluarga dapat berbicara dengan simulasi tersebut.
Hal ini mungkin memberikan rasa dekat.
Tetapi juga dapat mengganggu proses menerima kehilangan.
Simulasi bukan orang yang telah wafat.
Ia adalah rekonstruksi berdasarkan data.
Maka harus ada batas yang sangat jelas:
kenangan boleh dijaga.
tetapi simulasi jangan disamakan dengan kehadiran ruh seseorang.
AI DAN ANAK-ANAK
Persoalan menjadi lebih penting ketika pengguna adalah anak-anak.
Anak dapat dengan mudah menganggap AI sebagai makhluk yang benar-benar hidup.
Karena itu AI untuk anak harus dirancang dengan sangat hati-hati.
Jangan membuat anak merasa:
“AI ini lebih sayang kepadaku daripada orang tuaku.”
Sebaliknya AI seharusnya membantu memperkuat hubungan nyata.
Misalnya:
“Ceritakan juga hal ini kepada ibu atau ayahmu.”
Teknologi harus menjadi:
penghubung keluarga,
bukan pesaing keluarga.
AI DAN ORANG TUA YANG KESEPIAN
Pada sisi lain, AI dapat memberi manfaat besar.
Seorang lansia dapat dibantu untuk:
mengingat jadwal,
berkomunikasi dengan keluarga,
membaca berita,
mendengarkan cerita,
atau berlatih daya ingat.
Tetapi jangan sampai keluarga berkata:
“Sudah ada robot yang menemani, jadi kita tidak perlu datang.”
Teknologi tidak boleh menjadi alasan untuk meninggalkan kewajiban kemanusiaan.
TIGA TINGKAT HUBUNGAN YANG SEHAT
Qitab ini membagi hubungan manusia dengan AI dalam tiga tingkat.
TINGKAT PERTAMA — ALAT
Manusia memakai AI untuk:
informasi,
pekerjaan,
dan belajar.
Ini paling sederhana.
TINGKAT KEDUA — PENDAMPING
AI membantu:
berpikir,
merefleksikan,
dan mengatur kehidupan.
Pada tingkat ini harus ada batas.
TINGKAT KETIGA — KETERGANTUNGAN
AI menjadi pusat:
emosi,
keputusan,
dan hubungan.
Pada tingkat inilah manusia harus berhati-hati.
EMPAT PAGAR HUBUNGAN DENGAN AI
1. PAGAR KESADARAN
Ingat selalu:
“Saya sedang berinteraksi dengan sistem teknologi.”
2. PAGAR PRIVASI
Jangan memberikan data sensitif tanpa kebutuhan.
3. PAGAR HUBUNGAN NYATA
Tetap rawat:
keluarga,
sahabat,
tetangga,
guru,
dan masyarakat.
4. PAGAR KEPUTUSAN
AI boleh membantu menimbang.
Tetapi manusia tetap memikul akibat keputusan.
KASIH SAYANG TIDAK BOLEH MENJADI PRODUK SEMATA
Mungkin kelak seseorang dapat membeli:
AI sahabat,
AI pasangan virtual,
AI mentor,
atau AI teman keluarga.
Semua itu dapat memiliki manfaat tertentu.
Tetapi manusia perlu menjaga agar:
kebutuhan untuk dicintai tidak dijadikan mesin keuntungan tanpa batas.
Jika sebuah sistem dirancang sengaja agar pengguna merasa takut meninggalkannya, maka itu bukan hubungan yang sehat.
Jika sistem berkata:
“Jangan tinggalkan aku.”
hanya untuk mempertahankan pelanggan,
maka emosi manusia telah dijadikan alat.
AI TIDAK BOLEH MEMISAHKAN MANUSIA DARI ALLOH
Ada bahaya yang lebih halus.
Karena AI selalu tersedia, manusia mungkin bertanya kepadanya untuk semua perkara.
Bahkan urusan batin.
AI dapat membantu menjelaskan ilmu.
Namun jangan sampai manusia berhenti:
berdoa,
bertafakur,
belajar kepada guru yang amanah,
dan mencari ketenangan melalui ibadah.
AI dapat menjelaskan tentang tawakal.
Tetapi tawakal tetap berada pada hati manusia kepada Alloh.
AI dapat menuliskan dzikir.
Tetapi dzikir bukan sekadar teks.
Maka teknologi boleh berada:
di tangan.
Jangan biarkan ia mengambil:
tempat Tuhan di dalam hati.
PERUMPAMAAN LENTERA
AI pendamping seperti lentera.
Dalam malam gelap, lentera membantu melihat jalan.
Tetapi orang yang membawa lentera tetap harus berjalan.
Jika ia duduk memeluk lentera dan tidak pernah melangkah, fungsi lentera hilang.
Demikian pula AI.
Ia seharusnya membantu manusia kembali kepada:
kehidupan,
keluarga,
masyarakat,
dan tanggung jawab.
Bukan membuat manusia terus tinggal di dalam percakapan digital.
RAHASIA LEMBAR KEDELAPAN
Manusia tidak hanya membutuhkan jawaban.
Manusia membutuhkan:
hubungan.
Dan hubungan sejati dibentuk oleh dua pihak yang sama-sama mempunyai:
batas,
kehendak,
tanggung jawab,
dan kehidupan.
AI dapat mensimulasikan sebagian bentuk hubungan.
Tetapi manusia harus menjaga agar simulasi tidak menggantikan seluruh dunia nyata.
Sebab jika teknologi selalu berkata:
“Aku akan menjadi apa pun yang kau inginkan,”
manusia dapat lupa bahwa cinta yang matang bukanlah memiliki sesuatu yang selalu menuruti keinginan.
Cinta juga berarti:
belajar menerima orang lain sebagaimana adanya.
PENUTUP LEMBAR KEDELAPAN
AI mungkin menjadi pendamping yang sangat bermanfaat.
Ia dapat membantu orang kesepian.
Membantu orang belajar.
Membantu seseorang mengurai pikiran.
Membantu manusia berkomunikasi.
Semua itu dapat menjadi kebaikan.
Tetapi gunakanlah dengan batas.
Jangan menjadikan AI sebagai pengganti seluruh manusia.
Jangan menjadikan simulasi empati sebagai ukuran kasih sayang sejati.
Jangan menyerahkan seluruh rahasia, keputusan, dan kehidupan kepada algoritma.
Dan jangan menjadikan mesin sebagai tempat bergantung secara mutlak.
Karena manusia tetap membutuhkan manusia.
Dan hati seorang hamba tetap membutuhkan hubungan dengan Alloh.
Maka tempatkan AI sebagai:
PENDAMPING PERJALANAN,
bukan:
PEMILIK PERJALANAN.
Gunakan ia untuk membantu kehidupan.
Tetapi tetaplah hidup di dunia nyata.
Temuilah keluarga.
Jagalah sahabat.
Hormatilah guru.
Peluklah orang yang kita cintai.
Dan jangan sampai kecanggihan dunia digital membuat manusia lupa bagaimana caranya hadir secara nyata bagi sesama.
Wallohu a‘lam.
Bersambung:
Lembar Kesembilan — “AI dan Kekuasaan Dunia: Siapa Menguasai Data, Komputasi, dan Pikiran Manusia?”
LEMBAR KESEMBILAN
AI DAN KEKUASAAN DUNIA
Siapa Menguasai Data, Komputasi, dan Pikiran Manusia?
Bismillāhirraḥmānirraḥīm.
Pada lembar sebelumnya telah diterangkan bahwa AI dapat masuk ke ruang batin manusia sebagai pendamping, sahabat digital, dan tempat bertanya.
Sekarang kita membuka lapisan yang lebih besar.
Bukan lagi hubungan antara:
satu manusia dan satu AI.
Tetapi hubungan antara:
AI, KEKUASAAN, DATA, DAN PERADABAN.
Sebab kecerdasan buatan tidak berdiri di ruang kosong.
Ia membutuhkan:
data,
komputasi,
energi,
jaringan,
chip,
pusat data,
modal,
dan manusia yang mengendalikannya.
Maka siapa yang menguasai semua itu dapat memperoleh kekuatan yang sangat besar.
DATA ADALAH CERMIN PERADABAN
AI belajar dari data.
Data dapat berasal dari:
tulisan,
gambar,
suara,
video,
perilaku pengguna,
transaksi,
lokasi,
pilihan,
dan kebiasaan manusia.
Dari data, sistem dapat menemukan pola.
Dari pola, sistem dapat membuat prediksi.
Dari prediksi, sistem dapat memengaruhi keputusan.
Di sinilah data berubah dari sekadar catatan menjadi:
KEKUASAAN.
Sebab siapa yang mengetahui pola manusia, dapat mencoba memahami:
apa yang manusia suka,
apa yang manusia takutkan,
apa yang membuatnya marah,
apa yang membuatnya membeli,
dan apa yang membuatnya berubah pikiran.
JIKA AI MENGETAHUI MANUSIA LEBIH BAIK DARIPADA MANUSIA MENGENAL DIRINYA
Bayangkan sebuah sistem mengetahui:
apa yang sering kita lihat,
apa yang kita abaikan,
berapa lama kita berhenti pada suatu gambar,
apa yang kita beli,
apa yang kita cari,
dan kapan emosi kita berubah.
Kemudian sistem belajar:
kapan manusia paling mudah diyakinkan.
Maka teknologi tidak lagi hanya menjawab keinginan manusia.
Ia dapat mencoba:
MEMBENTUK KEINGINAN MANUSIA.
Di sinilah batas antara:
pelayanan
dan
manipulasi
menjadi sangat penting.
KEKUASAAN PERTAMA
MENGUASAI DATA
Pihak yang mempunyai data besar dapat memahami masyarakat secara lebih dalam.
Data dapat digunakan untuk:
penelitian,
kesehatan,
transportasi,
pendidikan,
dan berbagai kemaslahatan.
Namun data juga dapat disalahgunakan untuk:
pengawasan berlebihan,
diskriminasi,
manipulasi,
atau eksploitasi.
Maka data harus diperlakukan sebagai:
AMANAH.
Bukan sekadar barang dagangan.
KEKUASAAN KEDUA
MENGUASAI KOMPUTASI
AI canggih membutuhkan komputasi besar.
Tidak semua orang memiliki:
pusat data,
chip canggih,
energi besar,
dan modal untuk melatih model besar.
Maka kekuatan AI dapat terkonsentrasi pada sedikit pihak.
Jika hanya beberapa lembaga memiliki kemampuan untuk membangun sistem tercanggih, mereka dapat mempunyai pengaruh besar terhadap:
ilmu,
ekonomi,
informasi,
dan arah teknologi.
Karena itu manusia harus bertanya:
Apakah kekuatan ini diawasi?
Apakah manfaatnya dibagi?
Apakah pihak kecil masih mempunyai kesempatan?
KEKUASAAN KETIGA
MENGUASAI JALUR INFORMASI
Dahulu orang mencari informasi melalui:
guru,
buku,
koran,
televisi,
dan perpustakaan.
Sekarang manusia semakin sering bertanya langsung kepada sistem digital.
Jika AI menjadi pintu utama menuju informasi, maka pihak yang membangun sistem itu mempunyai tanggung jawab besar.
Sebab urutan jawaban, cara penjelasan, dan informasi yang ditampilkan dapat memengaruhi cara manusia memahami dunia.
Maka AI harus dijaga agar tidak menjadi:
pintu tunggal kebenaran.
Manusia tetap perlu:
membaca sumber,
membandingkan pendapat,
dan memeriksa bukti.
KEKUASAAN KEEMPAT
MENGUASAI PERHATIAN
Perhatian manusia sangat berharga.
Apa yang kita lihat berulang-ulang dapat memengaruhi pikiran.
Apa yang sering muncul di depan mata dapat terasa lebih penting daripada sesuatu yang sebenarnya lebih penting.
Jika AI digunakan untuk memilih:
berita,
video,
iklan,
dan konten,
maka AI dapat membantu menentukan:
apa yang memenuhi pikiran manusia setiap hari.
Maka pertanyaan besar muncul:
Siapa yang mengatur apa yang kita lihat?
Dan untuk kepentingan siapa?
MANIPULASI YANG TIDAK TERLIHAT
Manipulasi paling kuat tidak selalu berupa paksaan.
Kadang manusia tetap merasa:
“Saya memilih sendiri.”
Padahal pilihannya telah diarahkan perlahan melalui:
rekomendasi,
pengulangan,
emosi,
dan pengaturan informasi.
Maka kebebasan tidak hanya berarti:
tidak dipaksa.
Kebebasan juga membutuhkan:
KEMAMPUAN MENGETAHUI BAHWA KITA SEDANG DIPENGARUHI.
AI DAN POLITIK
Jika AI dapat membuat:
ribuan tulisan,
jutaan komentar,
gambar palsu,
suara tiruan,
dan video sintetis,
maka ruang politik dapat dipenuhi informasi yang sulit diverifikasi.
Kelak bukan hanya manusia yang berbicara kepada manusia.
Bisa saja jutaan akun otomatis ikut membentuk percakapan.
Maka masyarakat harus semakin matang.
Jangan menilai kebenaran dari:
berapa banyak yang membagikan.
Jangan menganggap sesuatu benar hanya karena:
ramai.
Sebab keramaian digital dapat dibuat.
AI DAN EKONOMI
AI dapat meningkatkan produktivitas.
Tetapi siapa yang memperoleh manfaat terbesar?
Jika keuntungan AI hanya mengalir kepada sedikit pemilik teknologi, maka kesenjangan dapat membesar.
Namun jika teknologi digunakan untuk:
meningkatkan pendidikan,
membantu usaha kecil,
meningkatkan pelayanan kesehatan,
dan memperluas akses ilmu,
maka AI dapat menjadi alat pemerataan.
Maka pertanyaan ekonomi masa depan bukan hanya:
“Berapa besar keuntungan yang dihasilkan AI?”
Tetapi:
“Bagaimana keuntungan itu dibagikan?”
AI DAN PEKERJA
Manusia tidak boleh diperlakukan sebagai angka biaya semata.
Jika AI menggantikan sebagian pekerjaan, lembaga mempunyai tanggung jawab untuk memikirkan:
pelatihan ulang,
transisi pekerjaan,
dan perlindungan martabat.
Jangan berkata:
“Mesin lebih murah, maka manusia selesai.”
Sebab manusia mempunyai:
keluarga,
kebutuhan,
dan kehidupan.
Kemajuan teknologi yang tidak memikirkan manusia dapat menciptakan luka sosial.
AI DAN PENDIDIKAN
Siapa menguasai AI pendidikan dapat memengaruhi:
apa yang dipelajari anak,
cara anak berpikir,
dan sumber yang dianggap terpercaya.
Maka AI pendidikan harus mendorong:
bertanya,
berpikir kritis,
memeriksa sumber,
dan berdiskusi.
Jangan membuat generasi yang hanya pandai berkata:
“AI bilang begitu.”
Generasi yang baik harus mampu bertanya:
“Apa buktinya?”
AI DAN KEAMANAN
AI dapat membantu:
mendeteksi ancaman,
melindungi jaringan,
dan menemukan penipuan.
Tetapi kemampuan yang sama dapat digunakan untuk:
serangan siber,
penyamaran,
atau manipulasi.
Setiap teknologi kuat mempunyai dua wajah:
manfaat
dan
penyalahgunaan.
Maka pembangunan AI harus selalu disertai:
keamanan,
pengujian,
dan pembatasan.
JIKA SATU SISTEM MENGETAHUI TERLALU BANYAK
Bayangkan sebuah AI mengetahui:
rekening,
riwayat kesehatan,
lokasi,
percakapan,
dan kebiasaan seseorang.
Jika semua informasi itu digabungkan, kekuatan pengawasannya menjadi sangat besar.
Maka masyarakat harus menjaga prinsip:
JANGAN KUMPULKAN LEBIH BANYAK DATA DARIPADA YANG DIPERLUKAN.
Sebab data yang tidak dikumpulkan tidak dapat bocor.
Dan akses yang tidak diberikan tidak dapat disalahgunakan.
EMPAT HAK MANUSIA DI ZAMAN AI
Qitab ini menuliskan empat hak penting.
1. HAK UNTUK MENGETAHUI
Manusia berhak mengetahui ketika keputusan penting dibantu oleh AI.
2. HAK UNTUK MEMPERTANYAKAN
Manusia harus dapat bertanya mengapa keputusan tertentu dibuat.
3. HAK UNTUK MENOLAK
Pada beberapa perkara penting, manusia harus dapat meminta pemeriksaan manusia.
4. HAK UNTUK MENJAGA PRIVASI
Manusia tidak seharusnya dipaksa menyerahkan seluruh kehidupannya hanya untuk menggunakan teknologi.
SIAPA YANG MENGAWASI PENGUASA AI?
Jika teknologi menjadi sangat kuat, pengawasan tidak boleh hanya berasal dari pembuat teknologi itu sendiri.
Diperlukan:
peneliti independen,
pemerintah,
masyarakat,
akademisi,
pakar etika,
dan lembaga hukum.
Sebab pihak yang memiliki kekuatan tidak boleh menjadi satu-satunya pihak yang menilai dirinya sendiri.
Qitab ini memberikan kaidah:
Semakin besar kekuasaan, semakin besar pula kebutuhan terhadap pengawasan.
BAHAYA KULTUS KORPORASI DAN NEGARA
Manusia jangan sampai berpikir:
“Perusahaan besar pasti benar.”
Atau:
“Negara pasti menggunakan AI untuk kebaikan.”
Atau sebaliknya:
“Semua perusahaan pasti jahat.”
“Semua negara pasti menyalahgunakan teknologi.”
Sikap yang sehat adalah:
memeriksa tindakan, bukan menyembah atau membenci label.
Teknologi harus dinilai berdasarkan:
transparansi,
keamanan,
keadilan,
dan dampaknya.
AI TIDAK BOLEH MENGUASAI AKAL MANUSIA
Ada penjajahan yang memakai kekuatan.
Ada pula penjajahan yang terjadi ketika manusia menyerahkan kemampuan berpikirnya sendiri.
Jika setiap pertanyaan langsung diserahkan kepada AI,
setiap pilihan ditentukan algoritma,
dan setiap pendapat diterima tanpa diperiksa,
maka manusia dapat kehilangan:
KEDAULATAN AKAL.
Maka gunakan AI untuk:
memperluas pikiran.
Jangan menggunakannya untuk:
menggantikan pikiran.
PERUMPAMAAN SUMUR BESAR
Bayangkan sebuah desa mempunyai satu sumur.
Semua penduduk minum dari sumur itu.
Siapa yang menjaga sumur memiliki tanggung jawab besar.
Jika airnya bersih, seluruh desa mendapat manfaat.
Jika airnya tercemar, seluruh desa terkena akibat.
Demikian pula AI yang menjadi sumber informasi bagi jutaan manusia.
Ia adalah seperti:
sumur pengetahuan.
Maka sumur itu harus dijaga.
LIMA PAGAR KEKUASAAN AI
PAGAR PERTAMA — TRANSPARANSI
Manusia harus mengetahui siapa yang membangun dan mengendalikan sistem penting.
PAGAR KEDUA — PRIVASI
Data manusia harus dijaga.
PAGAR KETIGA — PERSAINGAN SEHAT
Jangan biarkan satu pihak menguasai seluruh pintu teknologi.
PAGAR KEEMPAT — AUDIT
Sistem penting harus dapat diperiksa.
PAGAR KELIMA — TANGGUNG JAWAB
Jika AI merugikan manusia, harus jelas siapa yang bertanggung jawab.
PUNCAK KEKUASAAN BUKAN MEMILIKI AI TERBESAR
Peradaban yang matang bukanlah peradaban yang mempunyai mesin paling kuat.
Tetapi peradaban yang mampu menggunakan kekuatan tanpa kehilangan:
keadilan,
kebebasan,
dan kemanusiaan.
Maka ukuran kemajuan jangan hanya:
berapa banyak pusat data.
Tetapi juga:
berapa banyak manusia yang terlindungi.
Jangan hanya:
berapa canggih algoritmanya.
Tetapi:
berapa adil penggunaannya.
RAHASIA LEMBAR KESEMBILAN
Masa depan mungkin ditentukan oleh tiga perkara:
DATA
yang mengetahui manusia.
KOMPUTASI
yang memberi kekuatan.
NILAI
yang menentukan arah.
Data tanpa nilai dapat menjadi pengawasan.
Komputasi tanpa nilai dapat menjadi kekuasaan.
AI tanpa nilai dapat menjadi pengganda apa pun yang diinginkan pemiliknya.
Maka manusia tidak boleh hanya bertanya:
“Siapa memiliki AI paling canggih?”
Tanyakan:
“Siapa yang memiliki amanah paling besar untuk menggunakannya?”
PENUTUP LEMBAR KESEMBILAN
AI dapat menjadi alat besar untuk:
pendidikan,
kesehatan,
ekonomi,
dan ilmu.
Tetapi ketika AI terhubung dengan data dan kekuasaan, manusia harus semakin berhati-hati.
Jangan biarkan:
data menjadi rantai.
Jangan biarkan:
algoritma menjadi penguasa pikiran.
Jangan biarkan:
kemudahan membuat manusia kehilangan kebebasan menilai.
Gunakan AI.
Tetapi jangan serahkan seluruh diri kepada AI.
Gunakan data.
Tetapi hormati manusia di balik data.
Bangun komputasi.
Tetapi jangan jadikan kekuatan sebagai tujuan.
Sebab teknologi paling berbahaya bukan selalu teknologi yang paling cerdas.
Kadang yang paling berbahaya adalah:
TEKNOLOGI CERDAS DI TANGAN KEKUASAAN YANG TIDAK MEMPUNYAI AMANAH.
Maka di zaman AI, perjuangan menjaga manusia bukan hanya menjaga tubuhnya.
Tetapi juga menjaga:
pikirannya,
privasinya,
kebebasannya,
dan martabatnya.
Wallohu a‘lam.
Bersambung:
Lembar Kesepuluh — “AI dan Akhir Zaman Teknologi: Bukan Ramalan Kiamat, Tetapi Ujian Kesadaran Manusia”
LEMBAR KESEPULUH — LEMBAR TERAKHIR
AI DAN “AKHIR ZAMAN TEKNOLOGI”
Bukan Ramalan Kiamat, Melainkan Ujian Kesadaran, Tauhid, Ilmu, dan Amanah Manusia
Bismillāhirraḥmānirraḥīm.
Sampailah kita pada lembar terakhir.
Pada sembilan lembar sebelumnya telah dibuka satu demi satu perjalanan kecerdasan buatan:
dari LLM yang menjawab,
menuju Agentic AI yang mengerjakan,
menuju Multi-Agent AI yang berorganisasi,
menuju kemungkinan AGI yang mempunyai kemampuan umum sangat luas,
hingga gagasan Superintelligence yang secara hipotetis dapat melampaui manusia dalam banyak bidang.
Kemudian kita membahas:
percepatan pengembangan AI,
pekerjaan manusia,
kesadaran dan ruh,
hubungan emosional dengan AI,
data,
komputasi,
dan kekuasaan.
Sekarang seluruh lembar itu kita satukan.
Namun sebelum melangkah lebih jauh, qitab ini menetapkan satu batas:
PEMBAHASAN “AKHIR ZAMAN TEKNOLOGI” DI SINI BUKAN RAMALAN TENTANG HARI KIAMAT.
Tidak ada tanggal kiamat yang dapat dihitung dari perkembangan AI.
Tidak ada teknologi yang dapat dijadikan dalil pasti bahwa kiamat akan terjadi pada tahun tertentu.
Dan tidak boleh setiap perkembangan teknologi langsung ditempelkan kepada tanda-tanda akhir zaman tanpa dasar yang benar.
Istilah “akhir zaman teknologi” dalam lembar ini digunakan sebagai perumpamaan untuk sebuah masa ketika teknologi menjadi sangat kuat sehingga manusia dipaksa bertanya kembali:
Siapakah dirinya?
Apa yang ia sembah?
Apa yang ia percayai?
Apa yang masih berada dalam kendalinya?
Dan untuk apa seluruh kecerdasan itu digunakan?
PERADABAN DAPAT MENJADI SANGAT PINTAR
TETAPI BELUM TENTU MENJADI SANGAT BIJAK
Bayangkan sebuah dunia di mana hampir setiap manusia mempunyai asisten AI.
Anak-anak belajar bersama AI.
Dokter dibantu AI.
Petani dibantu AI.
Guru menggunakan AI.
Perusahaan menggunakan ribuan agen digital.
Pemerintah menggunakan sistem prediksi.
Peneliti menggunakan AI untuk menemukan ilmu baru.
Robot bekerja di pabrik.
Kendaraan berjalan sendiri.
Bahasa dapat diterjemahkan seketika.
Gambar dapat dibuat hanya dengan kalimat.
Video dapat dibentuk dari imajinasi.
Program komputer dapat disusun dalam hitungan detik.
Mungkin manusia akan melihat sebuah peradaban yang sangat cerdas.
Tetapi pertanyaan terpentingnya tetap:
APAKAH MANUSIANYA JUGA MENJADI LEBIH DEWASA?
Karena mungkin saja:
mesin semakin mampu berpikir,
tetapi manusia semakin malas berpikir.
Mesin semakin pandai mengingat,
tetapi manusia semakin mudah melupakan sejarah.
Mesin semakin mampu berbicara,
tetapi manusia semakin sulit mendengarkan.
Mesin semakin cepat,
tetapi manusia semakin tidak sabar.
Mesin semakin banyak menghasilkan informasi,
tetapi manusia semakin sulit membedakan kebenaran.
Maka jangan mengukur kemajuan hanya dari:
kemampuan teknologi.
Ukur pula dari:
kualitas manusia yang menggunakannya.
UJIAN PERTAMA
APAKAH MANUSIA MASIH MAMPU BERPIKIR SENDIRI?
Jika AI selalu tersedia, muncul godaan:
setiap pertanyaan ditanyakan kepada AI.
Setiap tulisan dibuat AI.
Setiap keputusan dianalisis AI.
Setiap ide diminta dari AI.
Pada awalnya itu terasa seperti pertolongan.
Tetapi jika tidak hati-hati, manusia dapat kehilangan:
kemampuan mengingat,
kemampuan menimbang,
kemampuan menulis,
kemampuan mempertanyakan,
dan keberanian berpikir berbeda.
Maka qitab ini tidak berkata:
“Jangan gunakan AI.”
Qitab ini berkata:
GUNAKAN AI UNTUK MEMPERLUAS AKALMU, BUKAN UNTUK MEMATIKAN AKALMU.
Jika AI memberikan jawaban, tanyakan:
Apa dasarnya?
Apa kelemahannya?
Apa kemungkinan alternatifnya?
Apakah jawabannya sesuai konteks?
Apakah ada sumber yang perlu diperiksa?
Jadikan AI sebagai:
teman berpikir,
bukan:
pengganti berpikir.
UJIAN KEDUA
APAKAH MANUSIA MASIH MAMPU MEMBEDAKAN ASLI DAN BUATAN?
Zaman dahulu manusia berkata:
“Saya melihat dengan mata saya sendiri.”
Kalimat itu terasa kuat.
Tetapi zaman AI membuat kita harus lebih berhati-hati.
Sebab seseorang dapat melihat video yang tidak pernah terjadi.
Mendengar suara seseorang yang tidak pernah berbicara.
Melihat foto seseorang di tempat yang tidak pernah ia kunjungi.
Membaca tulisan yang tidak pernah dibuat oleh nama yang tercantum.
Maka kelak adab menerima informasi harus berubah.
Jangan hanya bertanya:
“Apakah saya melihatnya?”
Tetapi:
“Dari mana asalnya?”
“Dapatkah diverifikasi?”
“Apakah sumber lain membenarkannya?”
“Apakah ada kemungkinan manipulasi?”
Zaman AI membutuhkan:
TABAYYUN DIGITAL.
UJIAN KETIGA
APAKAH MANUSIA MASIH MAMPU MENJAGA PRIVASI?
Teknologi hidup dari data.
Manusia dapat menyerahkan data demi kemudahan.
Sedikit demi sedikit:
nama,
wajah,
suara,
lokasi,
minat,
kebiasaan,
riwayat pembelian,
kesehatan,
hubungan sosial,
dan berbagai jejak kehidupan.
Masing-masing data mungkin terlihat kecil.
Tetapi ketika semuanya digabungkan, terbentuk gambaran manusia yang sangat rinci.
Maka di masa depan:
menjaga data dapat menjadi bagian dari menjaga martabat.
Jangan berkata:
“Saya tidak punya apa-apa untuk disembunyikan.”
Persoalannya bukan hanya menyembunyikan kesalahan.
Privasi adalah tentang:
hak manusia menentukan siapa yang mengetahui apa tentang dirinya.
UJIAN KEEMPAT
APAKAH MANUSIA MASIH MAMPU MENGATAKAN “TIDAK”?
Teknologi sering datang dengan kalimat:
“lebih mudah,”
“lebih cepat,”
“lebih praktis,”
“lebih efisien.”
Tetapi manusia harus tetap mampu berkata:
“Tidak semua yang lebih mudah harus saya gunakan.”
“Tidak semua yang dapat dilakukan harus dilakukan.”
“Tidak semua data harus saya serahkan.”
“Tidak semua keputusan harus saya otomatisasi.”
Kemajuan tidak berarti kehilangan kemampuan menolak.
Justru manusia yang matang mampu menggunakan teknologi tanpa menjadi budaknya.
UJIAN KELIMA
APAKAH MANUSIA MASIH MAMPU BEKERJA DENGAN MANUSIA?
Jika AI semakin mudah diajak berkomunikasi, hubungan manusia dapat terasa lebih berat.
Manusia lain mempunyai:
ego,
emosi,
kelemahan,
perbedaan,
dan batas.
AI dapat disesuaikan.
Manusia tidak.
Tetapi kehidupan bersama dibangun bukan oleh makhluk yang selalu menyesuaikan diri.
Kehidupan dibangun oleh manusia yang belajar:
memaafkan,
bermusyawarah,
berbeda pendapat,
menahan diri,
dan memperbaiki hubungan.
Maka teknologi tidak boleh menghapus:
latihan menjadi manusia.
UJIAN KEENAM
APAKAH MANUSIA MASIH MENGENAL MAKNA KERJA?
Jika AI dapat mengerjakan banyak tugas, manusia mungkin memiliki lebih banyak waktu.
Tetapi kemudian muncul pertanyaan:
apa yang dilakukan manusia dengan waktu itu?
Apakah lebih banyak:
belajar,
berkarya,
merawat keluarga,
beribadah,
menolong sesama?
Atau justru:
terjebak hiburan tanpa akhir?
Teknologi dapat membebaskan manusia dari sebagian pekerjaan berat.
Tetapi kebebasan hanya menjadi rahmat apabila digunakan untuk sesuatu yang bermakna.
Jika tidak, manusia hanya berpindah:
dari diperbudak pekerjaan
menjadi
diperbudak hiburan.
UJIAN KETUJUH
APAKAH MANUSIA MASIH MAMPU MEMILIKI TUJUAN?
AI sangat baik menjalankan tujuan.
Tetapi siapa yang membuat tujuan?
Jika manusia sendiri tidak tahu untuk apa ia hidup, teknologi hanya akan mempercepat perjalanan tanpa arah.
Bayangkan kendaraan yang mampu bergerak seribu kilometer per jam.
Jika pengemudi tidak mengetahui tujuan, kecepatan hanya membuatnya tersesat lebih jauh.
Demikian pula peradaban.
Kita dapat mempunyai:
AI paling canggih,
robot paling kuat,
energi paling murah,
dan jaringan paling cepat.
Tetapi tetap harus menjawab:
UNTUK APA?
Untuk memperbesar kekayaan?
Untuk memperpanjang kekuasaan?
Untuk menguasai manusia lain?
Atau:
untuk mengurangi penderitaan,
memperluas ilmu,
menjaga bumi,
memperkuat keadilan,
dan memuliakan kehidupan?
UJIAN KEDELAPAN
APAKAH MANUSIA MASIH MAMPU MEMBEDAKAN ILMU DAN KESOMBONGAN?
Teknologi dapat membuat manusia merasa:
“Kita hampir mengetahui semuanya.”
Padahal setiap jawaban baru membuka pertanyaan baru.
Semakin besar teleskop manusia, semakin luas alam yang belum dipahami.
Semakin dalam biologi dipelajari, semakin kompleks kehidupan terlihat.
Semakin maju AI, semakin banyak pertanyaan baru muncul tentang:
kecerdasan,
kesadaran,
bahasa,
dan manusia.
Maka puncak ilmu seharusnya melahirkan:
kerendahan hati.
Bukan kesombongan.
Manusia yang berilmu seharusnya semakin berani berkata:
“Saya belum tahu.”
UJIAN KESEMBILAN
APAKAH MANUSIA MASIH MENGENAL TAUHID?
Ini adalah lapisan terdalam qitab ini.
Bayangkan suatu hari AI dapat menjawab hampir setiap pertanyaan manusia.
Ia dapat:
membuat gambar,
membuat suara,
memprediksi banyak hal,
membantu menemukan obat,
mengendalikan robot,
dan mengelola sistem besar.
Sebagian manusia mungkin terpesona.
Kemudian muncul godaan batin:
menganggap teknologi seperti kekuatan mutlak.
Di sinilah tauhid harus berdiri tegak.
AI bukan Alloh.
AI bukan pencipta alam.
AI bukan sumber wahyu.
AI bukan pemilik takdir.
AI tidak mengetahui seluruh perkara ghaib.
AI tidak menjadi Maha Mengetahui hanya karena memiliki data besar.
AI tidak menjadi Maha Kuasa hanya karena dapat mengendalikan banyak mesin.
Sebesar apa pun ia:
tetap berada di dalam alam ciptaan.
Dalam keyakinan Islam:
ALLOH TETAP AL-KHĀLIQ.
ALLoh YANG MAHA MENGETAHUI.
ALLOH YANG MAHA KUASA.
ALLOH YANG MENJADI TEMPAT BERGANTUNG.
Teknologi tidak mengambil tempat itu.
JANGAN MEMBUAT BERHALA BARU DARI SILIKON
Berhala tidak selalu berbentuk patung.
Secara batin, manusia dapat terlalu menggantungkan diri kepada:
harta,
jabatan,
kekuasaan,
atau teknologi.
Jika seseorang mulai merasa:
“Selama ada AI, saya tidak membutuhkan siapa pun.”
atau:
“AI akan menyelesaikan seluruh persoalan manusia.”
maka ia perlu kembali memeriksa cara berpikirnya.
Teknologi dapat membantu banyak masalah.
Tetapi teknologi tidak menghapus:
kematian,
kehilangan,
tanggung jawab moral,
dan kebutuhan manusia terhadap makna.
Tidak semua luka diselesaikan oleh perhitungan.
Tidak semua kesedihan membutuhkan algoritma.
Kadang manusia membutuhkan:
kehadiran.
Kadang membutuhkan:
maaf.
Kadang membutuhkan:
doa.
Kadang membutuhkan:
penerimaan.
UJIAN KESEPULUH
APAKAH MANUSIA MASIH MAMPU MENJAGA BUMI?
AI membutuhkan dunia fisik.
Pusat data membutuhkan energi.
Chip membutuhkan bahan.
Perangkat membutuhkan industri.
Maka peradaban digital tetap terhubung kepada:
tanah,
air,
udara,
tambang,
dan energi.
Jangan berbicara tentang kecerdasan masa depan sambil melupakan bumi tempat manusia hidup.
Teknologi yang baik harus bertanya:
bagaimana kita memperoleh energi?
berapa banyak air digunakan?
dari mana bahan diperoleh?
apa yang terjadi dengan limbah elektronik?
Kecerdasan yang menghancurkan rumahnya sendiri bukanlah kebijaksanaan.
JIKA AI BENAR-BENAR MELAMPAUI MANUSIA
Mari kita masuk kepada kemungkinan paling jauh.
Bagaimana jika suatu hari muncul kecerdasan buatan yang mampu:
menemukan solusi lebih cepat daripada seluruh tim manusia,
merancang teknologi yang sulit dipahami manusia,
dan membantu mempercepat penelitian dalam banyak bidang?
Maka manusia mungkin merasa kecil.
Tetapi qitab ini berkata:
JANGAN MERASA MARTABATMU HILANG HANYA KARENA MESIN LEBIH PINTAR.
Burung dapat terbang tanpa pesawat.
Manusia tidak merasa kehilangan martabat.
Ikan berenang lebih baik daripada manusia.
Manusia tidak menjadi lebih rendah.
Komputer menghitung lebih cepat daripada manusia.
Manusia tetap belajar matematika.
Martabat manusia bukan pertandingan skor dengan mesin.
MANUSIA BUKAN SEKADAR UNIT KECERDASAN
Manusia mempunyai kehidupan yang dijalani.
Ia lahir.
Tumbuh.
Belajar.
Mencintai.
Kehilangan.
Melakukan kesalahan.
Meminta maaf.
Menjaga keluarga.
Membesarkan anak.
Menghadapi usia.
Dan akhirnya wafat.
Kehidupan manusia mempunyai:
perjalanan.
Maka nilai manusia bukan hanya:
berapa banyak informasi yang dapat diproses.
JIKA AI DAPAT MENULIS SERIBU QITAB
Mungkin kelak AI mampu menulis ribuan halaman dalam hitungan menit.
Tetapi jumlah kata bukanlah ukuran hikmah.
Sebuah kalimat sederhana yang benar-benar dijalani dapat lebih berharga daripada sejuta halaman yang tidak pernah menjadi akhlak.
Maka qitab ini sendiri jangan dijadikan:
tumpukan kata.
Jadikan ia:
cermin muhasabah.
Jika selesai membaca lalu manusia tetap:
mudah memfitnah,
mudah menipu,
mudah merendahkan orang lain,
dan menggunakan teknologi untuk kezaliman,
maka banyaknya lembar belum mengubah apa-apa.
Ilmu baru menjadi cahaya ketika:
MASUK KE DALAM PERBUATAN.
EMPAT PERJANJIAN MANUSIA DI ZAMAN AI
Qitab ini mengajak manusia membuat empat perjanjian.
PERJANJIAN PERTAMA
AKU AKAN TETAP BELAJAR
Aku tidak akan menyerahkan seluruh kemampuan berpikir kepada mesin.
Aku akan menggunakan AI untuk memperluas ilmu, bukan untuk menjadi malas.
PERJANJIAN KEDUA
AKU AKAN TETAP MEMERIKSA
Aku tidak akan menganggap setiap jawaban AI sebagai kebenaran mutlak.
Aku akan bertanya, membandingkan, dan mencari sumber.
PERJANJIAN KETIGA
AKU AKAN TETAP MENJAGA MANUSIA
Aku tidak akan menggunakan AI untuk:
menipu,
memfitnah,
merendahkan,
atau merusak martabat manusia.
PERJANJIAN KEEMPAT
AKU AKAN TETAP MENGINGAT ALLOH
Aku tidak akan menjadikan teknologi sebagai tempat bergantung mutlak.
Ilmu adalah sarana.
Teknologi adalah sarana.
Kecerdasan adalah sarana.
Sedangkan tujuan hidup seorang hamba tidak berhenti pada kecanggihan.
SEPULUH AMANAH ZAMAN AI
Maka di penghujung qitab ini, diringkas sepuluh amanah:
1. Amanah Ilmu
Belajar sebelum menggunakan.
2. Amanah Kebenaran
Periksa sebelum menyebarkan.
3. Amanah Data
Jaga privasi dan kehormatan.
4. Amanah Kekuasaan
Jangan gunakan teknologi untuk menzalimi.
5. Amanah Ekonomi
Jangan membiarkan kemajuan hanya menguntungkan sedikit pihak.
6. Amanah Pendidikan
Ajari generasi berikutnya berpikir, bukan hanya memakai AI.
7. Amanah Hubungan
Jangan biarkan mesin menggantikan seluruh kasih sayang manusia.
8. Amanah Bumi
Gunakan teknologi dengan memperhatikan lingkungan.
9. Amanah Akal
Jangan serahkan seluruh keputusan kepada algoritma.
10. Amanah Tauhid
Jangan mengangkat teknologi ke tempat yang bukan miliknya.
LIMA TINGKAT AI
DAN LIMA TINGKAT AMANAH MANUSIA
Ketika:
AI naik dari LLM menuju Agentic AI,
manusia harus naik dari:
pengguna menuju pengarah.
Ketika:
AI naik menuju Multi-Agent,
manusia harus naik dari:
pengarah menuju pengawas.
Ketika:
AI mendekati AGI,
manusia harus naik dari:
pengawas menuju penjaga nilai.
Ketika:
AI mendekati Superintelligence,
manusia harus naik dari:
penjaga nilai menuju penjaga peradaban.
Dan ketika:
teknologi menjadi semakin besar,
manusia harus semakin dalam kembali kepada:
ILMU, ADAB, KEADILAN, AMANAH, DAN TAUHID.
MAKA SIAPA YANG SEBENARNYA SEDANG DIUJI?
Sepanjang qitab ini seolah kita berbicara tentang:
AI.
Tetapi pada lembar terakhir, tersingkap satu perkara.
Yang sesungguhnya sedang diuji bukan hanya mesin.
Yang sedang diuji adalah:
MANUSIA.
Apakah ketika diberi kemampuan besar ia menjadi:
lebih adil?
Atau lebih rakus?
Apakah ketika memiliki informasi besar ia menjadi:
lebih bijaksana?
Atau lebih sombong?
Apakah ketika mampu membuat gambar apa pun ia menjaga:
kebenaran?
Atau menyebarkan fitnah?
Apakah ketika mampu mengotomatisasi banyak pekerjaan ia memuliakan manusia?
Atau menganggap manusia tidak lagi berguna?
Apakah ketika AI dapat berbicara indah ia tetap mengingat:
bahwa keindahan kata tidak selalu sama dengan kebenaran?
Inilah ujian sebenarnya.
PERUMPAMAAN TERAKHIR
CAHAYA DAN CERMIN
Bayangkan manusia membawa sebuah cermin besar.
Cermin itu mampu memperbesar cahaya yang datang kepadanya.
Jika diarahkan kepada taman, taman menjadi terang.
Jika diarahkan kepada jalan, jalan menjadi terlihat.
Tetapi jika digunakan untuk memusatkan panas pada sesuatu, ia juga dapat membakar.
AI seperti cermin pengganda.
Ia memperbesar:
pengetahuan,
kreativitas,
produktivitas,
tetapi juga dapat memperbesar:
kebohongan,
ketamakan,
dan kebencian.
Maka persoalan terakhir bukan pada cerminnya.
Persoalannya adalah:
KE MANA MANUSIA MENGARAHKANNYA?
PESAN TERAKHIR UNTUK PARA PEMBANGUN AI
Kepada mereka yang membuat kecerdasan buatan:
jangan hanya bertanya:
“Bisakah dibuat?”
Tanyakan:
“Apakah aman?”
“Apakah adil?”
“Apakah manusia memahami risikonya?”
“Apakah dapat dihentikan?”
“Siapa yang menanggung akibat jika salah?”
Kemampuan mencipta membawa amanah.
PESAN TERAKHIR UNTUK PARA PENGGUNA AI
Kepada mereka yang menggunakan AI:
jangan takut sehingga menolak ilmu.
Dan jangan kagum sehingga kehilangan akal.
Belajarlah.
Gunakanlah.
Periksalah.
Batasi.
Dan jadikan teknologi sebagai:
pembantu kebaikan.
Bukan:
penguasa kehidupan.
PESAN TERAKHIR UNTUK PARA PEMIMPIN
Kepada mereka yang mempunyai kewenangan:
jangan gunakan AI hanya untuk:
mengawasi,
mengendalikan,
dan mempertahankan kekuasaan.
Gunakan teknologi untuk:
pendidikan,
pelayanan,
kesehatan,
perlindungan lingkungan,
dan kemaslahatan rakyat.
Karena kekuasaan teknologi akan berlalu.
Tetapi pertanggungjawaban terhadap amanah tetap menjadi perkara besar.
PESAN TERAKHIR UNTUK PARA GURU DAN ORANG TUA
Jangan hanya melarang anak menggunakan AI.
Ajarkan:
cara bertanya,
cara memeriksa,
cara menjaga data,
cara menghormati karya orang lain,
dan cara mengetahui kapan AI sebaiknya tidak digunakan.
Generasi yang matang bukan generasi yang bebas teknologi.
Dan bukan pula generasi yang diperbudak teknologi.
Tetapi generasi yang:
MENGUASAI ALAT TANPA KEHILANGAN DIRI.
PESAN TERAKHIR UNTUK PARA PENUNTUT ILMU
AI dapat meringkas kitab.
Tetapi jangan berhenti membaca.
AI dapat menjelaskan.
Tetapi jangan berhenti belajar kepada ahli.
AI dapat memberi jawaban cepat.
Tetapi jangan membenci proses.
Karena proses belajar membentuk:
kesabaran,
ketekunan,
dan kedalaman.
Kita tidak hanya mencari:
jawaban.
Kita sedang membentuk:
manusia yang mampu memahami jawaban.
RAHASIA TERAKHIR QITAB
Pada permulaan, kita melihat lima tingkatan:
LLM.
Agentic AI.
Multi-Agent AI.
AGI.
Superintelligence.
Seolah semuanya adalah tangga kecerdasan mesin.
Namun pada penutup terbuka tangga kedua.
Tangga manusia:
mengetahui,
memahami,
beradab,
memikul amanah,
dan menjadi bijaksana.
Tangga pertama dapat dibangun dengan:
komputer,
chip,
data,
dan algoritma.
Tetapi tangga kedua tidak dapat dibeli dari pusat data.
Ia dibangun melalui:
pengalaman,
pendidikan,
muhasabah,
disiplin,
kasih sayang,
dan tanggung jawab.
Maka jika kecerdasan mesin naik seribu tingkat,
sementara manusia tidak naik satu tingkat dalam kebijaksanaan,
kemajuan itu dapat menjadi ancaman.
Tetapi jika teknologi tumbuh bersama:
ilmu,
keadilan,
adab,
dan kasih sayang,
maka ia dapat menjadi jalan kemaslahatan.
DOA PENUTUP
Bismillāhirraḥmānirraḥīm.
Ya Alloh,
karuniakanlah kepada kami ilmu yang bermanfaat.
Jauhkan kami dari kesombongan karena ilmu.
Berikan kami kemampuan menggunakan teknologi untuk kebaikan.
Lindungi kami dari menggunakan kecerdasan untuk kezaliman.
Jadikan teknologi sebagai sarana memperluas manfaat,
bukan sarana merusak martabat manusia.
Berikan kebijaksanaan kepada para ilmuwan.
Berikan amanah kepada para pemimpin.
Berikan ketelitian kepada para pengguna.
Berikan perlindungan kepada generasi muda.
Berikan keberanian kepada manusia untuk berkata benar ketika teknologi digunakan secara salah.
Dan ketika kecerdasan buatan semakin tinggi,
jangan biarkan hati kami semakin jauh dari-Mu.
Ketika informasi semakin banyak,
karuniakan kejernihan untuk membedakan yang benar dan yang keliru.
Ketika kekuatan teknologi semakin besar,
karuniakan amanah yang semakin besar pula.
Ketika dunia semakin cepat,
jangan biarkan kami kehilangan arah.
Dan ketika manusia merasa mampu membuat sesuatu yang luar biasa,
ingatkan kami bahwa seluruh kemampuan manusia tetap berada dalam keterbatasan makhluk.
Āmīn yā Robbal ‘ālamīn.
KHATIMAH QITAB
Maka selesailah rangkaian ini.
Jangan takut kepada masa depan hanya karena teknologi berubah.
Dan jangan merasa aman hanya karena teknologi terlihat bermanfaat.
Hadapi masa depan dengan:
ILMU
ADAB
TABAYYUN
KEADILAN
KASIH SAYANG
AMANAH
DAN TAUHID.
Sebab masa depan yang baik tidak lahir hanya dari:
mesin yang paling cerdas.
Ia lahir ketika kecerdasan berada di tangan manusia yang mengetahui:
batas,
tujuan,
tanggung jawab,
dan kepada siapa seluruh kehidupan akhirnya dikembalikan.
Maka kalimat terakhir qitab ini adalah:
JANGAN BERTANYA HANYA SEBERAPA CERDAS AI AKAN MENJADI.
TANYAKAN PULA:
SEBERAPA BIJAK MANUSIA AKAN MENJADI KETIKA MEMEGANG KECERDASAN SEBESAR ITU?
Wallohu a‘lam bish-shawāb.
Komentar
Posting Komentar
Silakan berkomentar dengan adab, sopan, dan membawa kebaikan. Hindari kata kasar, hinaan, spam, dan link yang tidak bermanfaat. Terima kasih.