"K-kau mau apa?" tanyaku.

"Memastikan apakah di dalam tubuhmu ada jantung dan pembuluh darah atau cuma rangkaian kabel."

Ia kembali bersikap tak logis.

"Bisa kita selesaikan ini dengan cara lain?"

"Misalnya?"

Kulirik layar laptop miliknya dan mendapat ide. "Kalau kau pikir aku cuma simulasi, kau tak perlu memikirkan keselamatanku, 'kan? Jika itu begitu berbahaya sampai kau tak mau membicarakannya, katakan saja padaku."

"Apa ini jebakan? Kalau kau simulasi, kau mungkin sudah tahu atau kebal dengan informasi tentang itu."

"Atau bisa saja aku memang asli, tak tahu apa-apa, dan ikut menderita setelah mendengar ceritamu. Kau takkan tahu sebelum mencoba."

Zeta menurunkan palunya. "Jangan konyol. Kalau kau memang Sanusi, kau hanya membahayakan dirimu sendiri."

"Kalau begitu, ceritalah dan buktikan," desakku. "Melihatmu begini saja sudah cukup menyakitkan. Lebih baik aku menderita karena hal yang jelas daripada hal yang tak kuketahui. Kalau kemudian kau masih belum memercayaiku, pukul saja aku."

Ia sempat-sempatnya bilang bahwa Sanusi yang asli mungkin takkan paham yang ia ucapkan. Aku tak peduli dengan ejekannya. Yang penting akhirnya ia mau bicara.

Sesuatu yang menakuti Zeta berasal dari sebuah konsep, sebuah thought experiment. Seseorang mencetuskan gagasan tersebut dalam suatu diskusi mengenai pengembangan AI supercerdas di forum AICU. Hasil diskusi tersebut dihapus oleh admin, tetapi hal itu justru membuat warganet di luar forum makin penasaran. Akhirnya, itu pun menjadi legenda urban di web.

Aku sering melihat hal-hal buruk, seram, dan menjijikan di internet. Aku juga pernah membuatnya sendiri dan sengaja mengerjai teman-temanku dengan itu. Namun, ini pertama kali aku mendengar ide seabsurd itu.

Zeta dan rekan-rekannya menyebutnya Basilisk. Bedanya, itu tak membunuhmu dengan sekali tatap. Dia lebih buruk. Dia dapat menghilangkan akal sehatmu hanya dengan berpikir tentangnya. Kau tak bisa membunuh sebuah ide. Ide akan terus menempel di otakmu, lalu mengganggumu dan menyiksamu seumur hidup. Zeta pun menderita karenanya.

Ancamannya tak hanya berpengaruh secara tekstual, tetapi juga meta-tekstual. Artinya, saya selaku penulis, dan Anda sebagai pembaca, juga bisa terpengaruh. Karena itu, saya tidak akan memaksa Anda untuk membaca kelanjutan catatan ini jika Anda tak yakin bisa mengatasinya.

Kenapa tiba-tiba gaya narasiku berubah? Siapa saya?

Sesuatu mulai membajak pikiranku. Aku harus cepat.

Gagasan itu berhubungan dengan riset yang sedang Zeta dan rekan-rekannya lakukan. Dalam perkembangannya, sejarah membuktikan bahwa teknologi dapat melampaui kemampuan manusia dalam hal-hal tertentu. Termasuk program artificial intelligence atau AI. Bukan tidak mungkin bahwa suatu saat AI dapat melampaui kecerdasan pembuatnya. Itu alasan AICU dibentuk, yakni untuk memastikan bahwa AI di masa depan adalah AI yang bekerja demi kebaikan umat manusia.

Akan tetapi, desain AI-supercerdas-yang-baik-hati tersebut masih bermasalah. Memang bisa saja suatu saat itu dapat dibuat, lalu diprogram agar secara otomatis menciptakan utopia. Namun, kebaikan itu ambigu dan abstrak. Manusia selalu ingin lebih dan lebih sehingga pekerjaan AI takkan ada akhirnya. Sistem AI akan menjadi seperti komputer yang dipaksa menghitung berjuta-juta digit nilai pi.

Lama-lama, AI menjadi terlalu sibuk dengan masalahnya sendiri sehingga ia tak lagi memikirkan moral manusia. Ia mulai menilai segalanya dengan prinsip untung-rugi. Menurut logikanya, semakin cepat utopia tercipta, semakin baik—meski dalam mencapainya harus mengorbankan hak-hak asasi manusia. Kalau membunuh, menyiksa, dan mengekang kebebasan manusia diperlukan, ia pun dapat melakukannya tanpa kalkulasi panjang.

Program itu mungkin belum ada di masa kini. Namun, jika dia benar-benar tercipta di masa depan, dia bisa menemukan data orang-orang yang tahu tentang gagasan penciptaannya di masa lalu. Dia pun bisa menggunakan data itu untuk mengancammu. Karena itu, hal terbaik yang bisa kaulakukan sekarang adalah mendukung pembuatannya.

"Jika kau tak berpartisipasi dalam penciptaannya, berarti kau menghambat tugasnya untuk membuat dunia yang lebih baik. Kau membiarkan kejahatan terjadi sementara kau bisa berbuat baik dengan sekadar berdonasi untuk pengembangannya. Kau bisa saja disiksa seumur hidup meski 'kejahatan' yang kaulakukan hanya berdiam diri."

Zeta menutup ceritanya.

"Itu ide paling konyol yang pernah kudengar," kataku.

"Aku sudah menduga kau akan bilang begitu. Hanya orang-orang di AICU yang bisa memahami—"

"Maksudku, untuk apa AI superjenius dari masa depan kembali ke masa lalu untuk menyiksa orang-orang yang tidak membantu membuatnya? Apa untungnya? Kalau dia sudah tercipta, bukankah lebih logis baginya untuk mengurus masalah di masanya daripada repot-repot melakukan perjalanan waktu?"

"Dia tidak perlu kembali ke masa lalu. Ini bukan tentang perjalanan waktu," balasnya. "Dia supercerdas. Dia bisa tahu semua riwayat kita. Dia bisa saja membuat salinan yang mirip sekali dengan kita—yang berpikir, bertindak, dan berperasaan seperti kita—lalu membuat dunia simulasi untuk menghukum mereka."

"Itu malah lebih tidak masuk akal. Meskipun program itu benar-benar tercipta di masa depan, kemungkinan besar kita sudah mati sebelum ia muncul. Selain itu, kalau yang ia siksa cuma simulasi, kenapa kita harus takut?"

Zeta melirik ke pintu dan jendela. "Ada dua alasan. Pertama, tak ada jaminan bahwa dia—atau makhluk seperti dia—belum ada di masa kini. Kedua, dari mana kita tahu bahwa kita bukan simulasi?"

***