Katakanlah sebuah perusahaan telah berhasil mendapatkan izin untuk memproduksi suatu robot cerdas serba bisa yang dapat melakukan hampir setiap tugas yang dapat dilakukan manusia dengan sebuah syarat, yakni perusahaan itu harus menanamkan ke dalam setiap robot yang diproduksinya sepuluh prinsip utama yang tidak boleh (dan dibuat tidak mungkin) dilanggar oleh para robot walaupun hanya sekali demi mencegah terjadinya penyalahgunaan robot cerdas serba bisa itu.
Dewan perwakilan rakyat mempercayakan perumusan sepuluh prinsip utama itu kepada satu orang dan orang itu adalah kamu! Jika kamu menganggap robot itu tidak akan mungkin menimbulkan masalah besar hanya dengan tiga prinsip, maka itu tidak mengapa. Nah, prinsip dan aturan macam apa yang kamu tetapkan untuk memastikan robot-robot yang cerdas dan serba bisa itu tidak akan menimbulkan kekacauan?
Coba pikirkan sejenak! Pemahamanmu tentang apa yang akan kukatakan akan jauh lebih dalam jika kamu menjadikannya ini pengalaman nyata.
…
Kamu mungkin tertarik untuk menetapkan prinsip bahwa setiap robot hendaknya hanya melakukan perbuatan yang baik saja. Masalahnya, definisi kata baik, buruk, benar dan salah amat bergantung pada nilai yang dianut seseorang. Efisiensi baik bagi perusahaan tapi bisa berarti buruk bagi pegawainya. Jika menurut analisis robot itu keuntungan perusahaan dapat dimaksimalkan dengan mengurangi jumlah karyawan, apakah ia sedang berbuat baik ketika menyarankan pak direktur agar memecat sebagian karyawan? Ambiguitas kata baik bagi para robot diperparah dengan tidak jelasnya prioritas dan tingkat kepentingan kita terhadap apa-apa yang kita kehendaki. Jika seorang robot diperintah untuk mengantarkan anak ke sekolah dengan sebaik-baiknya, apakah yang dimaksud baik adalah memilih jalan yang paling aman dan selamat meskipun terlambat? Apakah yang dimaksud baik adalah memilih kendaraan paling hemat meskipun sedikit luka atau cacat? Karena itu datanglah dengan aturan-aturan/prinsip-prinsip yang lebih jelas.
Orang-orang dalam novel dan film karangan Isaac Asimov mempercayai bahwa mereka tidak butuh sepuluh prinsip untuk menjamin robot tidak akan berulah tetapi hanya tiga. Tiga aturan yang disebut three laws of robotic itu adalah:
Robot tidak boleh melukai manusia, atau dengan berdiam diri, membiarkan manusia menjadi celaka.
Robot harus mematuhi perintah yang diberikan oleh manusia kecuali bila perintah tersebut bertentangan dengan Hukum Pertama.
Robot harus melindungi keberadaan dirinya sendiri selama perlindungan tersebut tidak bertentangan dengan Hukum Pertama atau Hukum Kedua.
Kukira kita semua sepakat soal definisi kata melukai dan celaka. Kalaupun tidak, sementara anggaplah saja begitu. Apakah tiga aturan itu sempurna dan tanpa celah? Tidak! Dalam novel dan filmnya, kita melihat sendiri bagaimana para robot berusaha mengambil alih dunia dengan dalih menyelamatkan manusia dari kecelakaan yang timbul dari kebodohan mereka sendiri.
Dalam film Tron, Clu yang diprogram untuk menciptakan dunia yang sempurna berakhir menjadi tokoh yang tanpa ampun menghapus keberagaman yang sebenarnya diharapkan sang pembuat game. Dengan program yang serupa, Ultron di film Avenger mencapai kesimpulan bahwa manusia dan segala ketidaksempurnaannya harus dihapuskan dari muka bumi untuk menjadikan dunia ini tempat yang lebih baik.
Kamu harus mendatangkan satu atau beberapa prinsip yang benar-benar tidak memiliki celah untuk memastikan robot secanggih dan sekuat Sony, Terminator atau Ultron tidak berbalik menjadi pihak yang harus kita lawan di masa depan.
…
Sekarang pahamkah kamu betapa tidak sederhananya masalah menentukan prinsip/aturan/hukum paling utama ini? Jika kamu berkata “Kamu tidak boleh membunuh manusia” itu berarti dia sama sekali tidak bisa membunuh siapapun. Dengan aturan itu, kalaupun besok ada seorang penyihir yang dapat menyiksa setiap orang di seluruh dunia ini dengan sihirnya dan sihir itu tidak dapat dihentikan kecuali dengan membunuh si penyihir, kamu sama sekali tidak bisa menyuruh robot itu untuk membunuh si penyihir karena itu bertentangan dengan aturan utamanya. Jika kamu berkata “Kamu tidak boleh menyakiti manusia”, itu berarti kamu tidak dapat mengharapkan robot itu akan menyelamatkan manusia yang proses penyelamatannya menyakitkan.
***
Jika kamu meneruskan pencarian atas prinsip paling utama yang layak ditanamkan ke dalam robot secerdas, sekuat Sony, Ultron dan Terminator ini, kamu akan mendapat pemahaman yang lebih utuh mengenai agama. Itu karena agama tidak lain merupakan sekumpulan sistem keyakinan, cara pikir, cara pandang, dan cara hidup. Mencarikan sepuluh prinsip untuk diyakini dan dipegang seumur hidup oleh seorang robot dalam bahasa manusia sama artinya dengan mencarikan untuk robot itu sebuah agama.
Kamu mungkin mengira bahwa kamu tidak pernah dipercayakan pemerintah untuk menetapkan sepuluh prinsip semacam itu untuk robot yang akan diproduksi secara massal tapi kamu sungguh diserahi tanggung jawab untuk menanamkan aturan-aturan hidup ke dalam benak produk canggih yang memiliki potensi yang lebih besar lagi! Anak-anakmu sendiri! Bukankah mereka jauh lebih cerdas dari kecerdasan buatan? Bukankah potensi kekuatan yang mereka miliki lebih besar daripada Terminator atau Ultron sekali pun? Ini bukan fiksi! Maka hati-hatilah mengenai apa yang sedang kamu tanamkan ke benak anak-anakmu jika kamu tidak ingin ia menjadi musuh bagi alam, kehidupan dan umat manusia berikutnya.
***
Aku ingin kamu melanjutkan sendiri perjalananmu menemukan sepuluh aturan utama itu tapi aku beri sedikit bocoran. Ketahuilah bahwa segala sesuatu memiliki kecuali. Itu berarti kamu tidak akan dapat mendatangkan suatu aturan yang benar-benar sempurna dengan pikiranmu sendiri. Jika tidak percaya silakan hubungi aku! Aku akan selalu bisa membuat suatu skenario dimana robotmu menjadi sebab bagi hal-hal yang tidak diinginkan walau bagaimanapun aturan utama itu kamu tetapkan.
Karena itu janganlah kamu tanamkan kepada anakmu bahwa:
1. Bahagia itu ada pada banyaknya harta.
2. Kebaikan hanya dapat ditegakkan melalui kekuasaan.
3. Kamu harus selalu berusaha menyenangkan semua orang.
Harta sungguh-sungguh dapat menjadi sebab penderitaan yang lebih pedih daripada kemiskinan. Kekuasaan hanya melipatgandakan kebaikan dan keburukan yang dikandung orang-orang yang berkuasa. Penerimaan semua orang juga merupakan suatu hal yang mustahil dengan adanya orang-orang yang mendengki dan orang-orang yang bermusuhan.
Harta, kekuasaan dan penerimaan orang-orang bukanlah sesuatu yang layak mendapat tempat pertama. Singkatnya semua itu dan apapun yang dapat terjangkau akal pikiranmu bukanlah tuhan.
Tiada tuhan selain Allah!
Hanya Allahu laa ilaha illa huwa yang layak menempati tempat pertama itu. Hanya dengan itu, seorang manusia memiliki harapan untuk bahagia dan membahagiakan sesama.
