Ada momen di film Oppenheimer yang tidak bisa ditonton dengan santai. Bukan adegan ledakannya — yang justru dibuat Nolan tanpa suara selama beberapa detik, sunyi yang lebih mengerikan dari bunyi apapun. Tapi adegan sesudahnya: Oppenheimer berdiri di podium di depan ratusan ilmuwan dan staf yang bersorak, dan di tengah sorak-sorai itu, ia mulai melihat bayangan — kulit yang hangus, mata yang meleleh, tubuh yang menguap.

Semua orang di ruangan itu merayakan. Ia sendirian dengan apa yang ia tahu akan segera terjadi pada manusia yang bahkan tidak ia kenal, di kota yang tidak akan sempat bereaksi sebelum segalanya habis.

Pertanyaan yang film itu tinggalkan bukan soal perang atau politik. Pertanyaannya lebih personal dan lebih mengganggu: ketika sebuah ilmu pengetahuan bisa menciptakan sesuatu yang mengubah sejarah secara permanen — siapa yang bertanggung jawab atas apa yang terjadi sesudahnya?

Dua Posisi yang Sama-Sama Tidak Nyaman

Dalam filsafat sains dan etika, ada dua posisi yang sudah lama diperdebatkan soal tanggung jawab ilmuwan.

Posisi pertama sering disebut value-free science — gagasan bahwa sains adalah alat netral. Ilmuwan bertugas menemukan bagaimana dunia bekerja. Apa yang kemudian dilakukan manusia dengan pengetahuan itu adalah urusan politik, militer, atau kebijakan — bukan urusan ilmuwan. Dalam logika ini, Oppenheimer hanya memecahkan masalah fisika. Yang menjatuhkan bom adalah orang lain, atas keputusan orang lain.

Posisi kedua menolak pemisahan itu. Fisikawan Hans Bethe, yang juga bekerja di Manhattan Project, kemudian menghabiskan sisa hidupnya mengadvokasi pengendalian senjata nuklir — karena ia percaya bahwa menciptakan sesuatu tanpa memikirkan konsekuensinya adalah bentuk kelalaian moral, bukan kenetralan.

"Fisikawan kini telah mengenal dosa — dan ini adalah pengetahuan yang tidak bisa mereka hilangkan." — J. Robert Oppenheimer, 1947

Yang membuat Oppenheimer tragis bukan bahwa ia jahat. Yang membuatnya tragis adalah ia terlalu cerdas untuk tidak tahu apa yang sedang ia buat — dan tetap membuatnya. Bukan karena tidak peduli, tapi karena momentum proyek itu sudah terlalu besar, tekanan geopolitiknya sudah terlalu kuat, dan rasa ingin tahu intelektualnya sendiri terlalu dalam untuk ia hentikan sendiri.

Ketika Ilmu Pengetahuan Melampaui Kemampuan Moral Manusia

Filsuf Günther Anders punya konsep yang menarik: Promethean gap — jurang Prometheus. Ia mengamati bahwa kemampuan manusia untuk menciptakan sesuatu sudah jauh melampaui kemampuan manusia untuk membayangkan, memahami, dan secara moral memproses dampak dari apa yang diciptakannya.

Kita bisa menciptakan bom yang membunuh ratusan ribu orang dalam hitungan detik — tapi otak manusia tidak dirancang untuk benar-benar merasakan apa artinya ratusan ribu nyawa. Angkanya terlalu besar untuk jadi sesuatu yang konkret secara emosional. Kita bisa memahaminya secara intelektual, tapi tidak bisa merasakannya dengan cara yang sama seperti merasakan kehilangan satu orang yang kita kenal.

Oppenheimer mengalami ini secara langsung. Ia bisa menghitung yield dari bom itu, bisa memodelkan radius kehancurannya, bisa memperkirakan jumlah korban. Tapi semua kalkulasi itu tetap abstrak sampai ia melihat foto-foto dari Hiroshima — dan bahkan kemudian, skala kehancurannya terlalu besar untuk benar-benar diproses.

Jurang inilah yang membuat etika sains bukan sekadar pertanyaan akademis. Ia adalah pertanyaan struktural: bagaimana kita membangun sistem yang memungkinkan ilmu pengetahuan berkembang tanpa kehilangan kemampuan untuk mengerem ketika yang diciptakan sudah melampaui kemampuan manusia untuk mengendalikannya?

Dari Bom Atom ke Algoritma

Ini bukan sejarah. Ini adalah pertanyaan yang sangat hidup hari ini.

Para insinyur dan peneliti yang membangun sistem rekomendasi media sosial di awal 2010-an tidak berniat menciptakan mesin polarisasi politik dan krisis kesehatan mental remaja. Mereka memecahkan masalah teknis yang menarik: bagaimana membuat orang tetap menggunakan aplikasi lebih lama. Masalah itu berhasil dipecahkan dengan sangat efisien.

Konsekuensinya — yang sekarang terdokumentasi dalam ribuan penelitian — tidak mereka antisipasi dengan serius. Atau jika diantisipasi, tidak cukup kuat untuk menghentikan laju komersialisasinya.

Pola yang sama sedang berulang dengan kecepatan yang jauh lebih tinggi dalam pengembangan kecerdasan buatan. Para peneliti AI terbaik di dunia — banyak di antaranya secara terbuka mengakui ini — sedang mengembangkan teknologi yang potensi dampaknya belum sepenuhnya mereka pahami sendiri. Bukan karena mereka tidak peduli. Tapi karena kecepatan perkembangan teknologinya telah melampaui kecepatan kemampuan manusia untuk memikirkan implikasinya secara menyeluruh.

Yang berulang bukan kesalahan Oppenheimer — yang berulang adalah strukturnya: ilmu yang bergerak lebih cepat dari etika, dan tekanan kompetitif yang membuat "berhenti untuk berpikir" terasa seperti kekalahan.

Geoffrey Hinton, salah satu bapak pendiri deep learning yang memenangkan Nobel Fisika 2024, mengundurkan diri dari Google pada 2023 sebagian karena ingin bebas berbicara tentang risiko AI tanpa terikat oleh kepentingan korporat. Ia menyebut dirinya sendiri sebagai "Oppenheimer dari AI" — bukan dengan bangga, tapi dengan kegelisahan yang sangat nyata.

Tanggung Jawab Siapa, Sebenarnya

Ini yang perlu diurai dengan jujur, karena terlalu mudah untuk menjadikan ilmuwan sebagai satu-satunya yang bertanggung jawab — dan itu juga tidak adil sepenuhnya.

Oppenheimer tidak bekerja sendiri. Ia bekerja dalam struktur yang sangat besar — militer, pemerintah, anggaran yang tidak terbatas, tekanan geopolitik Perang Dunia II — yang jauh melampaui kontrol satu individu. Keputusan untuk menggunakan bom itu bukan keputusannya. Tapi keputusan untuk terus bekerja ketika ia tahu ke mana arahnya — itu adalah pilihannya.

Di sinilah filsuf Hans Jonas relevan. Dalam bukunya tentang etika teknologi, Jonas mengusulkan apa yang ia sebut prinsip kehati-hatian: ketika konsekuensi dari sebuah tindakan bersifat tidak dapat dibalik dan berskala masif, beban pembuktian harus jatuh pada mereka yang ingin melanjutkan — bukan pada mereka yang ingin berhenti. Dalam kondisi ketidakpastian yang tinggi, bias default-nya harus ke arah kehati-hatian, bukan ke arah kecepatan.

Prinsip ini bertabrakan keras dengan kultur inovasi teknologi hari ini yang merayakan "move fast and break things" — frasa yang diciptakan Facebook, dan yang secara ironis cukup akurat menggambarkan apa yang sebenarnya terjadi pada fabric sosial ketika teknologi dilepas sebelum konsekuensinya dipahami.

Relevansi untuk Kita — yang Bukan Ilmuwan

Sebagian besar dari kita tidak akan pernah membangun bom atom atau melatih model AI. Tapi pertanyaan etika yang sama bekerja di skala yang lebih kecil dan lebih personal.

Setiap kali kita membagikan informasi yang belum kita verifikasi, kita membuat keputusan tentang konsekuensi yang kita tidak sepenuhnya pertimbangkan. Setiap kali kita menggunakan teknologi tanpa mempertanyakan bagaimana ia bekerja dan siapa yang diuntungkan oleh cara ia bekerja, kita adalah bagian dari sistem yang Oppenheimer sudah peringatkan.

Tanggung jawab atas dampak teknologi tidak hanya ada di tangan yang menciptakannya. Ia juga ada — sebagian kecil tapi nyata — di tangan yang menggunakannya tanpa pertanyaan.

Oppenheimer menyesal. Tapi penyesalan datang setelah kehancuran — dan kehancuran nuklir tidak punya tombol undo. Pelajaran terbesarnya bukan tentang bom, tapi tentang momen sebelum bom: di mana pertanyaan etis seharusnya diajukan, oleh siapa, dan kenapa tidak cukup keras disuarakan.

Dalam dunia yang sedang bergerak sekencang ini, kemampuan untuk mengajukan pertanyaan itu — dan cukup berani untuk memperlambat laju ketika jawabannya belum jelas — mungkin adalah kemampuan yang paling kita butuhkan, tapi paling jarang kita latih.