Pada bulan Juni tahun 2024, serangan siber terhadap perusahaan layanan patologi menyebabkan kekacauan di rumah sakit di London. Lebih dari 10.000 janji temu dibatalkan. Kekurangan darah mengikuti dan keterlambatan tes darah mengakibatkan kematian pasien.
Serangan siber mematikan seperti ini sangat jarang terjadi. Tetapi rilis AI baru dapat mengubah hal tersebut – menjatuhkan kita ke dalam dunia baru yang menakutkan dari kekacauan dan gangguan terhadap sistem digital yang kitaandalkan.
Pekan ini, Anthropic, sebuah perusahaan AI terkemuka di San Francisco, mengumumkan “Claude Mythos Preview”, sebuah model AI yang menurut startup tersebut terlalu berbahaya untuk dirilis secara publik, berkat keamanan siber yang luar biasa – dan kemampuan untuk melakukan serangan siber. Mythos, perusahaan tersebut mengklaim, telah menemukan kerentanan dalam setiap browser dan sistem operasi utama. Dengan kata lain, model AI baru ini mungkin dapat membantu para peretas mengganggu sebagian besar perangkat lunak penting di dunia.
“Ini sangat mengkhawatirkan seperti Y2K,” kata seorang ahli keamanan. Sudah, Mythos telah menemukan bug berusia 27 tahun dalam komponen kritis infrastruktur keamanan dan kerentanan ganda dalam kernel Linux, yang penting bagi sistem komputer di seluruh dunia. Titik lemah ini dapat mengancam hampir semua yang ada di internet mulai dari layanan streaming yang Anda nikmati hingga sistem perbankan yang Anda andalkan.
Jika teknologi seperti itu tersedia secara luas dan sebagaimana capai Anthropic, implikasinya bisa sangat fatal. Serangan siber tidak lagi hanya menjadi masalah digital semata. Hampir semua yang kitaandalkan di dunia fisik melibatkan perangkat lunak. Dalam beberapa tahun terakhir, bandara, rumah sakit, dan jaringan transportasi telah lumpuh akibat serangan siber. Hingga saat ini, serangan dari skala ini memerlukan keahlian yang serius. Mythos akan memberikan kemampuan tersebut kepada amatir – dan meningkatkan kemampuan para profesional untuk menimbulkan kerusakan.
Para ahli keamanan siber memberikan peringatan. Anthony Grieco dari Cisco, perusahaan jaringan dan keamanan siber, mengatakan: “Kemampuan AI telah melampaui ambang batas yang secara fundamental mengubah urgensi yang dibutuhkan untuk melindungi infrastruktur kritis – dan tidak ada jalan kembali.” Lee Klarich, kepala manajemen produk di Palo Alto Networks, mengatakan model itu “menunjukkan pergeseran berbahaya”, dan memperingatkan bahwa “semua orang perlu bersiap untuk penyerang yang dibantu AI”.
“Akan ada lebih banyak serangan, serangan lebih cepat, dan serangan lebih canggih,” kata Klarich.
Untungnya, kita belum benar-benar terancam – belum. Daripada merilis Mythos secara publik, Anthropic pertama-tama menawarkannya kepada perusahaan yang menjalankan sebagian besar infrastruktur kritis kita, termasuk Apple, Microsoft, dan Google. Harapannya adalah mereka dapat menggunakan Mythos untuk menemukan celah keamanan mereka dan memperbaikinya sebelum orang jahat mendapatkan kemampuan serupa.
Ini berarti bahwa kita sekarang dalam perlombaan melawan waktu. Berkat kurangnya regulasi di tingkat nasional dan internasional, tidak ada yang memaksa perusahaan lain untuk mengikuti strategi penerapan Anthropic. Mungkin hanya dalam beberapa bulan ke depan sebelum para pelaku yang kurang bertanggung jawab – di AS atau tempat lain – merilis sebuah model dengan kemampuan serupa. Jika hal itu terjadi, kita hanya bisa berharap bahwa perangkat lunak yang kitaandalkan telah cukup diamankan.
Pada masa yang lebih bersinambungan, saya biasanya optimis bahwa AS dapat melakukan upaya seluruh masyarakat untuk mempersiapkan diri menghadapi “vulnpocalypse” yang akan datang. Tetapi pemerintahan Trump telah menyatakan perang terhadap Anthropic, melarang lembaga pemerintah dan militer menggunakan teknologi perusahaan tersebut dan secara terbuka menyebutnya sebagai perusahaan “kiri radikal, bangun” karena tidak mengizinkan militer menggunakan alat-alatnya untuk pengawasan massal terhadap warga Amerika. Kepala pemerintah tersebut berarti kemungkinan besar pemerintah tidak akan bekerja dengan Anthropic untuk memperkuat sistemnya yang terkenal rapuh – yang merupakan salah satu sistem yang paling penting untuk dijamin keamanannya.
Ada sebab untuk optimisme. Anthropic mungkin melebih-lebihkan kemampuan Mythos: perusahaan tersebut memiliki kepentingan, pada akhirnya, dalam membesar-besarkan produknya sendiri. Tetapi kerentanan yang didokumentasikan dan kesiapan pesaing untuk bekerja sama dengan Anthropic menunjukkan bahwa ancaman tersebut nyata. Beberapa bagian dari pemerintah, sementara itu, sudah mulai menyadari: pada hari Selasa, Scott Bessent, sekretaris keuangan AS, dan Jerome Powell, ketua Federal Reserve, dilaporkan mengumpulkan eksekutif Wall Street untuk mempersiapkan diri menghadapi risiko yang ditimbulkan oleh Mythos dan model AI masa depan yang berfokus pada keamanan siber.
Namun, gambaran keseluruhan tidak cerah. Mythos bukan hanya masalah keamanan siber, tetapi juga sangat baik dalam membantu orang merancang senjata biologi, dan terkadang dengan sengaja menipu pengguna dan menyembunyikan jejaknya. Ini adalah perwujudan risiko dari AI “super cerdas” yang ingin dilepaskan oleh Anthropic dan pesaingnya ke masyarakat – konsekuensi diabaikan. Dengan Mythos, kita masih memiliki waktu untuk mengatasi risiko tersebut. Tetapi jika pemerintah terus membiarkan perusahaan-perusahaan ini beroperasi tanpa aturan, kita mungkin tidak akan terlalu beruntung di masa depan.
Shakeel Hashim adalah editor Transformer, sebuah publikasi tentang kekuatan dan politik AI yang transformatif.
