Dalam waktu hanya tiga bulan, peretasan yang didukung kecerdasan buatan (AI) telah berkembang dari masalah yang baru lahir menjadi ancaman skala industri, menurut laporan dari Google. Temuan dari kelompok intelijen ancaman Google menambah ke dalam diskusi global yang semakin intensif tentang bagaimana model AI terbaru sangat terampil dalam pemrograman dan menjadi alat yang sangat kuat untuk mengeksploitasi kerentanan dalam berbagai sistem perangkat lunak.
Laporan itu menemukan bahwa kelompok kriminal, serta aktor yang terkait dengan negara dari China, Korea Utara, dan Rusia, tampaknya banyak menggunakan model-model komersial – termasuk Gemini, Claude, dan alat-alat dari OpenAI – untuk menyempurnakan dan memperluas serangan. “Ada kesalahpahaman bahwa perlombaan kerentanan AI sudah dekat. Kenyataannya, itu sudah dimulai,” kata John Hultquist, analis utama kelompok itu. “Pelaku ancaman menggunakan AI untuk meningkatkan kecepatan, skala, dan kecanggihan serangan mereka. Hal itu memungkinkan mereka untuk menguji operasi mereka, terus berlanjut melawan target, membangun malware yang lebih baik, dan melakukan banyak perbaikan lainnya.”
Bulan lalu, perusahaan AI Anthropic menolak untuk merilis salah satu model terbarunya, Mythos, setelah menyatakan bahwa model tersebut memiliki kemampuan yang sangat kuat dan merupakan ancaman bagi pemerintah, lembaga keuangan, dan dunia secara umum jika jatuh ke tangan yang salah. Secara khusus, Anthropic mengatakan bahwa Mythos telah menemukan kerentanan zero-day di “setiap sistem operasi utama dan setiap browser web utama” – istilah untuk kelemahan dalam produk yang sebelumnya tidak diketahui oleh pengembangnya. Perusahaan mengatakan temuan ini mensyaratkan “tindakan defensif koordinat yang substansial di seluruh industri.”
Namun, laporan Google menemukan bahwa kelompok kriminal baru-baru ini hampir saja memanfaatkan kerentanan zero-day untuk melakukan kampanye “eksploitasi massal” – dan kelompok ini tampaknya menggunakan model bahasa besar berbasis AI (LLM) yang bukan Mythos. Laporan ini juga menemukan bahwa kelompok sedang “mencoba-coba” dengan OpenClaw, sebuah alat AI yang viral pada bulan Februari karena menawarkan kepada penggunanya kemampuan untuk menyerahkan sebagian besar kehidupan mereka kepada agen AI tanpa pagar pengaman dan kecenderungan yang tidak menguntungkan untuk menghapus kotak masuk email secara massal.
Steven Murdoch, seorang profesor teknik keamanan di University College London, mengatakan bahwa alat AI dapat membantu sisi pertahanan dalam keamanan siber – serta para peretas. “Itu sebabnya saya tidak panik. Secara umum, kita telah mencapai tahap di mana cara lama menemukan bug sudah tidak relevan, dan sekarang semuanya akan dibantu oleh LLM. Akan sedikit waktu sebelum konsekuensi dari hal ini terungkap,” katanya.
Namun, jika AI membantu peretas yang ambisius mencapai tujuan produktivitas mereka, masih ada keraguan apakah hal itu memperkuat ekonomi secara lebih luas. Institut Ada Lovelace (ALI), lembaga penelitian AI independen, telah memperingatkan terhadap asumsi peningkatan produktivitas sektor publik bernilai miliaran poundsterling dari AI. Pemerintah Inggris memperkirakan keuntungan sebesar £45 miliar dalam penghematan dan manfaat produktivitas dari investasi sektor publik dalam alat-alat digital dan AI.
Dalam laporan yang diterbitkan pada hari Senin, ALI mengatakan bahwa sebagian besar penelitian tentang peningkatan produktivitas yang terkait dengan AI merujuk pada penghematan waktu atau pengurangan biaya, namun tidak memperhatikan hasil seperti layanan yang lebih baik atau peningkatan kesejahteraan pekerja. Aspek-aspek masalah lain dari penelitian semacam ini meliputi: apakah proyeksi efisiensi terkait AI di tempat kerja benar-benar berhasil dalam dunia nyata; angka-angka utama yang menyembunyikan hasil yang bervariasi untuk menggunakan AI dalam tugas yang berbeda; dan kegagalan untuk memperhitungkan dampak pada lapangan kerja sektor publik dan penyediaan layanan.
“Perkiraan produktivitas yang membentuk keputusan pemerintah besar tentang AI terkadang didasarkan pada asumsi yang belum diuji dan bergantung pada metodologi yang keterbatasannya tidak selalu dipahami oleh mereka yang menggunakan angka-angka itu di lapangan,” kata laporan ALI. “Hasilnya adalah kesenjangan antara keyakinan dengan klaim produktivitas yang disajikan dan kekuatan bukti di baliknya.”
Rekomendasi laporan meliputi: mendorong studi masa depan untuk mencerminkan ketidakpastian tentang dampak teknologi; memastikan departemen pemerintah mengukur dampak program AI “sejak awal”; dan mendukung studi jangka panjang yang mengukur peningkatan produktivitas selama bertahun-tahun daripada minggu.
