Anthropic pada hari Selasa mengatakan model kecerdasan buatan mereka yang belum dirilis bernama Claude Mythos telah terbukti sangat cekatan dalam mengekspos kelemahan perangkat lunak.
Mythos telah menyingkap ribuan kerentanan dalam aplikasi yang umum digunakan tanpa adanya patch atau perbaikan, sehingga memicu startup AI berbasis San Francisco ini untuk membentuk aliansi dengan para spesialis keamanan cyber guna memperkuat pertahanan terhadap peretasan dan menahan distribusi yang luas.
“Kami memiliki model baru yang secara eksplisit tidak kami rilis ke publik,” kata Mike Krieger dari Anthropic Labs dalam konferensi HumanX AI di San Francisco.
Sebagai gantinya, Anthropic membiarkan para spesialis keamanan siber dan insinyur dalam komunitas open-source bekerja dengan Mythos untuk menggunakan model tersebut sebagai senjata pertahanan “sejenis mempersenjatai mereka sebelum waktunya,” jelas Krieger.
Melonjaknya kemampuan model AI telah menimbulkan kekhawatiran tentang peretas menggunakan alat-alat tersebut untuk mencari tahu kata sandi atau meretas enkripsi yang dimaksudkan untuk menjaga data tetap aman.
Kerentanan tertua yang ditemukan oleh Mythos berasal dari 27 tahun yang lalu, dan sepertinya tidak diperhatikan oleh pembuatnya sebelum diidentifikasi oleh model AI tersebut, menurut Anthropic.
Mythos adalah generasi terbaru dari keluarga AI Claude milik Anthropic, dan kebocoran baru-baru ini dari sebagian kode-kodenya mendorong startup ini untuk merilis sebuah pos blog yang memperingatkan bahwa model ini menimbulkan risiko keamanan cyber yang belum pernah terjadi sebelumnya.
“Model-model AI telah mencapai tingkat kemampuan pengkodean di mana mereka dapat melampaui hampir semua kecuali manusia yang paling terampil dalam menemukan dan memanfaatkan kerentanan perangkat lunak,” kata Anthropic dalam posting blog. “Dampaknya – bagi ekonomi, keamanan publik, dan keamanan nasional – bisa sangat serius.”
Kerentanan perangkat lunak yang diungkap oleh Mythos seringkali halus dan sulit dideteksi tanpa bantuan AI, menurut Anthropic. Sebagai contoh, ia mengatakan Mythos menemukan kelemahan sebelumnya yang tidak diperhatikan dalam perangkat lunak video yang telah diuji lebih dari 5 juta kali oleh para penciptanya.
Sebagai tindakan pencegahan, Anthropic telah berbagi versi Mythos dengan perusahaan keamanan siber CrowdStrike dan Palo Alto Networks, serta dengan Amazon, Apple, dan Microsoft, dalam proyek yang diberi nama “Glasswing”.
Gigantisme jaringan Cisco dan Broadcom turut ambil bagian dalam proyek ini, bersama dengan Linux Foundation, yang mempromosikan sistem operasi komputer Linux sumber terbuka.
“Pekerjaan ini terlalu penting dan terlalu mendesak untuk dilakukan sendiri,” kata Anthony Grieco, chief security and trust officer Cisco, dalam sebuah rilis bersama tentang Glasswing. “Kemampuan AI telah melintasi ambang yang pada dasarnya mengubah kebutuhan mendesak untuk melindungi infrastruktur kritis dari ancaman siber, dan tidak ada jalan kembali.”
Sekitar 40 organisasi yang terlibat dalam desain, pemeliharaan, atau pengoperasian sistem komputer disebut telah bergabung dengan Glasswing. Mitra proyek akan berbagi temuan Mythos mereka, menurut Anthropic, yang menyediakan sekitar $100 juta dalam sumber daya komputasi untuk misi ini. Pekerjaan awal dengan model AI telah menunjukkan bahwa mereka dapat membantu menemukan dan memperbaiki kerentanan perangkat lunak dan keras dengan kecepatan dan skala yang sebelumnya tidak mungkin, menurut Grieco.
“Jendela antara kerentanan yang ditemukan dan dimanfaatkan oleh lawan telah runtuh – yang dulunya butuh bulan sekarang terjadi dalam hitungan menit dengan AI,” kata chief technology officer Crowdstrike, Elia Zaitsev.
“Claude Mythos Preview menunjukkan apa yang kini mungkin bagi para pembela dalam skala besar, dan lawan pasti akan mencoba memanfaatkan kemampuan yang sama,” tambahnya.
Anthropic mengatakan telah berdiskusi dengan pemerintah AS mengenai Mythos meskipun ada dekrit dari Gedung Putih pada Februari untuk menghentikan semua kontrak dengan startup tersebut. Arahan tersebut ditangguhkan oleh seorang hakim pengadilan federal sementara tantangan hukum oleh Anthropic sedang berlangsung.
