Bank-bank Inggris akan diberikan akses dalam satu minggu mendatang ke alat kecerdasan buatan yang dianggap terlalu berbahaya untuk dilepas ke publik, ketika sejumlah tokoh keuangan senior memperingatkan dampaknya.
Anthropic, yang sejauh ini membatasi peluncuran model baru tersebut hanya kepada sekelompok kecil bisnis utama di AS, termasuk Amazon, Apple, dan Microsoft, mengatakan akan memperluasnya ke lembaga keuangan di Inggris.
“Dalam waktu yang sangat dekat, dalam satu minggu mendatang,” kata Pip White, kepala operasi Anthropic untuk Inggris, Irlandia, dan Eropa utara, dalam wawancara dengan Bloomberg TV. “Seperti yang Anda harapkan, keterlibatan yang saya miliki dari CEO-CEO Inggris dalam seminggu terakhir sangat signifikan.”
Anthropic, yang merupakan perusahaan di balik keluarga alat kecerdasan buatan Claude, mengatakan bahwa model terbarunya, Mythos, membawa risiko yang belum pernah terjadi sebelumnya karena kemampuannya untuk mengekspos kelemahan dalam sistem IT.
“Model kecerdasan buatan telah mencapai tingkat kemampuan pemrograman di mana mereka dapat melampaui hampir semua manusia terampil dalam menemukan dan mengeksploitasi kerentanan perangkat lunak,” kata Anthropic dalam sebuah blog bulan ini. “Dampaknya – terhadap ekonomi, keselamatan publik, dan keamanan nasional – bisa sangat parah.”
Menteri keuangan, eksekutif, dan regulator telah membahas ancaman potensial ketika mereka berkumpul di Washington minggu ini untuk pertemuan musim semi IMF dan Bank Dunia, sambil juga menangani kekhawatiran tentang dampak global yang meluas dari perang AS-Israel dengan Iran.
Menteri keuangan Kanada, François-Philippe Champagne, mengatakan kepada BBC: “Tentu saja ini cukup serius untuk mendapatkan perhatian semua menteri keuangan. Perbedaannya dengan Selat Hormuz adalah bahwa kita tahu di mana itu berada dan kita tahu seberapa luas itu.”
“Masalah yang kita hadapi dengan Anthropic adalah bahwa itu adalah ketidakpastian yang tidak diketahui. Ini memerlukan banyak perhatian sehingga kita memiliki perlindungan, dan kita memiliki proses yang ditempatkan untuk memastikan ketahanan sistem keuangan kita.”
Andrew Bailey, gubernur Bank of England yang juga mengepalai Dewan Stabilitas Keuangan regulator global, mengatakan: “Ini adalah tantangan yang sangat serius bagi kita semua. Ini mengingatkan kita betapa cepatnya dunia kecerdasan buatan bergerak.”
Namun, katanya, regulator harus mempertimbangkan apakah, dan seberapa keras, untuk menekan teknologi tersebut, karena pemerintah berusaha meraup manfaat ekonomi kecerdasan buatan. “Kapan saat yang optimal untuk merumuskan aturan main?” tanya Bailey. “Jika Anda terlambat maka risiko ketinggalan target dan risiko distorsi evolusi, dan jika Anda terlalu cepat segala sesuatunya bisa menjadi sulit dikontrol.”
Presiden Bank Sentral Eropa, Christine Lagarde, mengatakan: “Pengembangan yang kita lihat dengan Anthropic dan Mythos adalah contoh bagus dari sebuah perusahaan yang bertanggung jawab yang tiba-tiba berpikir: ‘Ah, itu bisa sangat bagus’ – tetapi jika jatuh ke tangan yang salah, itu bisa menjadi sangat buruk.”
“Semua orang ingin memiliki kerangka kerja di dalamnya untuk beroperasi,” kata Lagarde kepada Bloomberg TV. Tetapi dia menambahkan: “Saya tidak berpikir ada kerangka tata kelola yang ada untuk benar-benar memperhatikan hal-hal itu. Kita perlu bekerja pada hal tersebut.”
Sekretaris keuangan AS, Scott Bessent, memanggil bos bank AS ke Washington minggu lalu untuk mendiskusikan model Mythos. Pertemuan itu difokuskan pada bank-bank penting secara sistematis – di mana regulator percaya bahwa gangguan besar terhadap operasi mereka, atau potensi kejatuhan mereka, akan mengancam stabilitas keuangan.
Regulator Inggris dijadwalkan akan mengangkat isu risiko Mythos dengan para bos bank dan pejabat pemerintah dalam beberapa minggu mendatang.
Dan Katz, wakil kepala IMF dan mantan kepala staf Bessent, mengatakan: “Evolusi teknologi digital menimbulkan risiko besar dari perspektif keamanan dunia maya ¦ ini akan benar-benar penting dalam agenda internasional selama beberapa bulan mendatang.”
