CEO OpenAI Sam Altman telah meminta maaf kepada kota Kanada Tumbler Ridge menyusul insiden penembakan massal pada bulan Februari yang menewaskan delapan orang.
Altman mengatakan dia “merasa sangat menyesal” perusahaan tidak memberi tahu polisi tentang akun ChatGPT yang meresahkan milik penembak.
Perdana Menteri Britich Colombia David Eby menyebut permintaan maaf itu “diperlukan, namun sangat tidak memadai.”
Bagaimana OpenAI gagal bertindak?
Seorang wanita transgender berusia 18 tahun membunuh ibunya dan saudara tirinya di rumah pada 10 Februari, sebelum pergi ke sekolah menengah setempat dan membuka tembakan. Dia membunuh lima anak-anak dan seorang guru, lalu mengakhiri hidupnya sendiri.
Setelah serangan itu, OpenAI mengatakan telah mengidentifikasi akun tersangka melalui sistem deteksi penyalahgunaan dan melarangnya pada bulan Juni, delapan bulan sebelum penembakan.
Pengembang ChatGPT mengatakan tidak melaporkan akun tersebut kepada polisi Kanada pada saat itu, karena aktivitas itu tidak memenuhi ambang batas untuk dirujuk ke penegakan hukum.
“Saya sangat menyesal bahwa kami tidak memberi tahu penegakan hukum tentang akun yang dilarang pada bulan Juni,” kata Altman. “Meskipun saya tahu kata-kata tidak pernah cukup, saya percaya permintaan maaf diperlukan untuk mengakui bahaya dan kerugian tak terbalik yang dialami komunitas Anda.”
Bagaimana ChatGPT melaporkan dugaan kekerasan?
OpenAI mengatakan menggunakan sistem moderasi otomatis yang memindai konten secara real time. Akun dapat dibatasi atau dilarang karena melanggar aturan. Pelanggaran termasuk eksploitasi seksual, dukungan terhadap melukai diri sendiri dan bunuh diri, serta promosi kekerasan dan bahaya.
Secara serius, sistem dirancang untuk menandai perilaku berisiko tinggi untuk ditinjau secara manual. Jika ancaman yang kredibel diidentifikasi, perusahaan dapat membagikan data akun yang relevan dengan penegak hukum.
Setelah serangan, pejabat Kanada memanggil tim keamanan OpenAI dan memperingatkan tindakan regulasi jika tidak ada perubahan. Perusahaan mengatakan akan memperketat langkah-langkah keamanan dan telah membuat saluran kontak langsung dengan polisi.
Dalam suratnya, Altman mengatakan perusahaan berkomitmen untuk menemukan cara mencegah tragedi serupa. “Ke depan, fokus kami akan terus bekerja dengan semua tingkatan pemerintah untuk membantu memastikan sesuatu seperti ini tidak pernah terjadi lagi,” katanya.
Keluarga seorang gadis yang terluka parah dalam penembakan telah mengajukan gugatan kelalaian terhadap raksasa teknologi AS.
