Anggota parlemen telah memperingatkan bahwa keputusan NHS untuk memberikan akses kepada Palantir untuk informasi pasien yang dapat diidentifikasi dalam rencananya untuk menggunakan kecerdasan buatan untuk meningkatkan layanan kesehatan dianggap “berbahaya” dan akan meningkatkan kekhawatiran masyarakat bahwa privasi data tidak diutamakan.
NHS Inggris telah memperbolehkan staf dari perusahaan teknologi AS dan kontraktor lainnya untuk mengakses data pasien sebelum data tersebut dipseudonimkan, meskipun ada kekhawatiran internal tentang “risiko kehilangan kepercayaan publik”, dilaporkan oleh Financial Times.
Pelayanan kesehatan melakukan langkah untuk memperbolehkan Palantir mengakses data dalam beberapa minggu terakhir sesuai dengan laporan, yang mengungkapkan sebuah briefing internal NHS yang mengatakan bahwa ini akan memperbolehkan “akses tanpa batas bagi staf non-NHSE” ke bagian dari platform data federasi NHS (FDP), yang menyimpan informasi pasien yang dapat diidentifikasi.
Palantir, yang juga mendukung penindakan imigrasi ICE Donald Trump dan militer Israel, AS, dan Inggris, diberikan kontrak senilai £330 juta untuk membantu membangun FDP, menginstal sistem kecerdasan buatan untuk mengintegrasikan dataset kesehatan yang tersebar dan meningkatkan efisiensi dalam pengobatan medis. Namun, kesepakatan ini telah dikritik oleh beberapa pihak yang mengkhawatirkan keamanan rekam medis pasien.
Asosiasi Pasien mengatakan khawatir pasien tidak dikonsultasikan tentang perubahan signifikan terkait siapa yang memiliki akses tanpa batas ke data pasien. Rachel Power, kepala eksekutifnya, mengatakan pasien menginginkan “transparansi, batasan yang jelas terkait akses ke data mereka, dan dikonsultasikan ketika perubahan terhadap perjanjian-perjanjian itu diajukan”.
Briefing terbocor dari NHS Inggris mengakui “minat masyarakat yang besar dan kekhawatiran tentang seberapa besar akses staf Palantir/Palantir ke data pasien”. Pada 2023, tak lama setelah kesepakatan itu disepakati, NHS Inggris mengatakan akan memastikan “data pribadi tetap terlindungi dan berada dalam NHS sepanjang waktu”.
NHS Inggris menekankan konsultan eksternal yang memerlukan akses data harus memiliki izin keamanan pemerintah dan bahwa mereka memiliki “kebijakan yang ketat dalam mengelola akses ke data pasien”. Dengan ratusan set data berbeda dalam sistem FDP, menjadi memakan waktu bagi kontraktor, termasuk insinyur Palantir, untuk mengajukan izin secara individu. Kasus-kasus ketika mereka melihat data pasien yang dapat diidentifikasi saat bekerja pada “jalur pipa” sistem, dicatat. Mereka tidak memiliki izin untuk menghapus data dari NHS, kata Palantir.
Namun, MP Rachael Maskell, seorang mantan pekerja NHS yang menyerukan agar proyek Palantir dihentikan, mengatakan: “Saat Palantir semakin mendalami cakar mereka ke data NHS kami, kita bisa melihat bagaimana hal ini membuka peluang kepada kepentingan swasta yang lebih besar. Ini adalah perkembangan yang berbahaya dan saya meminta pemerintah untuk mengontrol proyek ini sebelum terlambat.”
Palantir mengatakan bahwa mereka adalah “pengolah data” bukan “pengontrol data”, artinya perangkat lunak mereka hanya dapat digunakan untuk memproses data sesuai dengan instruksi pelanggan. “Menggunakan data untuk hal lain tidak hanya ilegal tetapi juga secara teknis tidak mungkin karena kontrol akses granular yang diawasi oleh NHS,” kata mereka.
Martin Wrigley, anggota Partai Demokrat Liberal dari komite seleksi teknologi Dewan Umum, mengatakan tentang langkah NHS: “Sikap agak sembrono terhadap keamanan data ini menunjukkan bagaimana proyek ini tidak memiliki keamanan oleh desain di hatinya. Publik dengan wajar akan khawatir bahwa privasi data bukan prioritas pertama.”
Palantir menghadapi penolakan terhadap peran yang semakin melebarkan di sektor publik Inggris. Bulan lalu, Guardian mengungkap bahwa perusahaan tersebut mendekati kesepakatan untuk melebarkan kerja sama dengan polisi Metropolitan untuk menggunakan kecerdasan buatan untuk menganalisis intelijen dalam penyelidikan pidana, sementara ratusan ribu warga dan sejumlah anggota parlemen belakang menentang peran mereka.
Jajak pendapat pekan lalu menunjukkan bahwa lebih dari dua pertiga masyarakat Inggris khawatir pada jumlah kontrak publik Palantir yang semakin bertambah dan 40% tidak percaya mereka tidak akan mengakses data pasien NHS, meskipun perusahaan tersebut berulang kali mengatakan bahwa mereka tidak bisa dan tidak akan melakukannya.
Tom Hegarty, kepala komunikasi di Foxglove, kelompok kampanye kesetaraan teknologi, mengatakan: “Pasien NHS tidak pernah memberikan persetujuan untuk memiliki data mereka diakses oleh perusahaan seperti Palantir yang rekam jejaknya adalah menargetkan orang daripada merawat mereka… Sekali lagi: Palantir gagal dalam uji kepercayaan. Pemerintah harus memutuskan hubungan dengan Palantir dari NHS kita sekali dan untuk semua.”
NHS Inggris mengatakan akses akan diberikan kepada sejumlah kecil orang yang bekerja pada platform pengumpulan data baru tersebut.
Jurulatih mengatakan: “NHS memiliki kebijakan yang ketat dalam mengelola akses ke data pasien dan melakukan audit secara teratur untuk memastikan kepatuhan, termasuk memantau pekerjaan insinyur-insinyur yang membantu mengatur platform pengumpulan data pusat yang akan melacak kinerja NHS dan membantu meningkatkan perawatan untuk pasien.
“Siapa pun eksternal yang memerlukan akses harus memiliki izin keamanan pemerintah dan disetujui oleh anggota staf NHS Inggris tingkat direktur atau di atasnya.”
