Ribuan penumpang kereta komuter di Inggris yang emosi dan demografinya direkam oleh sistem kamera AI (Artificial Intelligence) tersembunyi di stasiun-stasiun besar, sebuah laporan baru mengungkapkan. Berita tersebut, yang menimbulkan kekhawatiran privasi yang serius, muncul setelah permintaan kebebasan informasi oleh Big Brother Watch.
Selama lebih dari dua tahun, Network Rail, perusahaan yang mengawasi infrastruktur kereta api Inggris, melakukan program uji coba rahasia di stasiun-stasiun utama seperti Waterloo dan Euston di London, Manchester Piccadilly, dan lainnya di seluruh negeri.
Kamera dengan teknologi kecerdasan buatan yang ditempatkan secara strategis di penghalang tiket, menangkap wajah penumpang dan memasukkannya ke dalam layanan Amazon’s Rekognition, sebuah alat AI canggih yang menganalisis gambar untuk menentukan emosi seperti kebahagiaan, kesedihan, dan kemarahan. Selain itu, sistem memperkirakan usia dan jenis kelamin penumpang.
Network Rail membela program tersebut, mengklaim bahwa program tersebut bertujuan untuk meningkatkan kepuasan pelanggan dan berpotensi menghasilkan pendapatan iklan tambahan dengan memahami demografi penumpang dan keadaan emosional. Namun, para pendukung privasi mengecam keras kurangnya transparansi seputar persidangan tersebut dan meragukan keakuratan dan kegunaan teknologi pendeteksi emosi, khususnya dalam lingkungan yang dinamis.
Big Brother Watch telah menyatakan keprihatinannya yang mendalam. “Sangat mengkhawatirkan bahwa badan publik seperti Network Rail akan melakukan uji coba pengawasan AI buatan Amazon dalam skala besar tanpa memberi tahu publik,” kata Jake Hurfurt, kepala penelitian dan investigasi kelompok tersebut. “Menggabungkan teknologi keselamatan dengan alat-alat yang memiliki manfaat ilmiah yang dipertanyakan dan menyarankan agar data tersebut digunakan untuk periklanan adalah perkembangan yang mengkhawatirkan.” Big Brother Watch telah mengajukan keluhan ke Kantor Komisaris Informasi (ICO), pengawas privasi data Inggris.
Para ahli di bidang teknologi dan hukum pun menyuarakan keprihatinannya. Profesor Lilian Edwards dari Universitas Newcastle menyebut aspek pengenalan emosi dalam program ini “tidak etis dan mungkin ilegal,” menyoroti sifat teknologi yang belum terbukti dan kurangnya transparansi.
Profesor Sandra Wachter dari Universitas Oxford menambahkan kritik tersebut, dengan menekankan potensi bias teknologi berdasarkan gender dan etnis, serta ketidakandalan yang melekat pada teknologi tersebut. “AI tidak bisa membaca emosi secara akurat,” tegasnya. “Pengawasan seperti ini tidak hanya melanggar privasi tetapi juga menormalkan asumsi bahwa setiap orang berpotensi menjadi penjahat, dan hal ini tidak benar.”
Network Rail membela tindakannya dengan menekankan komitmennya terhadap keamanan. Mereka menyatakan bahwa mereka memanfaatkan berbagai teknologi canggih untuk melindungi penumpang, staf, dan infrastruktur kereta api dari kejahatan dan ancaman lainnya. Perusahaan juga mengklaim bahwa mereka mematuhi undang-undang perlindungan data dan berkolaborasi dengan lembaga penegak hukum untuk memastikan metode mereka proporsional dan legal.
Stasiun dan Kereta Api Bisa Jadi Pilihan Untuk Upacara dan Resepsi Pernikahan
