Otoritas Transportasi Metropolitan Kota New York telah mengakui menggunakan kamera yang dilengkapi dengan perangkat lunak AI untuk memindai pengendara yang diyakini telah melompati pintu putar kereta bawah tanah tanpa membayar ongkos. MTA, yang mengatakan mengumpulkan pindaian “sebagai alat penghitungan” berencana untuk memperluas sistem ke lebih dari dua lusin stasiun lagi pada akhir tahun.
Inspirasi Di Balik Kerinduan Yang Abadi | Wawancara io9
Seorang pejabat MTA yang berbicara dengan Gizmodo mengatakan bahwa alat tersebut hanya ditujukan untuk “tujuan penelitian” tetapi kelompok kebebasan sipil khawatir pemantauan pengendara transit yang sebelumnya tidak diketahui dapat menimbulkan risiko privasi jangka panjang dan mengalihkan sumber daya yang tidak perlu dan fokus dari mengeksplorasi cara untuk membuat angkutan massal lebih terjangkau dan mudah diakses. Juru Bicara MTA Joana Flores mengambil masalah dengan penggunaan kata pelacakan dan pemindaian untuk menggambarkan sistem.
“MTA menggunakan alat ini untuk menghitung jumlah penghindaran tarif tanpa mengidentifikasi penghindar tarif,” kata Flores.
MTA mengungkapkan bahwa mereka menyebarkan sistem AI yang dibuat oleh perusahaan perangkat lunak Spanyol AWAAIT di tujuh stasiun dalam laporan Mei yang pertama kali ditemukan oleh NBC News. Sistem ini melacak pengendara transit yang diduga menggunakan berbagai metode untuk menghindari membayar tarif yang semakin mahal. Selama periode pengujian, misalnya, sistem dilaporkan menetapkan bahwa 12% pengelak tarif merunduk di bawah pintu putar sementara 20% melompati mereka. Sebagian besar kasus (lebih dari 50%) melibatkan penumpang yang berjalan melalui pintu keluar darurat yang terbuka. Agaknya, titik data terakhir itu berarti pengendara biasa yang hanya mengikuti orang lain melalui pintu terbuka mungkin akan terdeteksi oleh sistem ini.
Pejabat mengatakan mereka berencana untuk memperluas perangkat lunak pemindaian ke sekitar dua lusin stasiun lagi pada akhir tahun dengan lebih banyak lagi yang akan menyusul setelah itu. Kontrak MTA yang telah dihapus dikirim ke NBC News oleh Proyek Pengawasan Teknologi Pengawasan menunjukkan MTA bereksperimen dengan sistem ini paling cepat Juli 2022. Tidak jelas apakah fitur tersebut dapat mendeteksi wajah pengendara atau tidak.
AWAAIT, perusahaan AI yang berbasis di Barcelona yang menyediakan perangkat lunak untuk MTA menawarkan produk yang disebut DETECTOR yang digambarkannya sebagai “sistem analitik waktu nyata yang membantu mengatasi penggelapan tarif menggunakan pendekatan selektif.” Satu kamera yang dipasang di atas penghalang tiket dapat memantau beberapa gerbang sekaligus dengan akurasi yang “kuat”, klaim perusahaan. Setelah penumpang yang melanggar diidentifikasi, pemeriksa tiket kemudian dapat menerima peringatan di aplikasi. Perusahaan mengklaim sistemnya sekarang beroperasi di tiga kota besar.
AWAAIT tidak menanggapi permintaan Gizmodo untuk memberikan komentar yang mencari detail tentang keakuratan sistemnya atau apakah sistem tersebut dapat digunakan untuk mendeteksi wajah atau tidak. Sebaliknya, pendiri dan CEO perusahaan Xavier Arrufat mengirim email yang mengatakan bahwa perusahaan menghormati privasi penggunanya.
“Kami menghormati privasi pelanggan kami, jadi kami hanya mengomentari informasi yang telah mereka ungkapkan kepada publik terkait penggunaannya,” kata Arrufat.
AWAAIT merilis video YouTube yang menampilkan DETECTOR beroperasi di kereta bawah tanah Barcelona.
Kontrol selektif untuk memberantas penipuan di akses metro (video diproduksi oleh FGC)
MTA mengatakan tidak akan membagikan data dengan polisi, tetapi kelompok hak asasi manusia tidak yakin
MTA telah membenarkan pemindaian tersebut sebagai cara untuk mencoba dan mengatasi sekitar $690 juta yang hilang akibat penggelapan tarif pada tahun 2022. Dalam laporannya, pejabat MTA mengklaim bahwa akan “membatasi biaya” jika pemeriksa manusia melakukan pemeriksaan keras terhadap penggelapan di stasiun. MTA tidak menanggapi permintaan komentar Gizmodo tentang mengapa pemindaian wajah diperlukan khususnya untuk mengukur tarif dodgers secara akurat.
Seorang pejabat MTA mengatakan kepada NBC News bahwa saat ini tidak membagikan data yang dikumpulkannya dengan polisi New York tetapi tidak akan berkomentar apakah praktik itu akan terus berlanjut. Seorang pejabat MTA memberi tahu Gizmodo bahwa itu hanya menyimpan data yang dikumpulkan dari sistem ini untuk waktu yang terbatas, tetapi tidak dapat memberikan rincian lebih lanjut ketika ditanya tentang jangka waktu yang tepat.
Kelompok kebebasan sipil menyatakan skeptis tentang dugaan komitmen MTA untuk menyembunyikan jenis data sensitif ini dari penegakan hukum.
“Di kota di mana penegakan hukum memiliki sejarah menghindari pengawasan penggunaan teknologinya, sulit dipercaya bahwa mereka tidak memiliki rencana untuk menggunakan ini untuk memperluas kepolisian,” Caitlin Seeley George dari Fight for The Future memberi tahu Gizmodo. “Dan sementara mereka mungkin mengklaim itu hanya untuk melacak penghindar ongkos, itu memiliki potensi untuk memperluas pengawasan terhadap semua orang yang bepergian di kota.”
Direktur Eksekutif STOP Albert Fox Cahn setuju, menambahkan bahwa pendekatan pengawasan ini mengabaikan penyebab yang mendasari penghindaran yang jarang terjadi: kemiskinan dan biaya ongkos yang terus meningkat.
“AI ini hanya akan menjadi dalih bagi kantor polisi dengan lebih agresif,” kata Fox Cahn dalam sebuah pernyataan. “Tapi tidak peduli berapa banyak pengawasan yang kami pasang, kami tidak dapat membuat orang membayar kereta jika mereka tidak mampu membelinya. Dan ini menimbulkan kekhawatiran nyata tentang bagaimana MTA melacak warga New York dan di mana data itu disimpan.”
New York telah memperjelas bahwa mereka bermaksud untuk meningkatkan kemampuan pengawasan di seluruh angkutan umum atas nama keselamatan publik. Akhir tahun lalu, Gubernur Kathy Hochul mengadakan konferensi pers di mana dia mengatakan dia berharap memasang kamera pengintai di setiap gerbong kereta bawah tanah. Hochul melangkah lebih jauh dan bahkan memanggil Geoge Orwell untuk mengatakan bagian diam dengan lantang.
“Kamu pikir Big Brother mengawasimu di kereta bawah tanah? Anda benar sekali, ”kata Hochul.
”Jika Anda mengkhawatirkan hal ini, jawaban terbaiknya adalah jangan melakukan kejahatan apa pun di kereta bawah tanah—maka Anda tidak akan mendapat masalah,” tambah Gubernur.
Perbarui 16:55 EST Menambahkan pernyataan dari MTA dan AWAAIT.