Nama sistem pengenalan muka Amazon nama-nama berpuluh-puluh ahli undang-undang California sebagai penjenayah - BGR

Teknologi pengiktirafan wajah telah menjadi jauh dalam beberapa tahun kebelakangan ini dan hari ini ramai pengguna telefon pintar bergantung pada ciri muka kunci untuk melindungi peranti mereka. Perisian pengimbasan wajah Amazon, dikenali sebagai Pengiktirafan, tidak membuka kunci telefon anda, tetapi kini digunakan oleh penguatkuasa undang-undang untuk mengenal pasti penjenayah menggunakan gambar ID mereka.

Tahun lepas, ACLU menggunakan perisian Pengiktirafan [ pada gambar anggota Kongres dan mendapati bahawa perisian telah mengenal pasti 28 di antara mereka sebagai penjenayah yang dikenali. Positif palsu ini menunjukkan kelemahan serius dalam perisian Amazon dan menonjolkan kecenderungan perkauman dalam program ini, dengan tidak sengaja menandakan orang warna. Sekarang, setahun kemudian, ACLU mengulangi ujiannya ... dan nampaknya hampir tidak ada yang berubah.

Semasa ujian terakhir, perisian Pengiktirafan telah digunakan pada gambar pembuat undang-undang 120 California. dia sekali lagi menghasilkan berpuluh-puluh pertandingan palsu dengan penjenayah yang diketahui. Dalam pangkalan data jenayah, orang 26 dikenal pasti sebagai gambar identiti, yang sepadan dengan kira-kira satu daripada lima pekerja yang tertakluk kepada sistem tersebut.

Ujian ini bertujuan untuk menonjolkan keburukan menggunakan teknologi yang tidak tepat untuk mengenal pasti potensi risiko. penjenayah. Pasukan polis yang boleh menggunakan perisian untuk mengenali dengan cepat orang yang mempunyai rekod jenayah mungkin salah menafikan atau tersilap percaya bahawa mereka sedang dicari dengan nama lain.

"Perisian itu jelas tidak sedia untuk digunakan oleh pihak polis. Phil Ting, seorang anggota Dewan Perhimpunan California yang merupakan salah seorang penggubal undang-undang yang dituduh sebagai penjenayah, memberitahu LA Times . "Kesalahan ini, kita boleh ketawa sedikit, tetapi jika anda ditangkap dan di dalam loker anda, sukar untuk mencari perumahan, kerja. Ia mempunyai kesan yang nyata. "

Amazon, untuk pihaknya, mendakwa bahawa "penyalahgunaan" ACLU perisian, yang boleh disesuaikan untuk hanya memulangkan hasilnya apabila selamat pada 99% perlawanan. Syarikat itu mencadangkan pernyataan berikut kepada Gizmodo :

ACLU sekali lagi dengan sadar dan kasar menggunakan Pengiktirafan Amazon untuk membuat tajuk utama. Seperti yang telah kita katakan berkali-kali pada masa lalu, apabila digunakan dengan ambang keyakinan 99% yang disyorkan dan sebagai sebahagian daripada keputusan manusia, teknologi pengenalan wajah dapat digunakan untuk jangka masa yang panjang. senarai objektif berguna, seperti pengenalan. penjenayah untuk membantu mencari kanak-kanak hilang untuk memerangi pengedaran manusia. Kami terus menyokong undang-undang persekutuan mengenai teknologi pengenalan wajah untuk memastikan penggunaan yang bertanggungjawab, dan kami telah berkongsi cadangan spesifik kami dalam hal ini, baik secara peribadi dengan pembuat dasar dan di blog kami.

Ia hebat dan segala-galanya, tetapi jika perisian itu direka untuk digunakan dengan konfigurasi khusus yang ada, kenapa ia mungkin mengubahnya dan apakah kemungkinan semua agensi penguatkuasaan undang-undang akan gunakan juga ikut cadangan ini?

Sumber Imej: Markus Redmann / imageBROKER / REX / Shutterstock

Artikel ini muncul dahulu (dalam bahasa Inggeris) BGR