Polis dan pasukan keselamatan di seluruh dunia sedang menguji sistem pengenalan muka automatik untuk menggunakannya sebagai alat untuk mengenal pasti penjenayah dan pengganas. Tetapi betapa tepatnya teknologi ini dan betapa mudahnya dan kecerdasan buatan (AI), yang berdasarkannya berfungsi, menjadi alat penindasan dan penindasan?
Ciri sistem
Bayangkan seorang pengganas yang disyaki dihantar ke misi bunuh diri ke pusat bandar yang padat penduduknya. Jika dia menjatuhkan bom, beratus-ratus orang mungkin mati atau cedera parah. Prosedur untuk mengimbas wajah dalam orang ramai menggunakan pengawasan video membolehkan anda mengenal pasti penyerang dan secara automatik membandingkan ciri-cirinya dengan gambar-gambar dalam pangkalan data pengganas terkenal atau "orang yang menarik" kepada perkhidmatan keselamatan.
Dalam kes kebetulan, sistem menimbulkan penggera, dan pasukan anti-pengganas tindak balas cepat dihantar ke tempat di mana mereka "meneutralkan" suspek sebelum dia dapat mengaktifkan bahan letupan. Beratus-ratus nyawa diselamatkan terima kasih kepada teknologi moden.
Masalah yang mungkin berlaku di tempat kerja
Tetapi bagaimana jika teknologi pengiktirafan muka (FR) tidak berfungsi dengan betul? Dan ternyata bukan pengganas, tetapi orang biasa yang hanya malang dan dia berubah menjadi penyerang. Kehidupan yang tidak bersalah mungkin telah musnah semata-mata kerana pakar juga percaya pada sistem yang salah. Tetapi bagaimana jika anda menjadi orang seperti itu?
Ini hanyalah salah satu dilema etika yang menghadapi sistem pengenalan muka dan kecerdasan buatan. Sungguh sukar untuk melatih mesin untuk "melihat", mengenali dan membezakan objek dan muka. Menggunakan penglihatan komputer, seperti yang kadang-kadang dipanggil, tidak lama dahulu, penyelidik cuba menentukan perbezaan antara roti dengan kismis dan chihuahua, yang menjadi sejenis ujian litmus untuk menentukan keberkesanan teknologi ini.
Kesulitan pengenalan muka
Ahli sains komputer, Joy Buolamvini, yang mewakili makmal di Massachusetts Institute of Technology (dan pada masa yang sama pengasas Liga Keadilan Algoritma), dan Timnit Gebru, pengarah teknikal teknikal pasukan Google mengenai isu-isu etika yang berkaitan dengan kecerdasan buatan, menunjukkan bahawa sistem pengenalan muka adalah sukar membezakan antara lelaki dan wanita jika kulit mereka cukup gelap. Sistem ini sering menyerang wanita dengan kulit gelap untuk lelaki.
"Kira-kira 130 juta orang dewasa Amerika sudah ada pangkalan data pengenalan wajah," kata Dr. Gebru pada bulan Mei di AI for Good Summit di Geneva. "Tetapi set data asal mengandungi sebahagian besar wakil bangsa putih, di antaranya ada banyak lelaki." Oleh itu, apabila mengenali orang dengan jenis kulit yang lebih gelap, masih terdapat peratusan besar kesilapan disebabkan oleh jenis kulit dan jantina.
Penggunaan teknologi
Bandar San Francisco, California baru-baru ini mengharamkan penggunaan pengiktirafan muka oleh agensi pengangkutan dan penguatkuasaan undang-undang sebagai pengiktirafan ketidaksempurnaan dan ancaman terhadap kebebasan sivil. Tetapi bandar-bandar lain di Amerika Syarikat dan negara-negara lain di dunia terus mengalami teknologi ini.
Di United Kingdom, misalnya, pasukan polis di South Wales, London, Manchester dan Leicester sedang menguji teknologi ini, yang menakutkan organisasi kebebasan awam seperti Liberty dan Big Brother Watch, yang prihatin terhadap bilangan perlawanan palsu yang berlaku semasa operasi sistem.
Kesalahan dan Ketakutan
Dalam amalan, ini bermakna bahawa orang yang tidak bersalah tersilap disebut penjenayah berpotensi. Menurut Dr Gebru, masalah semacam itu pasti akan menimbulkan kebimbangan bagi semua orang, penggunaan langkah-langkah pencegahan dan ramalan tersebut melibatkan kadar yang tinggi.
Memandangkan orang kulit hitam Amerika membentuk 37.5% daripada semua penghuni penjara di Amerika Syarikat (mengikut Biro Penjara Persekutuan), walaupun mereka hanya terdiri daripada 13% penduduk Amerika Syarikat, algoritma yang ditulis secara tidak baik menggunakan dataset yang ada sekarang boleh meramalkan bahawa orang kulit hitam lebih cenderung untuk melakukan jenayah. Anda tidak perlu menjadi seorang jenius untuk memahami apa yang dimaksudkan dengan polisi dan polis sosial.
Baru-baru ini, saintis dari Universiti Essex telah sampai pada kesimpulan bahawa kebetulan yang digunakan dalam percubaan di polis London adalah 80% salah, yang berpotensi membawa kepada pelanggaran keadilan yang serius dan pelanggaran hak rakyat untuk privasi.
Seorang warga Britain, Ed Bridges, memulakan tuntutan undang-undang menggunakan teknologi pengenalan wajah oleh polis South Wales selepas gambarnya diambil semasa dia membeli-belah, dan Pesuruhjaya British untuk Maklumat Elizabeth Denham menyatakan kebimbangan mengenai kekurangan rangka kerja undang-undang yang mengawal penggunaan teknologi pengiktirafan.
Tetapi ketakutan sedemikian tidak menghalang gergasi teknologi Amazon daripada menjual alat Pengiktirafan FRnya kepada pasukan polis A.S., walaupun rusuhan ragu-ragu oleh para pemegang saham yang masih tidak membawa apa-apa.
Prospek
Amazon mengatakan ia tidak bertanggungjawab untuk bagaimana pelanggan menggunakan teknologinya. Tetapi bandingkan hubungan ini dengan Salesforce, sebuah teknologi untuk pengurusan perhubungan pelanggan, yang telah membangunkan alat pengenalan imejnya sendiri yang dinamakan Einstein Vision.
"Teknologi pengenalan wajah mungkin sesuai di dalam penjara untuk menjejaki banduan atau mencegah keganasan geng," kata BBC Salesforce, pakar kecerdasan buatan etika di BBC. Tetapi apabila pihak polis mahu menggunakannya bersama-sama dengan kamera ketika menangkap orang, syarikat mendapati ini tidak sesuai. Dalam kes ini, seseorang harus bertanya sama ada perlu menggunakan AI secara umum dalam senario tertentu, dan salah satu daripada contohnya ialah pengiktirafan muka.
Pada masa ini, teknologi ini juga digunakan oleh tentera, kerana penyedia teknologi menuntut bahawa perisian mereka bukan sahaja dapat mengenal pasti musuh-musuh yang berpotensi, tetapi juga mengenali tingkah laku yang mencurigakan.