Studi Ungkap Pengenalan Wajah Amazon Tak Bisa Bedakan Ras

Studi Ungkap Pengenalan Wajah Amazon Tak Bisa Bedakan Ras

Studi Ungkap Pengenalan Wajah Amazon Tak Bisa Bedakan Ras – Meskipun memiliki potensi untuk menjadi alat keamanan yang kuat, teknologi pengenalan wajah masih memiliki beberapa kendala untuk diselesaikan. Contohnya, baru-baru ini teknologi pengenalan wajah milik Amazon, Amazon Rekognition, melakukan kesalahan identifikasi wajah wanita, terutama mereka yang memiliki kulit gelap.

Hal tersebut diungkap oleh para ilmuwan dari Massachusetts Institute of Technology (MIT) dan University of Toronto. Selama dua tahun terakhir, teknologi ini dipakai oleh penegak hukum untuk mengindentifikasi objek, orang, teks, aktivitas di TKP, bahkan konten terlarang sekalipun.

Amazon juga mengklaim bahwa teknologi berbasis kecerdasan buatan ini mampu menghadirkan berbagai analisis berdasarkan wajah, seperti kisaran umur seseorang, jenis rambut, emosi wajah dan lain sebagainya.

Dilansir dari The New York Times, para peneliti tersebut lantas menemukan bahwa pengenalan wajah Amazon memiliki kesulitan dalam membedakan gender dari wajah wanita dan wanita berkulit gelap melalui foto. Layanan tersebut menandai wanita berkulit gelap sebagai pria, dengan jumlah persentase kegagalan 31%, sedangkan wanita dengan kulit lebih terang memiliki kegagalan 7%. Namun jika mengidentifikasi pria berkulit terang, sistem tidak menunjukkan kegagalan sama sekali.

Berdasarkan kebiasan dalam membedakan ras dan diskriminasi terhadap kaum minoritas ini, sejumlah advokad pegiat HAM seperti ACLU telah melayangkan somasi kepada Amazon untuk menghentikan penjualan Amazon Rekognition kepada polisi. Para investor di Amazon juga diminta menghentikan pemasaran guna menghindari kemungkinan tuntutan hukum.

Menggunakan kecerdasan buatan (AI) untuk keamanan dan pengawasan memang memiliki kelebihan, seperti mengidentifikasi wajah dalam kerumunan atau mendeteksi usia. Kelebihan tersebut dapat sangat berguna dalam membantu para penegak hukum menangkap penjahat atau menemukan anak yang hilang.

Namun ACLU berpendapat bahwa teknologi tersebut digunakan utamanya untuk pelecehan warga dengan bantuan tangan pemerintah, menimbulkan ancaman besar bagi masyarakat yang telah ditargetkan secara tidak adil dalam iklim politik saat ini, dan merusak kepercayaan publik di Amazon.

Studi terbaru ini akan dipresentasikan dalam konferensi yang membahas etika AI. Di sana akan diperingatkan bahwa teknologi ini memiliki potensi dalam melecehkan seseorang dan ancaman terhadap privasi.

Sementara itu, General Manager AI Amazon, Dr. Matt Wood mengatakan studi tersebut hanya berfokus pada analisis wajah, sebuah teknologi yang dapat menemukan berbagai fitur yang ada di wajah seperti kumis atau ekspresi seperti senyum. Namun studi ini tak membahas pengenalan wajah, sebuah teknologi yang mencocokkan wajah seseorang dari foto atau video untuk mengenali identitasnya.

“Tidak adil untuk menarik kesimpulan tentang keakuratan pengenalan wajah untuk setiap kasus penggunaan – termasuk oleh para penegak hukum – berdasarkan hasil yang diperoleh dengan menggunakan analisis wajah,” ujar Dr. Wood. Dia juga menambahkan, para peneliti tersebut juga tidak menguji versi terakhir dari Amazon Rekognition.

By | 2019-02-07T09:40:23+07:00 February 7th, 2019|Artikel|0 Comments