Menteri Telangana KTR Serukan Transparansi yang Lebih Besar dalam Penggunaan Teknologi Wajah oleh Pemerintah

Menteri Teknologi Informasi Telangana KT Rama Rao mengatakan salah satu tantangan tersulit dalam menggunakan teknologi seperti pengenalan wajah dalam hubungannya dengan Artificial Intelligence (AI) adalah mendapatkan kepercayaan warga bahwa pemerintah menggunakan data tersebut dengan cara yang tidak bias.

Menurut dia, penggunaan teknologi tersebut juga masih rumit karena warga perlu diyakinkan bahwa mereka tidak sedang dalam pengawasan kecuali telah diberi tahu.

Menteri juga menyatakan bahwa satu-satunya cara untuk mencapai ini adalah dengan terlebih dahulu menentukan kekuatan regulasi yang akan dibutuhkan oleh setiap organisasi pemerintah.

“Kekuasaan ini harus diberikan kepada mereka dalam Parlemen dan metode yang sepenuhnya transparan,” kata Rama Rao dan menambahkan bahwa dengan penjangkauan peraturan yang tepat, dapat mempermudah polisi untuk membantu warga dengan kebutuhan mereka.

Selama diskusi panel tentang “AI on the Street: Managing Trust in the Public Square” di Forum Ekonomi Dunia di Davos, dia mengatakan bahwa pengenalan wajah tidak hanya telah mengurangi ketergantungan pada sumber daya fisik tetapi juga mengurangi waktu yang dibutuhkan pihak berwenang untuk menemukan penjahat dan orang hilang.

Diskusi panel juga menghadirkan Takayuki Morita, Presiden dan Chief Executive Officer dan Direktur Perwakilan NEC Jepang, Angie Nicole OD, Direktur Eksekutif Ushahidi, Afrika Selatan, dan Coen van Oostrom, CEO dan Pendiri Edge Tech.

Namun, dia menekankan pentingnya transparansi, dengan mengatakan bahwa setiap langkah di mana pemerintah menggunakan pengenalan wajah harus dibagikan kepada publik terlebih dahulu sebelum digunakan oleh organisasi pemerintah.

Menurut menteri, pemerintah mengakui manfaat pengenalan wajah dalam regulasi dan kepolisian. Jadi, kepercayaan publik terhadap sistem ini harus didukung oleh sistem opsional yang dapat mengekspos mereka ke metode dan baru kemudian ditingkatkan, tambahnya.

Selain itu, Rama Rao berkata: “Kami membutuhkan pikiran yang berpengalaman dalam AI, pembelajaran mesin, blockchain, ilmu data dan risiko yang datang dengan penggunaan yang sama. Data yang digunakan harus sepenuhnya diamankan dan keamanannya harus diverifikasi.”

Kekhawatiran Tentang Pengenalan Wajah

Dalam beberapa tahun terakhir, banyak yang mempertanyakan keakuratan teknologi pengenalan wajah dan perannya dalam pencurian identitas.

Dalam beberapa situasi, layanan penegakan hukum secara keliru melibatkan orang yang tidak bersalah dalam kerusuhan. Selain itu, banyak orang khawatir tentang manajemen dan penyimpanan identitas, yang mengganggu para pendukung privasi di seluruh dunia.

Kurangnya transparansi dalam bagaimana informasi disimpan dan dipelihara adalah salah satu masalah sosial yang paling umum. Hak dasar warga negara untuk berada di bawah pengawasan pemerintah yang konstan dan foto-foto mereka disimpan tanpa persetujuan mereka dilanggar oleh pengenalan wajah.

Menurut para pembela hak asasi manusia, pengenalan wajah, ketika dikombinasikan dengan kamera yang ada di mana-mana dan analitik data, mengarah pada pemantauan massal, yang dapat membahayakan kebebasan dan hak pribadi warga negara.

Sebagai contoh, di China, teknologi ini sudah lama digunakan oleh pihak berwenang. Penggunaannya telah berkembang di negara ini, dari kamera jalanan hingga aplikasi yang membutuhkan otentikasi biometrik, tetapi sebuah survei oleh outlet media pemerintah telah mengungkapkan bahwa warga China skeptis terhadap penggunaannya di tempat umum.

Bahkan teknologi ini juga dimanfaatkan oleh otoritas China untuk membidik warga Uighur dan mengontrol emosi mereka di wilayah Xinjiang.

Namun, di bagian lain dunia, Komisi Eropa telah menerima surat terbuka dari 51 organisasi, meminta larangan menyeluruh pada semua perangkat lunak pengenal wajah pengawasan massal. Demikian pula, lebih dari 43.000 warga Eropa bergabung dengan kampanye Reclaim Your Face, yang menyerukan diakhirinya pengawasan massal biometrik di UE.

Perlu dicatat bahwa Komisi Eropa melarang teknologi pengenalan wajah di tempat umum hingga lima tahun pada tahun 2020 sebagai bagian dari perombakan peraturan yang mencakup aturan penyalahgunaan privasi dan etika.

Terlepas dari kekhawatiran terkait pengenalan wajah, American Civil Liberties Union (ACLU) telah mengusulkan beberapa prinsip yang akan membantu memastikan penggunaan teknologi secara etis. Ini adalah:

• Sebelum menambahkan data biometrik warga negara ke database pengenalan wajah, institusi harus mendapatkan informasi, persetujuan tertulis dari mereka.
• Teknologi tidak boleh digunakan untuk menentukan warna kulit, ras, agama, asal negara, jenis kelamin, usia, atau kecacatan seseorang.
• Tanpa persetujuan tertulis dan eksplisit dari subjek data, hasil teknologi pengenalan wajah tidak boleh diperdagangkan atau disebarluaskan.
• Warga harus dapat melihat, memperbarui, dan menghapus data wajah mereka, serta melacak setiap modifikasi yang dilakukan pada data tersebut.
• Organisasi harus membuat kebijakan untuk kepatuhan dan penggunaan data, serta mekanisme teknis yang diperlukan untuk memastikan tanggung jawab.
• Data pengenalan wajah harus dihosting, dikelola, dan diamankan oleh organisasi dengan personel keamanan khusus—karena selalu ada risiko serangan siber dan pencurian data.
• Pengguna akhir diharuskan untuk menyimpan jejak audit yang mencakup pengumpulan informasi, penggunaan, dan rincian pengungkapan, serta cap tanggal dan waktu dan rincian pemohon informasi.

Baca semua Berita Terbaru, Berita Terkini, dan Pembaruan Langsung IPL 2022 di sini.

Tinggalkan komentar