Teknologi Pengenalan Wajah untuk Awasi Pasien Covid Berpotensi Melanggar Privasi?

PENGGUNAAN teknologi pengenalan wajah di Australia menuai kontroversi dan ketakutan akan pelanggaran privasi. Tapi, di sisi lain, upaya itu dapat membuat Benua Hijau itu menjadi pemimpin dunia dalam mengatur penggunaannya.

Di Australia Barat, jika seseorang tertular Covid-19 dengan gejala ringan hingga sedang, mereka harus menjalani karantina di rumah selama tujuh hari. Demikian halnya bagi mereka yang berkontak erat dengan pasien.

Polisi memeriksa keberadaan mereka dengan mengirim pesan teks secara berkala dan meminta mereka melakukan swafoto yang dikirim dalam waktu 15 menit.

Kemudian, dari jepretan swafoto itu, polisi menggunakan teknologi pengenalan wajah dan pelacakan GPS untuk menentukan apakah orang yang mengambil swafoto ada di rumah.

Jika tidak, polisi segera mengetuk pintu rumah dan juga memberikan sanksi denda yang besar.

Polisi menggunakan aplikasi bernama G2G yang dikembangkan oleh Genvis, perusahaan rintisan teknologi lokal.

Aplikasi ini telah digunakan oleh lebih dari 150.000 orang di negara bagian tersebut sejak diluncurkan September 2020 lalu.

Teknologi yang sama, kendati disediakan oleh perusahaan yang berbeda, telah diujicoba di negara bagian New South Wales, Victoria, Australia Selatan dan Tasmania.

Australia menjadi satu-satunya negara demokrasi di dunia yang berdiri terdepan dalam penggunaan teknologi pengenalan wajah dalam prosedur karantina Covid-19, ketika negara-negara lain menolak gagasan pengawasan semacam itu.

Bermula di AS

San Francisco adalah kota pertama di AS yang memberlakukan moratorium menentang pengenalan wajah oleh polisi pada Mei 2019.

Langkah ini segera diikuti kota lain, seperti Oakland, masih di California, dan Somerville di Massachusetts.

Perusahaan-perusahaan teknologi seperti Amazon, Microsoft, IBM, dan Google telah menyatakan bahwa tidak akan menjual algoritme pengenalan wajah mereka kepada lembaga penegak hukum sampai ada undang-undang federal yang berlaku.

Pada November 2021, perusahaan induk Facebook, Meta, berkata bahwa platform media sosial itu akan menghapus satu miliar "sidik wajah" dan berhenti menggunakan teknologi untuk menandai orang di foto.

Komisi Hak Asasi Manusia Australia telah menyerukan moratorium penggunaan teknologi itu hingga Australia memiliki undang-undang khusus yang mengaturnya.

Aktivis hak asasi manusia mencurigai data pribadi yang berpotensi diperoleh dapat digunakan untuk tujuan sekunder, dan itu adalah mengubah suatu negara menjadi negara pengawasan.

Kelompok pegiat HAM seperti Amnesty memperingatkan bahwa penggunaan pengenalan wajah mengarah pada diskriminasi rasial."Pandemi menciptakan semua pembenaran baru untuk menggunakan teknologi pengenalan wajah," kata Mark Andrejevic, seorang profesor studi media di Universitas Monash di Melbourne dan penulis buku bertajuk "Pengenalan Wajah" yang akan terbit dirilis BBC.

"Semuanya berubah menjadi online dan organisasi berusaha membuat segala sesuatunya bekerja dengan sangat cepat. Tetapi implikasinya belum dipikirkan secara matang."

"Apakah kita ingin hidup di dunia di mana semuanya diawasi dan tidak ada ruang pribadi? Ini menciptakan tingkat stres yang sama sekali baru yang tidak mengarah pada masyarakat sehat."

Perlu persetujuan

Persetujuan diperlukan agar aplikasi G2G dapat digunakan, dan itu juga diperlukan usai kebakaran hutan di Australia pada musim panas 2020.

Mereka yang kehilangan dokumen identitasnya menggunakan pengenalan wajah untuk mendapatkan bantuan bencana.

Tetapi ada sejumlah kasus penggunaan teknologi pengenalan wajah secara diam-diam.Pada bulan Oktober, kelompok toko serba ada 7-Eleven didapati melanggar privasi pelanggan.

Mereka mengumpulkan sidik wajah 1,6 juta pelanggan di Australia dalam survei kepuasan pelanggan mereka.

Sidik wajah diduga digunakan untuk mendapatkan profil demografis dan mencegah staf mempermainkan survei dengan meningkatkan peringkat mereka. Pelanggaran itu tidak dikenakan sanksi denda.Departemen Dalam Negeri Australia mulai membangun basis data pengenalan wajah nasional pada tahun 2016, dan tampaknya kini siap untuk diluncurkan.

Pada bulan Januari, pemerintah mengajukan tender bagi perusahaan untuk "membangun dan menyebarkan" data."Pengenalan wajah berada di puncak penyebaran yang relatif luas," kata Andrejevic.

"Australia sedang bersiap menggunakan pengenalan wajah untuk memungkinkan akses ke layanan pemerintah. Dan di antara lembaga penegak hukum, pasti ada keinginan untuk memiliki akses ke alat ini."

Kebanyakan pemerintah negara bagian telah menyediakan basis data pusat yang memuat data surat izin mengemudi (SIM), foto visa dan paspor.Sebuah undang-undang untuk mengatur teknologi pengenalan wajah diusulkan kembali pada tahun 2019, tetapi dibatalkan setelah tinjauan komite parlemen menemukan bahwa aturan itu tidak memiliki perlindungan privasi yang memadai.

Di antara kritikus terkuatnya adalah Komisaris Hak Asasi Manusia Australia saat itu, Edward Santow.

"Kami sekarang berada dalam situasi terburuk di mana tidak ada undang-undang khusus, jadi kami berurusan dengan beberapa perlindungan yang tidak sepenuhnya efektif dan tentu saja tidak komprehensif," kata Santow.

"Namun teknologi ini terus digunakan."Santow sedang mencari cara untuk membuat ketentuan privasi lebih ketat bersama timnya di University of Technology di Sydney.

Respons global yang bervariasi

Bagian dari proyek ini melibatkan pemeriksaan dari upaya-upaya negara lain dalam mengatur teknologi pengenalan wajah.

Proyek itu menemukan adanya perbedaan yang besar dari pendekatan yang ditempuh di masing-masing negara di dunia.

Yang paling umum adalah mengandalkan beberapa perlindungan privasi terbatas yang menurut Santow gagal mengatasi masalah secara memadai; itulah yang terjadi di Australia."Tidak ada negara di dunia yang melakukannya dengan benar," kata Santow. 

"Jika [perlindungan privasi layak], proyek ini akan sangat sederhana."

Leila Nashashibi adalah juru kampanye di kelompok advokasi yang berbasis di AS, Fight for the Future, yang berjuang untuk mencapai larangan federal pada pengenalan wajah dan bentuk pengenal biometrik lainnya.

"Seperti energi nuklir dan senjata biologis, pengenalan wajah menimbulkan ancaman bagi masyarakat dan kebebasan dasar kita yang jauh lebih besar daripada potensi manfaatnya," tutur Nashashibi.

"Pengenalan wajah tidak seperti bentuk pengawasan lainnya karena memungkinkan pemantauan secara otomatis dan di mana-mana dari seluruh populasi, serta hampir tidak mungkin untuk dihindari.

"Saat menyebar, orang akan terlalu takut untuk berpartisipasi dalam gerakan sosial dan demonstrasi politik. Kebebasan berbicara akan terkungkung."

Mengikis media sosial untuk sidik wajah

Perusahaan penyedia teknologi pengenalan wajah paling terkemuka, perusahaan AS Clearview AI, tampaknya tidak terganggu oleh gugatan hukum dan denda besar yang dikumpulkan di berbagai yurisdiksi.

Perusahaan itu pertama kali menarik perhatian media ketika seorang miliarder menggunakan teknologinya untuk mengidentifikasi tanggal makan malam putrinya, dan saat ini digunakan oleh pemerintah Ukraina untuk mengidentifikasi tentara Rusia yang tewas.

Keluarga mereka diberitahu melalui media sosial, dengan foto-foto terkadang dikirim sebagai lampiran.

Perusahaan itu juga tengah mencari teknologi untuk digunakan di sekolah-sekolah di Amerika Serikat sebagai "sistem manajemen pengunjung", yang mereka yakini dapat digunakan untuk membantu mencegah penembakan di sekolah dengan mengenali wajah siswa yang dikeluarkan, misalnya. 

Teknologi pengenalan wajah dan objek telah diuji coba di berbagai sekolah oleh penyedia yang berbeda, termasuk pengenalan objek yang dapat mengidentifikasi senjata tersembunyi."Clearview AI mengeksploitasi teror dan trauma orang dengan mengatakan bahwa pengawasan dan pemolisian adalah jawabannya," kata Nashashibi.CEO dan pendiri Clearview AI Australia, Hoan Ton-That tak sependapat.

Dia mengatakan bahwa teknologi pengenalan wajah memiliki potensi besar untuk pencegahan kejahatan, karena dapat memastikan bahwa hanya orang yang berwenang yang memiliki akses ke gedung seperti sekolah.

"Kami telah melihat teknologi kami digunakan dengan sangat sukses oleh penegak hukum untuk menghentikan perdagangan senjata, dan kami berharap teknologi kami dapat digunakan untuk membantu mencegah kejahatan senjata yang tragis di masa depan," katanya.

Di Australia, teknologi pengenalan wajah kini digunakan di sejumlah stadion untuk mencegah tersangka teroris atau melarang hooligan (pendukung garis keras) sepak bola masuk.

Andrejevic meyakini penggunaan pengenalan wajah untuk kepentingan keamanan merupakan langkah signifikan dalam pengawasan dan membutuhkan pertimbangan yang cermat."CCTV sering dikritik karena hanya mengizinkan bukti setelah fakta, sedangkan pengenalan wajah menciptakan informasi yang dapat ditindaklanjuti secara real time untuk mencegah kejahatan," katanya.

"Itu konsep keamanan yang sangat berbeda."Adapun, sistem pengenalan wajah secara langsung sudah digunakan oleh beberapa pasukan polisi di seluruh dunia.

Polisi Metropolitan London, misalnya, menggunakannya untuk memantau area tertentu untuk "daftar pantauan" orang yang dicari atau orang yang mungkin menimbulkan risiko bagi publik.

Clearview telah membuat database yang dapat dicari dari 20 miliar gambar wajah, sebagian besar dengan menggores foto-foto dari media sosial tanpa persetujuan.

Ton-That mengatakan perusahaan tidak akan bekerja sama dengan pemerintah otoriter seperti China, Korea Utara, dan Iran. Namun, hal itu menemui masalah di beberapa negara demokrasi.

Cara ini telah dilarang di Kanada dan Australia dan pada 24 Mei, Kantor Komisaris Informasi Inggris (ICO) mendendanya lebih dari £7,5 juta, atau sekitar Rp135,6 miliar, menyusul penyelidikan bersama dengan Kantor Komisaris Informasi Australia.

Perusahaan diperintahkan untuk menghapus data penduduk Inggris dari sistemnya.

Pada Desember 2021, pengawas privasi Prancis menemukan bahwa Clearview melanggar Peraturan Perlindungan Data Umum Eropa (GDPR).

Santow mengatakan bahwa tujuan di Australia adalah untuk mengembangkan pendekatan yang mendorong penggunaan aplikasi secara positif dan menerapkan pagar pembatas untuk mencegah bahaya.

Skenario terburuknya adalah meniru sistem "kredit sosial" di China, di mana individu dan organisasi dilacak oleh pemerintah untuk menentukan tingkat "kepercayaan" mereka.

"Dalam menentukan apakah suatu penggunaan bermanfaat atau berbahaya, kami mengacu pada kerangka dasar hak asasi manusia internasional yang ada di hampir setiap yurisdiksi di dunia," kata Santow.Misalnya, undang-undang yang mewajibkan persetujuan yang bebas dan diinformasikan untuk pengenalan wajah yang akan digunakan.

Namun, jika teknologi tersebut menyebabkan terjadinya diskriminasi melalui ketidakakuratannya dalam kaitannya dengan kelompok tertentu, maka persetujuan tersebut menjadi tidak relevan.

Seperti yang dikatakan Santow: "Anda tidak bisa menyetujui untuk didiskriminasi."

Semakin canggih dan berkuasa

"Dalam beberapa tahun ke depan, kita akan melihat perubahan besar dari penggunaan kata sandi yang sama sekali tidak aman. Biometrik akan menjadi setelan tetap," kata O'Hara.

Teknologi pengenalan wajah bekerja dengan membagi wajah menjadi serangkaian bentuk geometris dan memetakan jarak antara "tanda"-nya, seperti hidung, mata, dan mulut.

Jarak ini lalu dibandingkan dengan wajah lain dan diubah menjadi kode unik yang disebut penanda biometrik."Saat Anda menggunakan aplikasi pengenalan wajah untuk membuka ponsel Anda, itu bukan gambar wajah Anda yang disimpan ponsel Anda," jelas Garrett O'Hara, kepala teknologi lapangan di perusahaan keamanan Mimecast.

"Yang disimpan adalah turunan algoritmik dari wajah Anda secara matematis. Itu terlihat seperti kode huruf dan angka yang panjang."

Pengenalan wajah telah berkembang jauh dibandingkan sejak pertama kali dikembangkan pada 1960-an.

Awalnya, sistem itu tak dapat membedakan antara saudara kandung, atau perubahan wajah seseorang seiring bertambahnya usia.

Tapi kini teknologi itu menjadi sangat canggih sehingga dapat mengidentifikasi seseorang yang mengenakan masker wajah atau kacamata hitam, dan dapat melakukannya dari jarak lebih dari satu kilometer.Algoritme identifikasi wajah terbaik kini memiliki tingkat kesalahan hanya 0,08%, menurut pengujian oleh Institut Nasional Standar dan Teknologi.

Namun, tingkat akurasi ini hanya mungkin dalam kondisi ideal, di mana fitur wajah jelas dan tidak terhalang, pencahayaan bagus dan individu menghadap kamera.

Sementara, tingkat kesalahan untuk individu yang ditangkap "di alam liar" bisa mencapai 9,3%.

"Ini teknologi yang sangat berguna. Tetapi jika seseorang bertanya kepada kami 20 tahun yang lalu ketika situsdi seluruh dunia mulai berkembang, apakah kami ingin hidup di dunia di mana interaksi dan aktivitas kami dikumpulkan dan dilacak, sebagian besar mungkin akan mengatakannya. bahwa itu terdengar menyeramkan," kata O'Hara.

"Kami sekarang mereplikasi pelacakan ruang online untuk memasukkan ruang fisik juga. Dan kami tidak mengajukan pertanyaan tentang hal itu yang seharusnya kami lakukan."

"Salah satu aspek yang paling bermasalah adalah potensi diskriminasi dan bias rasial."

Sebagian besar aplikasi pengenalan wajah awalnya dilatih menggunakan kumpulan data yang tidak mewakili seluruh komunitas.

"Pada hari-hari awal, rangkaian data yang digunakan semuanya diambil dari laki-laki kulit putih atau orang kulit putih pada umumnya," kata O'Hara.

"Dan jelas, itu mengarah pada masalah ketika Anda memiliki orang kulit berwarna atau etnis atau latar belakang berbeda yang tidak cocok dengan model penelitian. Pada akhirnya, itu hanya matematika. Ini masalahnya."

Hasilnya, sistem pengenalan wajah rentan terjadi kesalahan saat mencoba mengenali mereka yang termasuk dalam kelompok etnis minoritas, perempuan, penyandang disabilitas, dan orang tua.

Penggunaannya dapat menyebabkan salah tangkap dan konsekuensi lain yang mengubah hidup seseorang, kata Nashashibi.

Evolusi teknik penipuan

Apakah itu sidik jari, pemindaian iris, analisis gaya berjalan atau pembacaan rambut, tidak ada bentuk biometrik yang terbukti aman seluruhnya.

Seiring dengan semakin canggihnya teknologi, demikian pula upaya para peretas untuk memanipulasinya demi keuntungan mereka sendiri.

Deep fake atau teknik sintetis citra manusia menggunakan kecerdasan buatan telah muncul sebagai evolusi teknik penipuan, khususnya yang berkaitan dengan pengenalan wajah digital (yaitu, foto).

"Dulu butuh beberapa jam untuk membuat deep fakemenggunakan alat animasi - sekarang hanya butuh beberapa menit," kata Francesco Cavalli, salah satu pendiri Sensity AI di Amsterdam. 

"Yang Anda butuhkan hanyalah satu foto untuk membuat 3D deep fake. Ini berarti, para penipu dapat meningkatkan skala operasi mereka dan serangannya meroket.

"Anda bahkan tidak perlu menjadi pengembang atau insinyur. Anda dapat melakukannya sendiri. Ada banyak sekali aplikasi yang memungkinkan Anda meniru wajah siapa pun."

"Sensity AI membantu pemerintah, lembaga keuangan, dan bahkan situs kencan untuk menemukan aplikasi penipuan, baik untuk mendapatkan pembayaran bantuan Covid-19, menyimpan uang yang dicuci di rekening bank, atau memeras seseorang di Tinder."

Tes inframerah digunakan untuk menentukan suhu tubuh dan kedipan ketika seseorang mengambil foto secara online, yang berarti bahwa foto orang "sintetis" akan terdeteksi.

"Pada titik tertentu, para penipu mencari cara untuk mengelabuhi model kami, jadi kami harus terus-menerus menemukan teknik baru," katanya.

Terlepas dari tantangan dalam perjalanan menemukan regulasi yang tepat saat ini, Santow optimis Australia dapat menjadi pemimpin dunia dalam regulasi pengenalan wajah.

"Saya tidak dapat berbicara atas nama pemerintah federal dan negara bagian. Tetapi saya tahu bahwa mereka memahami ada kekhawatiran masyarakat yang kuat dan ada kebutuhan untuk membangun kepercayaan pada teknologi."

"Australia dapat memberikan model yang baik karena beberapa alasan," tambahnya.

"Kami memiliki rasa hormat terhadap hak asasi manusia, secara kelembagaan dan perusahaan. Ini mungkin tidak sempurna, tetapi ini sangat mendasar bagi kami sebagai sebuah negara. Kami juga pengembang dan pengadopsi teknologi yang canggih."

"Saya melihat tantangan terbesar adalah bukan untuk merancang undang-undang yang tidak dapat dibantah atau dipertanyakan, tetapi memastikan bahwa undang-undang itu sendiri tidak diabaikan". (*)