Pengemudi Trans Dikunci dari Akun Uber mereka

Uber mungkin bersemangat untuk merangkul teknologi mutakhir dalam upayanya untuk mendominasi jalan raya, tetapi insiden baru-baru ini yang melibatkan pengemudi transgender dan fitur keamanan pengenalan wajah aplikasi rideshare memperlihatkan salah satu dari banyak jebakan mengandalkan algoritme komputer. Janey Webb, seorang pengemudi trans Uber di Iowa, mendapati dirinya terkunci dari aplikasi bulan lalu ketika fitur tersebut gagal mengenalinya, menyebabkan dia kehilangan hari kerja dan penghasilan, laporan CNBC .



Sistem pengenalan wajah Uber, Pemeriksaan ID Waktu Nyata , diluncurkan pada bulan September 2016 dan mengharuskan pengemudi untuk mengirimkan selfie intermiten untuk memverifikasi identitas mereka. Menggunakan Layanan Kognitif Microsoft, fitur keamanan membandingkan selfie dengan foto pengemudi yang disimpan Uber (disediakan pada saat pendaftaran pengemudi dan proses verifikasi awal dengan aplikasi), dan untuk sementara menangguhkan akun pengemudi jika foto tidak cocok .

Kedengarannya seperti fitur keamanan yang bagus, kecuali, seperti dalam kasus Webb, Anda trans dan dalam proses transisi. CNBC melaporkan bahwa Webb mulai bekerja untuk Uber pada Oktober 2017, sekitar waktu yang sama ketika dia mulai bertransisi. Perubahan penampilannya akhirnya menimbulkan tanda bahaya dalam algoritma Real-Time ID Check.



Webb mengatakan kepada CNBC bahwa dia mengambil langkah-langkah untuk mendokumentasikan transisinya dalam aplikasi untuk menghindari masalah dengan fitur keamanan, dan untuk menjaga calon penumpang tetap up to date. Tapi ini tidak cukup. Tepat sebelum akhir pekan keempat Juli yang terkenal padat lalu lintas, akun Webb dibekukan, dan dia diminta mengemudi dua jam ke satu-satunya pusat dukungan langsung Uber di Iowa untuk menyelesaikan masalah tersebut. Dia diduga diberitahu bahwa masalah itu mungkin muncul lagi.



'Orang trans tidak dapat diharapkan untuk memperbarui lisensi mereka setiap tiga bulan atau lebih hanya untuk menghindari penonaktifan,' kata Webb kepada CNBC. Uber belum menanggapi permintaan komentar mereka.

Di luar Uber, bagaimanapun, masalah Webb dengan Pemeriksaan ID Real-Time menyentuh kekhawatiran yang berkembang atas masa depan teknologi pengenalan wajah dan algoritme komputer secara umum, yang pada umumnya belum memperhitungkan komunitas yang terpinggirkan. Google bermitra dengan GLAAD untuk membantu membangun AI yang inklusif LGBTQ setelah menemukan bahwa istilah tidak berbahaya seperti saya gay secara otomatis terdaftar sebagai negatif ketika pengguna memposting ke platform media sosial seperti Twitter dan Facebook.

Tahun lalu, kontroversi meletus ketika YouTuber transgender menemukan bahwa para peneliti sedang mengerjakan teknologi pengenalan wajah telah menggunakan video mereka untuk menyediakan data untuk AI, untuk membantu mengajarinya mengenali wajah orang yang menjalani transisi medis. Ini dilakukan tanpa sepengetahuan atau persetujuan YouTuber.



Banyak orang di komunitas yang terpinggirkan tetap curiga terhadap AI dan teknologi pengenalan wajah secara umum. Pada bulan September tahun lalu, sebuah laporan oleh Universitas Stanford mengklaim bahwa teknologi pengenalan wajah dapat mengidentifikasi seseorang sebagai LGBTQ+ menimbulkan kontroversi, baik untuk yang diduga temuan yang salah dalam laporan tersebut, dan untuk gagasan bahwa teknologi tersebut dapat digunakan untuk menyingkirkan orang-orang LGBTQ+.

Akademisi seperti Sherry Turkle, seorang profesor di Massachusetts Institute of Technology, mengatakan dalam sebuah wawancara dengan NBC OUT bahwa orang aneh akan benar untuk memenuhi teknologi pengenalan wajah seperti itu dengan skeptis. Informasi tersebut dapat digunakan untuk membantu pemerintah membuat pendaftaran orang-orang LGBTQ+, sebuah langkah yang beberapa negara sudah mengeksekusi.

'Pertama-tama, siapa yang memiliki teknologi ini, dan siapa yang memiliki hasilnya?' kata Turkel. 'Masalahnya sekarang adalah bahwa 'teknologi' adalah slogan yang benar-benar berarti 'komoditas.' Artinya, teknologi Anda dapat mengetahui seksualitas saya dari melihat wajah saya, dan Anda dapat membeli dan menjual informasi ini dengan tujuan kontrol sosial.'

Perdebatan etis tentang teknologi ini kemungkinan akan terus memanas karena fitur-fitur seperti Pemeriksaan ID Real-Time menjadi hal yang biasa. Penangguhan akun Webb berdampak material pada pendapatannya, dan dia tidak akan menjadi wanita transgender terakhir yang memiliki pengalaman seperti itu. AI tumbuh dengan sangat cepat, membangun data kumulatif saat melakukannya, yang hanya akan menjadi lebih sulit untuk kembali dan berubah seiring waktu. Tetapi di kedua sisi bencana, tampaknya ada konsensus tentang satu hal: Konsekuensi bagi orang-orang yang terpinggirkan harus di depan dan di tengah.