Uber’in yüz tanıma sistemi hak ihlallerine yol açtı!
Kasım 2019’dan itibaren Uber Eats bünyesinde kuryelik yapmakta olan siyahi kurye Pa Edrissa Manjang, iş bulmak amacıyla kullandığı platformun uygulamasında, ırk ayrımcılığı içeren yüz tanıma kontrollerinden kaynaklanan erişim sorunlarıyla mücadele etti. Uber’in platformunda yer alan bu yüz tanıma sistemleri, Manjang’ın uygulamaya erişimini kısıtladı ve onun iş bulma sürecini olumsuz etkiledi. Bu durum, Manjang’ın platform üzerinden iş alma yeteneğini sınırlayarak geçim kaynağına erişimde ciddi engeller oluşturdu.
Bu gelişme, Birleşik Krallık yasalarının, yapay zeka sistemlerinin giderek artan kullanımına nasıl cevap verdiği sorusunu ön plana çıkarıyor. Otomatik sistemler, kullanıcı güvenliğini ve hizmetin etkinliğini iyileştireceklerine dair vaatlerle sunulmuş olsa da, bu teknolojilerin şeffaflığıyla ilgili ciddi sorunlar mevcut. Yapay zeka tarafından oluşturulan önyargıların kurbanları, hak ettikleri tazminatı elde etmek için uzun yıllar beklemek zorunda kalabiliyor.
Uber, Nisan 2020 itibarıyla Birleşik Krallık’ta, Microsoft’un yüz tanıma teknolojisine dayanan Gerçek Zamanlı Kimlik Kontrolü sistemini aktif hale getirdi. Bu sistem, kullanıcının kimliğini doğrulama amacıyla, kayıtlı fotoğrafla kıyaslanan bir selfie çekilmesini zorunlu kılıyor. Ancak Manjang, platforma erişim sağlamak için çektiği yüz fotoğraflarında devamlı olarak uyumsuzluklar tespit edildiğini öne sürerek, Uber’in hesabını askıya aldığını ve daha sonra iptal ettiğini ifade etti. Bu olay, Eşitlik ve İnsan Hakları Komisyonu (EHRC) ile Uygulama Sürücüleri ve Kuryeler Birliği (ADCU) gibi örgütlerin desteklediği bir dizi şikayetin sonucunda meydana geldi. Bu kuruluşlar, Uber’in yüz tanıma teknolojisindeki eksikliklere ve bunun kullanıcılar üzerindeki olumsuz etkilerine dikkat çekerek, platform çalışanlarının haklarını koruma ve adaletsiz uygulamalara karşı çıkma konusunda önemli bir rol oynadılar.
Uzun süren hukuk mücadelesi sonrasında Uber, Manjang’a ödeme yapmayı kabul etti; fakat mali uzlaşmanın ayrıntıları kamuoyuyla paylaşılmadı. Uber, yüz tanıma kontrollerinin “güçlü insan incelemesi” desteğiyle gerçekleştirildiğini öne sürerek, kurye hesaplarının yalnızca yapay zeka analizlerine dayanarak kapatılmayacağını iddia ediyor. Buna karşın, Manjang’ın yaşadıkları, Uber’in kimlik doğrulama süreçlerinde önemli sorunlar bulunduğunu açıkça ortaya koyuyor. Birleşik Krallık veri koruma yasaları çerçevesinde, Konu Erişim Talebi ile Uber’den tüm selfie’lerini talep eden ve destekleyici kurum Worker Info Exchange (WIE) tarafından yardım alarak bu fotoğrafların tamamının kendisine ait olduğunu ispatlayan Manjang, sistemdeki açıkları belgelemiş oldu.
Bu dava, Birleşik Krallık yasalarının, yapay zeka teknolojilerinin yönetilmesi alanında ne kadar etkili olduğunu değerlendirme ihtiyacını ortaya koyuyor. Irk konusunun korunan nitelikler arasında sayılan Birleşik Krallık’ın 2006 Eşitlik Yasası’na dayanarak ayrımcılık iddiasında bulunan Manjang, Uber ile bir uzlaşma elde etmeyi başardı. EHRC Başkanı, yüz tanıma teknolojilerinin ayrımcılık ve insan hakları ihlallerine yol açabileceği konusunda uyarılarda bulunarak, işverenlerin yapay zeka kullanımlarında çalışanlarına karşı daha fazla şeffaflık göstermesi gerektiğini belirtti.
Uber, Manjang ile bir uzlaşmaya varmış olmasına karşın, sistemlerinde veya işlemlerinde bir kusur olduğunu halka açık bir şekilde kabul etmekten kaçınıyor. Şirket, uzlaşma hakkında yaptığı açıklamada, yüz tanıma kontrollerinin “detaylı insan incelemesi” desteğiyle güçlendirildiğini savunuyor ve bu nedenle kurye hesaplarının yalnızca yapay zeka analizlerine dayanarak iptal edilmesi ihtimalini geri çeviriyor.
Şirket tarafından yapılan açıklamaya göre:
“Gerçek Zamanlı Kimlik Kontrol sistemimiz, uygulamamızı kullanan herkesin güvenliğini sağlamak amacıyla tasarlanmıştır ve herhangi bir kişinin geçim kaynağı üzerinde gözetimsiz kararlar alınmadığından emin olmak için kapsamlı insan incelemesi barındırmaktadır. Bay Manjang’ın kurye hesabına erişiminin geçici olarak engellenmesi, otomatik yüz tanıma işleminden kaynaklanmamıştır.”
Manjang’ın durumu, yapay zeka teknolojilerinin bireyler üzerindeki potansiyel zararlı etkilerine dair önemli bir örnek teşkil ediyor ve yapay zeka güvenliği konusunda daha fazla düzenleyici önlem alınması gerektiğini gösteriyor. Bu olay, Birleşik Krallık’taki mevcut düzenleyici çerçevenin yapay zeka riskleriyle başa çıkmada yetersiz kaldığını ve düzenleyici kurumların proaktif bir yaklaşım benimsemesi gerektiğini ortaya koyuyor.
