트랜스 드라이버는 Uber 계정에서 잠겨 있습니다

Uber는 도로를 지배하기 위해 첨단 기술을 기꺼이 받아들이고 싶어할지 모르지만, 트랜스젠더 운전자와 차량 공유 앱의 안면 인식 보안 기능과 관련된 최근 사건은 컴퓨터 알고리즘에 의존하는 많은 함정 중 하나를 노출시킵니다. 아이오와주의 트랜스젠더 Uber 드라이버인 Janey Webb은 지난달 기능이 그녀를 인식하지 못해 앱이 잠겨 있는 것을 발견했고, 이로 인해 그녀는 일과 수입을 놓칠 수 있었습니다. CNBC 보도 .



우버의 안면인식 시스템, 실시간 아이디 확인 , 2016년 9월에 출시되었으며 운전자는 신원 확인을 위해 간헐적으로 셀카를 제출해야 합니다. Microsoft Cognitive Services를 사용하여 안전 기능은 셀카를 Uber가 파일에 보관하는 운전자 사진(운전자 등록 및 앱과의 초기 확인 프로세스 시 제공)과 비교하고 사진이 일치하지 않을 경우 운전자의 계정을 일시적으로 정지합니다. .

Webb의 경우와 같이 귀하가 트랜스젠더이고 전환 과정에 있지 않는 한 이는 훌륭한 안전 기능처럼 들립니다. CNBC에 따르면 Webb는 2017년 10월 Uber에서 근무하기 시작했으며, 이때와 거의 동시에 전환했습니다. 그녀의 외모 변화는 결국 실시간 ID 확인 알고리즘에 적신호를 일으켰다.



Webb는 CNBC에 보안 기능 문제를 방지하고 잠재적인 승객에게 최신 정보를 제공하기 위해 앱 내에서 자신의 전환을 부지런히 문서화하기 위한 조치를 취했다고 말했습니다. 하지만 이것으로 충분하지 않았습니다. 교통 체증으로 악명 높은 7월 4일 주말 직전에 Webb의 계정은 동결되었고 그녀는 문제를 해결하기 위해 아이오와에 있는 Uber의 유일한 대면 지원 센터로 2시간을 운전해야 한다는 안내를 받았습니다. 그녀는 문제가 다시 발생할 수 있다는 말을 들었다고 합니다.



Webb는 CNBC에 '트랜스젠더가 비활성화되는 것을 피하기 위해 3개월 정도마다 면허를 업데이트할 것으로 기대할 수는 없습니다. Uber는 아직 그들의 의견 요청에 응답하지 않았습니다.

그러나 Uber를 넘어서 Webb의 Real-Time ID Check 문제는 일반적으로 소외된 커뮤니티를 설명하지 못하는 얼굴 인식 기술 및 컴퓨터 알고리즘의 미래에 대한 증가하는 우려를 다루고 있습니다. Google은 GLAAD와 협력하여 LGBTQ를 포함하는 AI 구축을 도와주세요 I'm gay와 같은 무해한 용어는 사용자가 Twitter 및 Facebook과 같은 소셜 미디어 플랫폼에 게시할 때 자동으로 부정적인 용어로 등록됩니다.

작년에 트랜스젠더 유튜버들이 안면 인식 기술을 연구하는 연구원들이 그들의 비디오를 사용했습니다 AI에 데이터를 제공하고 의료 전환을 겪고 있는 사람들의 얼굴을 인식하도록 가르치는 데 도움이 됩니다. 이는 유튜버의 인지나 동의 없이 이루어진 것입니다.



소외된 지역 사회의 많은 사람들은 일반적으로 AI와 얼굴 인식 기술을 의심합니다. 작년 9월, 얼굴 인식 기술이 누군가를 LGBTQ+로 식별할 수 있다고 주장한 스탠포드 대학의 보고서가 논란을 일으켰습니다. 결함 있는 발견 보고서에서, 그리고 기술이 LGBTQ+ 사람들을 쫓아내는 데 사용될 수 있다는 개념에 대해.

매사추세츠 공과대학(Massachusetts Institute of Technology) 교수인 셰리 터클(Sherry Turkle)과 같은 학자들은 NBC OUT 인터뷰 퀴어들이 그런 얼굴 인식 기술을 회의적으로 만나는 것이 옳을 것이라고. 정보는 정부가 LGBTQ+ 사람들의 등록을 구축하는 데 도움이 될 수 있습니다. 일부 국가 이미 실행 중입니다.

'우선 누가 이 기술을 소유하고 있으며, 그 결과는 누구의 것인가?' 터클이 말했다. '지금 문제는 '기술'이 실제로 '상품'을 의미하는 캐치프레이즈라는 것입니다. 그것이 의미하는 바는, 당신의 기술이 내 얼굴을 보고 내 섹슈얼리티를 알 수 있고, 사회적 통제를 목적으로 이 정보를 사고 팔 수 있다는 것입니다.'

실시간 ID 확인과 같은 기능이 보편화되면서 이 기술에 대한 윤리적 논쟁이 계속 가열될 것입니다. Webb의 계정 정지는 그녀의 수입에 중대한 영향을 미쳤고 그녀는 그러한 경험을 한 마지막 트랜스 여성이 아닐 것입니다. AI는 빠른 속도로 성장하면서 누적 데이터를 구축하며, 시간이 지남에 따라 과거로 돌아가 변경하기가 더 어려워질 것입니다. 그러나 그 재앙의 양쪽에서 한 가지에 대한 합의가 있는 것 같습니다. 소외된 사람들의 결과가 가장 앞과 중앙에 있어야 한다는 것입니다.