イギリスでAIが引き起こす不正義とは？Uber Eats配達員が示す法の壁
- Uber Eats配達員が差別裁判で勝訴
- 顔認識システムによる人種差別が原因
- Uberが和解金を支払い
Uber Eatsの配達員パ・エドリッサ・マンジャン氏は、人種差別的な顔認識チェックによって自身が働くアプリへのアクセスが妨げられたことに対し、Uberから和解金を受け取った。
BBCが火曜日にこのニュースを伝えた。
マンジャン氏は2019年11月からUberのプラットフォームを利用して食品配達の仕事をしていたが、システムの顔認識機能が彼のアクセスを妨げたという。
技術の正確性と公平性についての議論が改めて浮上している。
この事件は、AI技術の課題と人種差別の問題をも浮き彫りにし、企業が数多く導入している顔認識システムの倫理性と信頼性に疑問を投げかけている。
マンジャン氏のようなケースは氷山の一角に過ぎず、同様の問題が今後も起こり得る可能性がある。
この和解によりUberは、顔認識技術が引き起こす可能性のある差別に対する責任を認識し、その改善に取り組むことが期待される。
法的措置を講じることで、テクノロジー企業が社会の不平等に対してどのような対応をするべきか、ある一例を示したと言える。
おい、さっきのニュースで顔認識システムって差別してたの？
それって今後は改善されるってこと？
ええ、顔認識システムがうまく機能せず、配達員がアクセスを妨げられたみたい。人種差別の問題も指摘されていて、Uberもそれを認めて和解金を支払ったんだよ。今後、顔認識技術の改善に向けて取り組むみたいだから、同じような問題が減るかもしれないね。
そうなんだよ、これAIと倫理の問題が絡んでくる典型例だね。
顔認識テクノロジーは便利だけど、まだ完璧じゃないからね。
種々の人の顔を認識できるようにするのは難しい課題だよ。
白人以外、特に黒人のデータ不足で誤認識が起きることがある。
このケースでは、その誤りがマンジャンさんの仕事を奪いかねないくらいの結果になっちゃったんだ。
Uberは認識して和解金を払ったわけだけど、これは他の企業にも影響を与える重要な動きなんじゃないかな。
技術を改善しようとする動きは、今後も見守っていく必要があるね。
