娛樂城|面部識別算法如何消除偏見

來自計算機視覺中心(CVC)和巴塞羅那大學的一個小組發布了一項研究結果,該研究結果評估了使用真實世界數據測試過的自動面部識別算法在性別和膚色方面的準確性和偏差。儘管頂級解決方案的準確率超過了99.9%,但研究人員檢測到了一些顯示出較高的假陽性或假陰性率的群體。人臉識別已被全球私人和政府組織常規使用。自動人臉識別可以用於合法和有益的目的(例如,提高安全性),但同時其功能和普遍性也會增加不公平方法可能對社會產生的潛在負面影響(例如,對少數民族的歧視)。必要的,儘管還不夠娛樂城推薦對於所有人口統計群體來說,合法使用面部識別算法的準確性都是相同的。為此,巴塞羅那大學計算機視覺中心(CVC)的人姿恢復與行為分析小組的研究人員由Sergio Escalera領導的團隊在2020年歐洲計算機視覺會議(ECCV)中組織了一次挑戰。該結果最近發表在《計算機視覺-ECCV 2020 Workshops》雜誌上,評估了參與者在面部驗證任務中提交的算法的準確性挑戰也是成功的,因為“它吸引了151名參與者,總共提交了1,800份論文,超出了我們對參與者和論文數量的預期”。參與者使用了不平衡的圖像數據集,該數據集模擬了AI基礎ed模型應該在不平衡的數據上進行訓練和評估(白人男性比黑人女性多得多)。他們總共處理了來自6,139個身份的152,917張圖像。這些圖像標註了兩個受保護的屬性:性別和膚色;五個合法屬性:年齡組(0-34、35-64、65 +),頭部姿勢(額葉,其他),圖像源(靜止圖像,視頻幀),戴眼鏡和邊框大小,所得結果為非常有前途。 CVC和公開賽研究員Julio CS Jacques Jr.解釋說,頂級的獲獎解決方案超過了99.9%的準確性,同時在建議的偏差指標中得分非常低,“這可以認為是朝著開發更公平的面部識別方法邁出的一步”加泰羅尼亞大學。對前十支球隊的分析顯示,深色膚色的女性和兩個人都戴眼鏡的樣本的假陽性率更高。相比之下,膚色較淺的男性和年齡均在35歲以下的樣本的假陰性率較高。此外,還發現在數據集individua中娛樂城推薦年齡小於35歲的人通常少戴眼鏡娛樂城評價相比年齡較大的人,這會導致這些屬性的綜合作用。”這並不令人驚訝,因為採用的數據集在不同的人口統計屬性方面並不均衡。但是,這表明,總體目標是不夠的。建立公平的人臉識別方法,並且必須考慮到該主題的未來工作 娛樂城評價準確度和偏差緩解效果”,Julio C. S. Jacques Jr.總結說。

Sixta T,Jacques Junior JCS,Buch-Cardona P,Vazquez E,Escalera S.ECCV 2020的FairFace挑戰:分析人臉識別中的偏見。在:Bartoli A,Fusiello A,編輯。 計算機視覺– ECCV 2020研討會施普林格國際出版社; 2020:463-481。本文已從以下材料重新發布。注意:材料的長度和內容可能已被編輯。有關更多信息,請聯繫引用的來源。