Racial Disparity in Natural Language Processing: A Case Study of Social Media African-American English
Su Lin Blodgett University of Massachusetts AmherstAmherstMA and Brendan O’Connor University of Massachusetts AmherstAmherstMA
Abstract
We highlight an important frontier in algorithmic fairness: disparity in the quality of natural language processing algorithms when applied to language from authors of different social groups. For example, current systems sometimes analyze the language of females and minorities more poorly than they do of whites and males. We conduct an empirical analysis of racial disparity in language identification for tweets written in African-American English, and discuss implications of disparity in NLP.
中文速览
现有的自然语言处理（NLP）工具在分析不同种族群体的语言时存在明显的性能差异，具体表现为：这些工具在处理非裔美国人英语（African-American English, AAE）时，往往比处理标准美式英语时表现更差。研究者利用一个包含约6000万条带地理标记的推文语料库，通过人口统计混合成员概率模型识别出与非裔美国人和白人群体分别对应的推文，随后用四款主流语言识别工具（包括langid.py、IBM Watson、微软Azure和Twitter自带识别器）对两组各万条推文进行测试。结果显示，在控制消息长度这一混淆因素之后，所有工具都存在显著的种族差异——它们把非裔美国人的英语推文误判为非英语的概率远高于白人推文，例如langid.py对非裔推文的英语识别准确率有时甚至比白人推文低出数十个百分点。这一发现意义重大：语言识别是NLP流水线的第一步，一旦系统性地将AAE错判为非英语，后续的情感分析、信息检索等应用就会系统性地忽视或过滤掉非裔群体的声音，从而在技术层面加剧社会不平等。
原文 arXiv:1707.00061;中英对照 + 大白话阅读 https://aha.fim.ai/paper/1707.00061v1