Transparency: Motivations and Challenges
Adrian Weller 112233 0000-0003-1915-7158
Abstract
Transparency is often deemed critical to enable effective real-world deployment of intelligent systems. Yet the motivations for and benefits of different types of transparency can vary significantly depending on context, and objective measurement criteria are difficult to identify. We provide a brief survey, suggesting challenges and related concerns, particularly when agents have misaligned interests.
中文速览
透明度（transparency）在算法系统中究竟是不是越多越好？这篇论文系统梳理了机器学习领域透明度的多种类型与动机，指出不同场景下"透明"的含义和受益方各不相同，现有评估标准也难以量化。作者进一步论证了透明度并非无条件的好事：当利益相关方目标不一致时，透明度可能沦为操控工具——比如用毫无实质内容的"解释"让用户顺从，或让博弈对手利用公开信息占据优势；此外，在经济学、多智能体博弈、公平性和信任等多个维度，过度透明反而可能带来效率损失、加剧不公平或削弱信任。这项研究的价值在于，它提醒研究者和政策制定者不应将透明度视为放之四海皆准的目标，而应具体分析"对谁透明、为什么透明、透明到何种程度"，从而在实际部署智能系统时做出更审慎的权衡。
原文 arXiv:1708.01870;中英对照 + 大白话阅读 https://aha.fim.ai/paper/1708.01870v2