ACM全球技术政策委员会发布关于美国和欧洲政策委员会尽责算法系统原则的联合声明

计算机协会的全球技术政策委员会(TPC)发布了由其美国(USTPC)和欧洲技术政策委员会(欧洲TPC)联合撰写的关于尽责算法系统原则的新声明。认识到算法系统越来越多地被政府和公司用于制定或建议对个人、组织和社会产生深远影响的决策,ACM声明列出了旨在促进公平、准确和有益的算法决策的9条工具性原则。

该声明包括每个原则的定义,以及该原则如何有助于构建负责任的算法系统的更大目标的简短解释。九项工具性原则包括:合法性和胜任力;尽量减少危害;安全和隐私;透明度;可解释性;可维护性;可竞争性和可审核性;问责制;限制对环境的影响。新的声明补充了ACM道德准则,旨在指导算法开发人员和设计人员在软件开发过程的每个阶段保持对潜在偏见和不公平的警惕。

克拉克森大学教授、新声明的联合主要作者Jeanna Matthews解释说:“我们在2017年算法透明度和问责声明的基础上,提出了一些原则,敦促设计师和开发人员为自动化系统的合法性和可靠性提供充分的证据,这样用户就不需要盲目信任它们。在整个系统生命周期中透明地收集和共享这些关键信息的过程,是负责任地部署算法系统的关键,与受系统影响的所有利益相关者协作。”

庞培法布拉大学教授、新声明的共同主要作者Ricardo Baeza-Yates补充说:“这个声明在几个方面改进了第一个声明。我们加入了两个新的关键工具原则:合法性和能力。这些定义了算法系统的有效性,以及担忧我们地球未来的可持续性。我们还讨论了治理方面的问题,包括如何通过给出一些值得考虑的权衡例子来将这些原则付诸实践。”

除了这九项实用原则之外,ACM技术政策委员会还认识到,尽管制定了一个框架来阻止算法中的偏见,但仍有几个因素会产生不公平的系统。基于这些原因,《负责任算法系统原则声明》包含了考虑到数据处理方式和系统部署方式的四项建议。

在选择输入或体系结构系统时,系统构建者和操作人员应该遵循相同的标准,而人类在做出等价决策时要遵循这些标准

  • 人工智能系统开发人员应该在部署人工智能系统之前进行广泛的影响评估
  • 政策制定者应该要求使用审计跟踪来达到更高的准确性、透明度和公平性标准
  • 不管是否使用了算法工具,人工智能系统的操作员都应该为自己的决策负责

ACM技术政策委员会的成员也认识到,“一刀”的方法来实现尽责算法系统将是无效的,环境在每个开发人员的决策中扮演着重要的角色。ACM TPC成员希望,《负责任算法系统原则声明》将促进所有利益相关者之间的讨论,启动更多的研究,并帮助领导者制定治理方法,在促进算法系统的可靠性、安全性和责任感的同时,为广泛的用户带来好处。

ACM美国技术政策委员会

ACM的美国技术政策委员会(USTPC)是ACM与美国政府所有分支机构、计算社区和公众就与信息技术相关的政策事项进行互动的协调中心。委员会定期就计算机领域的重大发展以及这些发展如何影响美国的公共政策向国会、行政当局和法院进行教育和通报。

ACM欧洲TPC

ACM欧洲技术政策委员会(ACM Europe TPC)促进与欧洲委员会和欧洲其他政府机构以及信息学和计算界就技术和计算政策问题进行对话和交流。欧洲TPC致力于促进健全的公共政策和公众对技术和政策交叉的广泛问题的理解。其政策声明反映了ACM欧洲理事会来自公共和私营部门的专业成员在信息学、计算机科学和其他计算相关主题方面的经验。

ACM

ACM,即计算机协会,是世界上最大的教育和科学计算协会,它将教育工作者、研究人员和专业人员团结在一起,以激发对话、共享资源和应对该领域的挑战。ACM通过强有力的领导、最高标准的推广和对技术卓越的认可,加强了计算行业的集体声音。ACM通过提供终身学习、职业发展和专业人脉的机会,支持会员的专业成长。

PHP Code Snippets Powered By : XYZScripts.com