ACM全球技術政策委員會發布關於美國和歐洲政策委員會尽责算法系統原則的聯合聲明

計算機協會的全球技術政策委員會(TPC)發布了由其美國(USTPC)和歐洲技術政策委員會(歐洲TPC)聯合撰寫的關於盡責算法系統原則的新聲明。認識到算法系統越來越多地被政府和公司用於製定或建議對個人、組織和社會產生深遠影響的決策,ACM聲明列出了旨在促進公平、準確和有益的算法決策的9條工具性原則。

該聲明包括每個原則的定義,以及該原則如何有助於構建負責任的算法系統的更大目標的簡短解釋。九項工具性原則包括:合法性和勝任力;盡量減少危害;安全和隱私;透明度;可解釋性;可維護性;可競爭性和可審核性;問責製;限製對環境的影響。新的聲明補充了ACM道德準則,旨在指導算法開發人員和設計人員在軟件開發過程的每個階段保持對潛在偏見和不公平的警惕。

克拉克森大學教授、新聲明的聯合主要作者Jeanna Matthews解釋說:「我們在2017年算法透明度和問責聲明的基礎上,提出了一些原則,敦促設計師和開發人員為自動化系統的合法性和可靠性提供充分的證據,這樣用戶就不需要盲目信任它們。在整個系統生命周期中透明地收集和共享這些關鍵信息的過程,是負責任地部署算法系統的關鍵,與受系統影響的所有利益相關者協作。」

龐培法布拉大學教授、新聲明的共同主要作者Ricardo Baeza-Yates補充說:「這個聲明在幾個方面改進了第一個聲明。我們加入了兩個新的關鍵工具原則:合法性和能力。這些定義了算法系統的有效性,以及擔憂我們地球未來的可持續性。我們還討論了治理方面的問題,包括如何通過給出一些值得考慮的權衡例子來將這些原則付諸實踐。」

除了這九項實用原則之外,ACM技術政策委員會還認識到,盡管製定了一個框架來阻止算法中的偏見,但仍有幾個因素會產生不公平的系統。基於這些原因,《負責任算法系統原則聲明》包含了考慮到數據處理方式和系統部署方式的四項建議。

在選擇輸入或體系結構系統時,系統構建者和操作人員應該遵循相同的標準,而人類在做出等價決策時要遵循這些標準

  • 人工智能系統開發人員應該在部署人工智能系統之前進行廣泛的影響評估
  • 政策製定者應該要求使用審計跟蹤來達到更高的準確性、透明度和公平性標準
  • 不管是否使用了算法工具,人工智能系統的操作員都應該為自己的決策負責

ACM技術政策委員會的成員也認識到,「一刀取」的方法來實現盡責算法系統將是無效的,環境在每個開發人員的決策中扮演著重要的角色。ACM TPC成員希望,《負責任算法系統原則聲明》將促進所有利益相關者之間的討論,啟動更多的研究,並幫助領導者製定治理方法,在促進算法系統的可靠性、安全性和責任感的同時,為廣泛的用戶帶來好處。

ACM美國技術政策委員會
ACM的美國技術政策委員會(USTPC)是ACM與美國政府所有分支機構、計算社區和公眾就與信息技術相關的政策事項進行互動的協調中心。委員會定期就計算機領域的重大發展以及這些發展如何影響美國的公共政策向國會、行政當局和法院進行教育和通報。

ACM歐洲TPC
ACM歐洲技術政策委員會(ACM Europe TPC)促進與歐洲委員會和歐洲其他政府機構以及信息學和計算界就技術和計算政策問題進行對話和交流。歐洲TPC致力於促進健全的公共政策和公眾對技術和政策交叉的廣泛問題的理解。其政策聲明反映了ACM歐洲理事會來自公共和私營部門的專業成員在信息學、計算機科學和其他計算相關主題方面的經驗。

ACM
ACM,即計算機協會,是世界上最大的教育和科學計算協會,它將教育工作者、研究人員和專業人員團結在壹起,以激發對話、共享資源和應對該領域的挑戰。ACM通過強有力的領導、最高標準的推廣和對技術卓越的認可,加強了計算行業的集體聲音。ACM通過提供終身學習、職業發展和專業人脈的機會,支持會員的專業成長。

PHP Code Snippets Powered By : XYZScripts.com