如何實現更好的科技倫理治理？如何在保證技術安全、公平、普惠的基礎上，推動技術進步和經濟增長？近日，2022（第八屆）中國互聯網法制大會在北京舉行。在大會配套舉行的“合規科技——科技倫理治理分論壇”上，阿里研究院數字經濟中心傅宏宇發表了題為《科技企業參與敏捷治理的探討與思考》的主題報告。傅宏宇在報告中提出了“敏捷治理”思路和方案，指出實施“敏捷治理”需要政府、公眾、企業緊密合作、多方共治，并以算法透明度和多方平衡為例，給出了敏捷治理的實踐建議。

以下為報告主要內容：


敏捷治理嘗試在科技發展過程中，構建一種多方、多元共治的體系，將科技全生命周期的治理要求，貫徹于科技的研發、部署、應用各環節。為突破企業單一視角局限性，需引入政府監管部門參與，并讓社會用戶反饋觸達其中。敏捷治理通過多方參與形成多元共識，通過充分包容促進科技共治；以動態靈活的方式，通過持續溝通和優化來化解對立，建立信任。

“敏捷治理”既能服務于創新，又能準確識別和控制科技發展的各類風險。敏捷治理目標包括：

多元：科技研發應當推動產業發展，服務國家需求，滿足社會公眾的需要；

包容：科技治理需要在創新發展和安全可靠之間尋求平衡，讓技術進步變得包容、溫暖、可持續；

共治：每一個人都是科技進步的受益者，每一個人也都是科技治理的參與者，科技治理需充分溝通交流、凝聚廣泛共識。

簡而言之，敏捷治理可以讓人工智能白盒化，讓更多的人能夠理解每一個算法應用背后的邏輯是什么、用到了什么樣的數據、使用什么樣的模型、進行了哪些優化，并且讓用戶和政府監管部門的意見都能融合到產品開發和技術部署中。



目前，科技治理面臨多重不確定性，具體包括：

1、治理目標不確定。人工智能快速迭代發展，如果按照“先確定目標再設計方案”的傳統治理思路，會造成治理滯后性。如何平衡人工智能的發展與安全？如何取得多元價值目標平衡？治理方法論亟需創新。

2、治理方式不確定。人工智能治理經歷了從原則到規則再到工具的階段，倫理原則逐漸被納入到法律規定之中。透明度、可解釋性原則以及消費者保護、知情可控等原則逐步納入到法律體系之中，并融入了算法備案等治理工具，治理方式呈現多樣化、動態化特征。

3、治理效果不確定。人工智能引發社會問題，既可能源于治理不到位，也可能是技術創新帶來的變革，需要區分真正的社會問題和技術創新帶來的進步，對兩者采取不同的治理模式。

4、責任邊界不確定。人工智能的受眾巨大，數字經濟時代的用戶都是人工智能的使用者，但并不是人人都能夠參與治理之中。用戶面臨著算法理解困難、意見反饋困難，如何設定人工智能企業的治理責任以達成共識是亟需解決的問題。



敏捷治理需建立政府、企業、公眾三方動態聯動的生態體系。

企業與政府：企業應該主動向政府部門報告重大風險。網絡立法提出了重大網絡安全事件報告制度，該制度是解決企業和政府之間信息不對稱的重要抓手。企業履行合理的風險識別義務，同時政府部門應該促進利用、管控風險。尤其當科技治理面臨大量不確定性時，政府及指導部門，應提供一些決策參考，供企業實踐應用，比如給出算法的分級分類制度的指導思路，可以依據人工智能跟人類的聯系來劃分——是緊密還是松散的關系，是合作還是對立的態勢，是服務還是支配的地位。

企業與公眾：社會公眾是科技使用者、受益者，也是倫理治理參與者，要建立包容、普惠、信任的關系。企業有責任和義務去向公眾技術影響的解釋，不僅需要有面向專業人群的解釋，還應當幫助數字鴻溝下的弱勢群體。同時企業要接受公眾對技術的監督，快速響應公眾的建議和需求。

政府和公眾：政府部門要引導社會公眾建立對科技的信任，而社會公眾也要向政府部門反饋人工智能治理的方法和建議。

綜上所述，敏捷治理治理機制要求是：一是，企業盡職履責。科技企業需要構建負責任的科技倫理治理和風險管理體系，主動、積極、有效地管理科技研發應用全生命周期的各類風險。二是，政府規范引導。政府為科技研發提供規則遵循，通過他律引導企業自律，為科技發展創造更好的制度環境。三是，社會監督理解。讓技術可解釋、影響能反饋、傷害有補救，增進公眾對技術的信任

1、算法透明：算法透明不是固定的結果，而是與不同主體進行持續溝通的過程。

人工智能算法透明對象包含是專業人士，普通消費者和政府監管。需要將算法決策邏輯，數據利用合規性、合理性，面向不同主體對象有差別的解釋和說明。

面向政府，需要解釋算法是安全可信，風險可控的，并保留有人工可介入機制。面向公眾，需要讓公眾知情，保證算法客觀公正，如排序算法公平地反映搜索排序的結果，并提示了相關風險；廣告算法有利益相關方的提示；生成含有數字水印標識等。面向消費者，當消費者去權益受到侵害時，企業應該提供相應的解釋和救濟。

上述是針對企業自用算法的透明度解釋，科技企業還有一類服務是對外提供算法工具算法，此時需要采取何種透明度的策略，也是目前科技企業需要解決的問題。

2、多方平衡：算法系統需要滿足多方主體的不同利益訴求。

例如推薦服務算法連接著平臺、商戶和消費者，各方對算法的目標期待是不一樣的。同時，算法系統還承載著政府管理和社會治理目標，比如網約車調度算法在關注勞動保障的同時，滿足收入、就業、隱私以及交通秩序和公共安全等要求。實現上述多重目標的優化，讓算法進行更加準確合理而平衡的決策，保證多方的利益，實現社會價值的最大化，需要各個主體之間進行溝通，交流，合作，而不是采用一種對抗互不信任機制。



9月初召開的世界人工智能大會上，阿里巴巴發布了集團的科技倫理治理的六大準則，即以人為本、普惠正直、安全可靠、隱私保護、可控可信、開放共治。在其中第六條-開放共治原則中，明確提出建立敏捷治理機制，并積極敏捷治理探索。

阿里巴巴集團科技倫理六原則如下：

1、以人為本：我們從事科研、技術開發等活動，堅持以用戶為中心，以人類整體和長期的福祉為目標，把對人的尊重和關懷放在第一位；

2、普惠正直：我們尊重和服務好全體利益相關者，避免歧視與偏見。在提供人工智能產品和服務時，充分尊重和幫助弱勢群體、特殊群體， 并根據需要提供相應替代方案；切實保護各相關主體合法權益；

3、安全可靠：安全是一切業務的根基。我們進行科技系統設計時，將充分考慮安全、魯棒和穩健性，減少并努力避免系統因缺陷或濫用而引 致的對用戶的傷害。我們努力保證科技系統滿足高性能標淮，該系統需要經過充分的測試與驗證，以保障其安全運行；

4、隱私保護：充分尊重個人信息知情、同意等權利，依照合法、正當、必要和誠信原則處理個人信息，充分保障個人隱私與數據安全，不得 竊取、篡改、泄露個人信息，不得損害個人合法數據權益和隱私權；

5、可控可信：我們深知用戶的信任與信賴，是阿里巴巴集團業務可持續發展的基礎，因此我們努力讓從事的科技活動和開發運營的科技系 具備應有的透明度和可解釋性；讓用戶可以自主決定是否采納、中止和退出人工智能相關的交互和服務；努力建立人工智能的問責機制， 確保關鍵環節的自律自省；

6、開放共治：我們將與政府、學界和其他科技企業一起，積極推進科技倫理治理。我們努力建立多方協同合作機制，打造負責任、可持續的 科技，建立開放和敏捷的治理機制，持續學習，不斷探索企業自律、行業共治與監管規范相結合的解決方案。

大型科技企業作為科技倫理治理的排頭兵，有義務識別風險。由于風險眾多，可能影響太大又面臨各類不確定性，因此政府、社會公眾都要參與治理討論之中，共同尋找到最好的治理方法，逐漸明確治理目標及響應的責任分配。