申請試用
登錄
新聞中心

商湯科技發佈2021年可持續發展報告 進一步落實人工智能倫理治理的三大核心原則

2021-11-12

20211112日,新加坡——人工智能軟件公司商湯科技聯合上海交通大學清源研究院、AIII人工智能國際研究院,日前在新加坡金融科技節共同發佈《平衡發展的AI倫理觀——AI可持續發展報告2021-2022》(以下簡稱「報告」),進一步落實AI均衡倫理治理下,技術可控、以人為本、可持續發展的三大核心原則,推動發展負責任且可持續的AI技術。


1.png

商湯智能產業研究院院長田丰在發佈儀式上詳細介紹了商湯倫理觀以及相關的實踐。


除此之外,商湯亦與上海開源信息技術協會、AIII人工智能國際研究院共同建立《聯合國可持續發展目標正面案例集》,圍繞聯合國可持續發展的17個目標,收集了全球40多個人工智能技術在現實生活中應用的正面案例,涵蓋脫貧、無飢餓、AI智慧醫療、AI普惠教育、產業創新和基礎設施等方面,為產業、學校、科研機構等提供一線應用案例參考,共建倫理治理生態。


商湯倫理治理委員會主席、副總裁楊帆表示:「作為新興科技的典型代表,人工智能技術本身、以及它所帶來的經濟、社會、生活方面的巨大影響,都在快速的發展變化,這對人工智能的倫理治理提出了更高的要求。商湯認為,AI治理是一個多目標、多維度的平衡過程,需要尋求均衡的發展。可持續發展、以人為本、技術可控,這三大核心原則將是人工智能技術得到信任、廣泛接受和長期發展的重要支柱。」


2.png

 

為此,商湯在去年首次發佈可持續報告的基礎上,今年就三大倫理原則落實了具體工作:


·       可持續發展:可持續發展是最大的社會責任。通過倫理治理,商湯希望能夠推動人工智能技術促進全社會的經濟、文化及環境的可持續發展。

 

隨著節能減碳成為全球共識,積極推動傳統產業轉型,早日實現碳達峰、碳中和成為許多行業的共同訴求。而其中,電力工業是全球最主要的 CO2 排放源之一,實現電力減排、清潔高效生產和運維,將有助於推動低碳電力、低碳能源。2020年,商湯科技與南方電網數字電網研究院達成合作,在超高壓公司直流工程換流站進行了首個工業級視覺定位 AR 技術試點研究,以AI+AR技術助力實現智能電網巡檢,提高電力運維效率,助力新能源大規模並網後的電網運行安全。

 

·       以人為本:可持續發展的主體是人,要尊重人類的基本權利,構建充滿人文關懷、互相尊重的包容性AI,讓技術真正造福於人。

 

當今的數字時代,各類智能物聯網設備以及相應的軟件應用遍布生活的各個方面。以技術賦能智慧生活,可以進一步釋放數字時代的潛力,方便人類、改善生活體驗。商湯以AI賦能智慧文旅,將故宮的藏品複製到線上。從早期各種各樣的美顏特效、智能上妝,到直播時代的3D人像、數字人、虛實結合的體感遊戲等等,商湯累計賦能200多款手機、AR 和VR設備、智慧大屏及消費級無人機,以實現真實世界和虛擬世界的連接,創造全新的元宇宙體驗。

 

·       技術可控:技術是由人類開發並為人類服務的超級工具,工具的倫理責任應由人類承擔;對於人工智能的技術治理,宜採用多元治理、發展式治理,以釋放科技造福人類的創新發展潛力;同時,實現人工智能的法律合規、主動保護數據安全,是可信AI的關鍵成功因素。

 

商湯積極實踐數據隱私保護,以自主合規性要求不斷驅動產品升級,是首家獲得全部三項 ISO/IEC 隱私信息管理系統、信息安全管理和個人身份信息保護認證的人工智能公司,已採取的標準保護措施包括保密分頻、訪問控制、數據加密及脫敏等,以防止未經授權訪問、洩露、不當使用或修改、損害或丟失數據及個人信息。

 

此外,商湯自 2019 年便開始對聯邦學習(Federated Learning)的前瞻性研究,攜手美國羅格斯大學計算機系計算生物醫學成像和建模研究中心,在全球頂級計算機視覺會議 ECCV(歐洲計算機視覺國際會議)上發表了新的研究成果。透過使用基於分布式生成對抗網絡(GAN)的結構來實現聯邦學習,避免了對原始數據的直接訪問,解決了醫療數據的隱私保護問題。同時,減少了中心與數據孤島之間的通信數據量,僅需傳輸合成圖像數據和反饋誤差而非整個模型的所有參數數據,而且各數據孤島之間無需交換任何數據或參數,因而可顯著降低醫療機構之間通過聯邦學習進行研究的成本,加快研究效率和 AI 模型的生產速度。

 

商湯人工智能倫理與治理委員會積極推動落實上述三大原則,包括已建立起系統的人工智能倫理審查程序,以審查及檢測產品及服務的潛在倫理風險。該管理體系涵蓋從項目審批、產品及服務的發佈,到持續運營監控,及其後的產品及解決方案迭代的整個生命週期。在評估過程中,可選擇駁回新產品方案、中斷進行中的產品開發項目、或停止不符合商湯原則及標準的現有產品。此外,商湯還聘請外部顧問為相關的審查程序及風險管理模型提供建議,以確保產品及服務符合倫理規範。

 

展望未來,商湯作為AI領域的龍頭企業,將不斷落實相關的實踐工作,並通過與產業生態的廣泛合作,共同推動人工智能倫理的平衡發展。

 

下載報告全文:《平衡發展的AI倫理觀——AI可持續發展報告2021-2022》