第零法則：

機器人不得傷害人類，或任由人類受到傷害；

第一法則：

除非違背第零法則，否則機器人不得傷害人類，或任由人類受到傷害；

第二法則：

機器人必須服從人類命令，除非命令與第零或第一法則發生衝突；

第三法則：

在不違背第零、第一或第二法則之下，機器人可以保護自己。

---阿西莫夫 （Isaac Asimov）

早在1942年，著名科幻作家阿西莫夫的作品《環舞》中就提出著名的「機器人三定律」。未來科技發展隨時可能顛覆社會，面對這份不確定性，人類積極地探索科技與人性之間的交流，嘗試理解社會與科技的關係，並就人類的核心價值觀提出疑問，展開了對機械倫理學、人工智能倫理學的深入討論。

近年人工智能技術被廣泛應用於社會的各個層面，在發展新技術的同時，所帶來的倫理挑戰與風險也值得關注。在第十九屆四中全會通過的《中共中央關於堅持和完善中國特色社會主義制度推進國家治理體系和治理能力現代化若干重大問題的決定》明確要求「健全科技倫理治理體制」。去年十月，國家科技倫理委員會正式成立，推動覆蓋全面、導向正確、規範有序、統籌協調的科技倫理治理體系建設。作為一種新興科技形態和復雜的技術，人工智能無法在傳統的研究經驗與框架下被理解，而是需要透過跨學科與跨領域的專家一同討論，結合實踐經歷與學術思辨共同探索。

3月26日上午，由商湯科技與上海交通大學聯合主辦的「上海交通大學計算法學與AI倫理研究中心揭牌儀式暨紀念研討會《人工智能的價值觀與法律》 」在上海交通大學徐匯校區北四樓舉行。商湯科技副總裁張少霆，上海交通大學黨委副書記顧鋒，上海交通大學清源研究院執行院長、計算機科學與工程系教授呂寶糧，上海交通大學文科資深教授、中國法與社會研究院院長季衛東，出席開幕典禮並致辭。商湯科技智能產業研究院院長田丰、主任劉志毅，商湯科技高校合作執行總監葛瑜，凱原法學院副院長程金華教授、彭誠信教授，上海市科學學研究所科技與社會研究室主任王迎春，以及中國法與社會研究院副院長楊力教授等數十位專家學者亦有出席活動。

開幕典禮由上海交通大學凱原法學院黨委書記汪後繼主持。透過上海交大與商湯科技的共同合作，計算法學與AI倫理研究中心由上海交大中國法與社會研究院和清源研究院的共同建立，「校企合作」模式在人工智能倫理研究領域創下先河。

負責文科的校領導顧鋒首先代表上海交通大學祝賀計算法學與AI倫理研究中心順利成立。他表示，上海交通大學計算法學與AI倫理研究中心將會在複雜系統的智能發展、法律推理電腦化、數據與算法的倫理難題解決以及數字經濟與法治建設中發揮重要作用，也將會為學校法律學科研究和教育，以及文理科的融合開拓嶄新局面。

呂寶糧代表清源研究院致辭時表示，清源研究院旨在推動人工智能領域的跨學科研究和高水平人才的培養，特別注重基礎理論創新和關鍵技術研發、人工智能能力提升及產業發展，相信通過與中國法與社會研究院的合作，中心定能在人工智能技術在法學領域的應用，以及新興計算系統快速實現技術創新等方面作出貢獻。

季衛東代表中國法與社會研究院致辭時表示，中國法與社會研究院作為大學層面的跨學科平台，活躍於國家及國際間的尖端學術圈，計算法學、科技倫理，以及網絡空間中個人行為與代碼框架之間的互動，也是研究院關注的重點。他希望在商湯科技的鼎力支持，以及與清源研究院的攜手合作下，可以搭建一個業界、教育、研究三方合作的高端平台，推動法學知識體系創新，以及社會科學與計算機科學的共同發展 。

張少霆代表商湯科技致辭時表示，中國法與社會研究院和清源研究院共建上海交通大學計算法學與AI倫理研究中心，商湯將鼎力支持，衷心祝愿中心實現預期的發展目標，形成「產、學、研」一體化的工作機制，在新興計算機系統研發、智能生態圈的構建、圍繞數字經濟的規則博弈以及人工智能立法等方面成為國內頂級、國際知名的學術重鎮和高端智庫。

呂寶糧院長和季衛東院長隨後分別代表清源研究院和中國法與社會研究院簽署了可持續性合作協議，商湯科技副總裁張少霆、清源研究院執行院長呂寶糧、上海交通大學黨委副書記顧鋒、凱原法學院黨委書記汪後繼、中國法與社會研究院院長季衛東、上海市科學學研究所科技與社會研究室主任王迎春主禮研究中心的開幕儀式。

儀式後的研討會上，上海市科學研究所科技與社會研究室主任王迎春首先發表了以《從人工智能看技術社會3.0與治理範式轉型》的主題演講，梳理全球人工智能治理趨勢，提出以「技術+規則」的核心競爭力發展觀。就「AI的責任與權利」這一不可迴避的社會議題，商湯科技智能產業研究院院長、上海交通大學計算法學與AI倫理研究中心聯袂主任田丰發表他的看法，提出以國家安全、公民隱私、國際規則三部分組成的「AI倫理三角形」，並就人工智能企業所應承擔的社會責任等主題，進行了深入詳盡的闡釋。上海交通大學中國法與社會研究院副院長，凱原法學院長聘教授、法律大數據分析中心主任楊力探討了數字化轉型與數字法治的基本範疇，指出數字化轉型的場景架構中的執行難處，得出數據治理的技術與法律「雙輪驅動」的發展原則。

研討會的下半場，商湯智能產業研究院、上海交大凱原法學院與中國法與社會研究院的數十位學者專家，就智慧司法、大數據治理、數據的法律屬性等五項議題展開圓桌討論，討論人工智能與大數據等新興科技在倫理風險治理中所扮演的角色與發揮的影響。

「校企合作」開展科技倫理研究新框架

自2019年起，國家科技部在《關於推進國家技術創新中心建設的總體方案》、《關於加快推動國家科技成果轉移轉化示範區建設發展》等文件中大力推進以企業為主體開展產學研協同創新體系建設。推行產學研深度融合的技術創新體系，不僅是為了完善促進科技成果轉化與產業化，更協助學界接觸到產業面臨的嶄新挑戰，結合社會復雜的真實環境做出研究成果。人工智能倫理研究更是如此，一方面人工智能作為一種顛覆性技術，仍處於探索階段，在很多新興命題上難以適用過往的科技監管經驗；而為考慮其未來大規模社會應用的影響，還須做出前瞻性的預測和治理，從哲學、法學、計算機科學、社會學、商業跨視角地考量；另一方面，倫理研究關注道德規律，人工智能倫理正正需要結合應用所在的社會環境、文化語境、法律基礎等多方面具體實踐。因此，通過校企合作的模式，在理論構建之外，從實際應用場景中觀察科技所造成的社會影響，由下而上地歸納出觀點及反饋，從而完善人工智能倫理治理的新框架。

上海交通大學中國法與社會研究院擁有豐富學術資源以及跨學科研究團隊實力，在風險社會與復雜系統理論、大數據治理和人工智能治理的比較制度分析、智慧司法等領域均有深厚建樹，而清源研究院依托商湯科技雄厚技術實力、海量數據資源和豐富行業經驗，聚焦人工智能開發與產業研究，探索基於可持續發展理念的科學技術新框架。兩院的強強聯手，此次合作成立的計算法學與AI倫理研究中心，將會融合理論研究與實踐經驗，在AI治理這一有待探索的領域上開疆拓土，於國際學術界與人工智能業界產生極大的影響力與學術價值。 

研究中心未來將重點圍繞人工智能倫理、城市和社會的數字化治理、計算法學、認知科學與法律行為、智慧司法等相關領域開展合作研究，包括但不限於大數據和人工智能相關的原則、法規、政策、技術規格的研究以及認知科學與法律行為實驗，並就相關問題構建知識圖譜、提交研究報告、承接政府課題、發表論文、出版著作等等。研究中心希望進一步在上海國家新一代人工智能創新試驗區的支持下，打造關於大數據和人工智能的倫理與治理研究高地，發揮智庫作用，並攜手長三角地區大數據和人工智能的相關企業共同構建智慧城市和智慧司法的知識圖譜以及AIoT網絡治理規則體系。在校內，中心還將與上海交通大學理工科院系合作，開展文理融合的法律與社會科學教學項目，培養在人工智能、大數據治理、科技法律等相關領域的綜合型人才。

人工智能倫理研究需要生態建設

研究中心的企業主辦方，商湯科技，作為一家人工智能公司，在分享其科技成果的同時，也意識到技術發展可能帶來的不確定性及風險。多年來，商湯科技在人工智能倫理領域做出了許多努力，除與上海交大此次合辦研究中心之外，還作為計算機視覺企業代表，入選了首屆AI國家標準化組織，參與人工智能風險管理與治理標準的製定。同時，作為人臉識別國家標準工作組組長單位，牽頭主編的《信息技術 生物特徵識別 人臉識別系統技術要求》已正式立項。 

在去年6月舉行的首屆「AI可持續發展2030論壇」上，商湯智能產業研究院發布了《AI可持續發展白皮書》，響應聯合國可持續發展目標，提出了以「尊重協商，探索包容文化」為核心的AI可持續發展觀、以人為本、共享惠民、融合發展和科研創新四項AI發展價值觀，進一步落到倫理、惠民、產融、可信四項發展原則。這些理念也遵循著商湯的核心企業願景「讓AI引領人類進步」，體現於其在「AI+醫療」，「AI+教育」，「AI+智慧城市」等方面的業務佈局。 

對於倫理研究的生態建設思路，本次開幕儀式上的主旨演講人之一，商湯智能產業研究院院長田丰曾提出獨創性的金字塔理論，即在「可持續AI」願景的引導下，發展出更為具體的原則，在戰略高度上引導企業的業務方向，落實對外的可持續發展研究貢獻以及進行內部風險安全控制的舉措。實務層面上，反映在企業內部建設的人工智能倫理委員會、數據安全部等組織架構，以及參與人工智能安全方面的白皮書發布，為國家標準和行業標準提供建議等等。

商湯開展倫理研究的「金字塔理論」

此次與上海交大聯合成立計算法學與AI倫理研究中心，也是遵循了商湯倫理生態建設的中心思路，通過聯合高校，匯聚豐富的學術資源，通過與產業經驗的深度結合，深化人工智能相關的倫理研究，從而促進智能科技治理模式的創新，發揚「可持續AI」的核心發展觀，最終帶來社會效益、普惠大眾。

人工智能企業履行社會責任

企業履行社會責任，不是單純向外部展示成果。想為社會做出實質貢獻，只有將「向善」的理念深植於企業的發展觀中，才能由上而下地帶來影響，自發地反映在實際舉措當中。同時身為行業領袖，更要起到帶頭作用。對於新興技術的治理議題，龍頭企業走在應用的最前方，對於科技所涉及的風險有著更深的理解，因此應該積極地發動整個行業，在法律框架尚處於探索階段時先形成行業自律，同時通過政策建議、開展研究合作等方式為學術和監管提供寶貴的觀點。

此次與上海交大AI倫理研究中心的合作，便是商湯倫理研究和生態建設思路下的又一次實踐。未來我們希望更多來自不同人工智能行業的企業與高校共同合作，開展「校企合作」模式，不斷從應用中獲取經驗，利用跨學科知識和理論框架，逐漸完善AI治理這項重要議題。