申请试用
登录
最新动态
面向政府机构、企业、智库以及行业协会等组织机构,商汤智能产业研究院以研究和赋能为核心,建设开放、合作的产业生态。
首页 > 商汤生态 > 最新动态
校企联手共创AI伦理研究——上海交大与商汤科技共同成立计算法学与AI伦理研究中心
2021-03-26

作者 / 刘志毅、侯博瀚、郭俊翔

早在1942年,著名科幻作家阿西莫夫的作品《环舞》中就提出了著名的“机器人三定律”。未来科技发展随时可能颠覆社会,面对这份不确定性,人类积极地探索科技与人性的交叉口,尝试理解社会与技术的关系,发问人类命运共同体所包含的核心价值取向,展开了对于机械伦理学、人工智能伦理学的深入讨论。


近年来,人工智能技术被广泛应用于社会的各个层面,在发展新技术的同时,所带来的伦理挑战与风险也值得关注。在党的第十九届四中全会通过的《中共中央关于坚持和完善中国特色社会主义制度推进国家治理体系和治理能力现代化若干重大问题的决定》明确要求“健全科技伦理治理体制”。去年十月,国家科技伦理委员会正式成立,推动覆盖全面、导向正确、规范有序、统筹协调的科技伦理治理体系建设。作为一种新兴科技形态和复杂的技术,人工智能无法在传统的研究经验与范式下所理解,而是需要跨学科与跨领域的专家一同讨论,结合实践经历与学术思辨共同探索。


3月26日上午,由商汤科技与上海交通大学联合主办的“上海交通大学计算法学与AI伦理研究中心揭牌仪式暨纪念研讨会‘人工智能的价值观与法律’”在上海交通大学徐汇校区北四楼举行。商汤科技副总裁张少霆,上海交通大学党委副书记顾锋,上海交通大学清源研究院执行院长、计算机科学与工程系教授吕宝粮,上海交通大学文科资深教授、中国法与社会研究院院长季卫东,出席会议开幕式并致辞。商汤科技智能产业研究院院长田丰、主任刘志毅,商汤科技高校合作执行总监葛瑜,凯原法学院副院长程金华教授、彭诚信教授,上海市科学学研究所科技与社会研究室主任王迎春,以及中国法与社会研究院副院长杨力教授等数十位专家学者亦出席活动。

开幕式由上海交通大学凯原法学院党委书记汪后继主持。依托上海交大与商汤科技公司,计算法学与AI伦理研究中心由上海交大中国法与社会研究院和清源研究院的共同建立,首创性地在人工智能伦理研究领域,开拓了“校企合作”模式。


负责文科的校领导顾锋首先代表上海交通大学祝贺计算法学与AI伦理研究中心顺利成立。在介绍中国法与社会研究院和清源研究院的宗旨以及共建中心的背景之后他表示,上海交通大学计算法学与AI伦理研究中心将会在复杂系统智能发展、法律推理电脑化、数据与算法的伦理难题解决以及数字经济与法治建设中发挥重要的作用,也将会为学校法学学科更上层楼以及文理交叉融合的研究和教育开拓崭新的局面。


吕宝粮代表清源研究院致辞。他表示,清源研究院旨在推动人工智能领域的跨学科研究和高水平人才的培养,特别注重基础理论创新和关键技术研发,深耕人工智能的能力提升以及产业发展,相信通过与中国法与社会研究院的合作,中心定能在人工智能技术在法学领域的应用以及新兴计算系统快速实现技术创新等方面做出卓越的贡献。


季卫东代表中国法与社会研究院致辞。他表示,中国法与社会研究院作为校级实体化交叉学科平台,始终活跃于中国乃至世界的学术前沿,计算法学、科技伦理以及网络空间中个人行为与代码框架之间的互动关系也是关注的一个重点。他希望在商汤科技的鼎力支持下,携手清源研究院搭建一个产学研合作的高端平台,推动法学知识体系创新,并为社会科学与计算机科学的互相促进和共同发展发挥催化剂的作用。


张少霆代表商汤科技致辞。他表示,中国法与社会研究院和清源研究院共建上海交通大学计算法学与AI伦理研究中心,商汤将鼎力支持,衷心祝愿中心实现预期的发展目标,形成产学研一体化的工作机制,在新兴计算机系统研发、智能生态圈的构建、围绕数字经济的规则博弈以及人工智能立法等方面成为国内顶级、国际知名的学术重镇和高端智库。


随后,吕宝粮院长和季卫东院长分别代表清源研究院和中国法与社会研究院签署了可持续性合作协议,商汤科技副总裁张少霆、清源研究院执行院长吕宝粮、上海交通大学党委副书记顾锋、凯原法学院党委书记汪后继、中国法与社会研究院院长季卫东、上海市科学学研究所科技与社会研究室主任王迎春共同为研究中心揭牌。


揭牌仪式后的研讨会上,上海市科学研究所科技与社会研究室主任王迎春首先发表了以“从人工智能看技术社会3.0与治理范式转型”的主题演讲,梳理了全球人工智能治理趋势,提出以“技术+规则”的核心竞争力发展观。就“AI的责任与权利”这一不可回避的社会议题,商汤科技智能产业研究院院长、上海交通大学计算法学与AI伦理研究中心联袂主任田丰发表他的看法,提出以国家安全、公民隐私、国际规则三部分组成的“AI伦理三角形”,并就人工智能企业所应承担的社会责任等主题,进行了深入详尽的阐释。上海交通大学中国法与社会研究院副院长,凯原法学院长聘教授、法律大数据分析中心主任杨力探讨了数字化转型与数字法治的基本范畴,指出数字化转型的场景架构中的执行难点,得出数据治理的技术与法律“双轮驱动”的发展原则。


研讨会的下半程,商汤智能产业研究院、上海交大凯原法学院与中国法与社会研究院的数十位学者专家,就智慧司法、大数据治理、数据的法律属性等五项议题展开圆桌讨论,思辨人工智能与大数据等新兴科技在伦理风险治理中所扮演的角色与发挥的影响。


“校企合作”开展科技伦理研究新范式


自2019年起,国家科技部在《关于推进国家技术创新中心建设的总体方案》、《关于加快推动国家科技成果转移转化示范区建设发展》等文件中大力推进以企业为主体开展产学研协同创新体系建设。产学研深度融合的技术创新体系的推行,不仅是为了完善促进科技成果转化与产业化,更是起到反哺作用,帮助学界接触到产业面临的前沿挑战,结合社会复杂的真实环境做出研究成果。人工智能伦理研究更是如此。一方面,人工智能作为一种颠覆性技术,仍处于探索阶段,在诸多新兴命题上难以适用过往的科技监管经验;而为考虑其未来大规模社会应用的影响,还须做出前瞻性的预测和治理,从哲学、法学、计算机科学、社会学、商业跨视角地考量。另一方面,伦理研究关注道德规律,人工智能伦理恰恰需要结合应用所在的社会环境、文化语境、法律基础等多方面因素具体地去实践。因此,通过校企合作的模式,在理论构建之外,从实际应用场景中观察科技所造成的社会影响,自下而上地归纳出洞察并反馈,从而精进人工智能伦理治理的新范式。


上海交通大学中国法与社会研究院拥有丰厚学术资源以及跨学科研究团队力量,在风险社会与复杂系统理论、大数据治理和人工智能治理的比较制度分析、智慧司法等领域均有深厚建树,而清源研究院依托商汤科技雄厚技术实力、海量数据资源和丰富行业经验,深耕人工智能开发与产业研究,探索基于可持续发展理念的科学技术新范式。两院的强强联手,此次合作成立的计算法学与AI伦理研究中心,将会融合理论研究与实践经验,在AI治理这一亟待探索的前沿领域开疆拓土,于国际学术界与人工智能业界产生极大的影响力与学术价值。 


研究中心未来将重点围绕人工智能伦理、城市和社会的数字化治理、计算法学、认知科学与法律行为、智慧司法等相关领域开展合作研究,包括但不限于大数据和人工智能相关的原则、法规、政策、技术规格的研究以及认知科学与法律行为实验,并就相关问题构建知识图谱、提交研究报告、承接政府课题、发表论文、出版专著等等。研究中心希望进一步在上海国家新一代人工智能创新试验区的支持下,打造关于大数据和人工智能的伦理与治理研究高地,发挥智库作用,并携手长三角地区大数据和人工智能的相关企业共同构建智慧城市和智慧司法的知识图谱以及AIoT网络治理规则体系。在校内,中心还将与上海交通大学理工科院系合作,开展文理融合的法律与社会科学教学项目,培养在人工智能、大数据治理、科技法律等相关领域的综合型人才。


人工智能伦理研究需要生态建设


研究中心的企业主办方,商汤科技,作为一家人工智能公司,在传播其科技成果的同时,也意识到技术发展可能带来的不确定性及风险。多年来,商汤科技在人工智能伦理领域做出了许多努力,除与上海交大此次合办研究中心之外,还作为计算机视觉企业代表,入选了首届AI国家标准化组织,参与人工智能风险管理与治理标准的制定。同时,作为人脸识别国家标准工作组组长单位,牵头主编的《信息技术 生物特征识别 人脸识别系统技术要求》已正式立项。 


在去年6月举行的首届“AI可持续发展2030论坛”上,商汤智能产业研究院发布了《AI可持续发展白皮书》,响应联合国可持续发展目标,提出了以“尊重协商,探索包容文化”为核心的AI可持续发展观、以人为本、共享惠民、融合发展和科研创新四项AI发展价值观,进一步落到伦理、惠民、产融、可信四项发展原则。这些理念也遵循着商汤的核心企业愿景“让AI引领人类进步”,体现于其在“AI+医疗”,“AI+教育”,“AI+智慧城市”等方面的业务布局。 


对于伦理研究的生态建设思路,本次揭牌仪式上的主旨演讲人之一,商汤智能产业研究院院长田丰曾提出独创性的金字塔理论,即在“可持续AI”愿景的引导下,发展出更为具体的原则,在战略高度上引导企业的业务方向,落实对外的可持续发展研究贡献以及进行内部风险安全控制的举措。实务层面上,反映在企业内部建设的人工智能伦理委员会、数据安全部等组织架构,以及参与人工智能安全方面的白皮书发布,为国家标准和行业标准提供建议等等。


此次与上海交大联合成立计算法学与AI伦理研究中心,也是遵循了商汤伦理生态建设的中心思路,通过联合高校,汇聚丰富的学术资源,通过与产业经验的深度结合,深化人工智能相关的伦理研究,从而促进智能科技治理模式的创新,发扬“可持续AI”的核心发展观,最终创造积极的社会效益,普惠大众


人工智能企业履行社会责任


企业履行社会责任,不是单纯向外部展示所做出的一些成果。想为社会做出实质贡献,只有将“向善”的理念深植于企业的发展观中,才能自上而下地造成影响,自发地反映在实际举措当中。同时身为行业领袖,更要起到带头作用。对于新兴技术的治理议题,龙头企业走在应用的前沿,对于科技所涉及的风险有着更深的理解,因此应该积极地发动整个行业,在法律框架尚处于探索阶段时先形成行业自律,同时通过政策建议、开展研究合作等方式为学术和监管提供宝贵的洞察。


此次与上海交大AI伦理研究中心的合办,便是商汤伦理研究和生态建设思路下的又一次实践。未来我们希望更多来自不同人工智能行业的企业与高校形成联动,开展“校企合作”模式,通过不断反馈前沿应用中总结发现的经验,结合跨领域知识,建设、精进理论框架,逐渐完善AI治理这一不可绕开的社会议题。 


(作者系商汤智能产业研究院研究主任刘志毅,助理研究员侯博瀚,助理研究员郭俊翔对此文亦有贡献)


推荐阅读