在近日中国计算机学会计算法学分会举办的首届年会上，商汤科技副总裁、伦理与治理委员会主席张望，受邀在主论坛发表演讲，面向国内外百名专家学者和企业领导者，分享了“商汤科技AI伦理与治理前沿实践”的主题报告，从组织建设、伦理研究、治理实践、生态合作四方面重点介绍了商汤科技在人工智能伦理与治理方面的实践探索。

▎推进人工智能伦理治理工作体系建设

演讲中，张望首先介绍了商汤人工智能伦理治理的组织建设。

商汤在2020年1月正式成立“人工智能伦理与治理委员会”，是业界最先组建人工智能伦理与治理委员会，并将伦理治理工作作为公司战略级方向的科技创新企业之一。

同时，商汤与多所知名高校建立密切的伦理研究合作机制，积极开展合作课题，推动AI技术向负责任且可持续的方向发展。

▎坚持“平衡发展”的人工智能治理实践

在人工智能伦理治理实践中，张望阐述商汤科技坚持“平衡发展”的伦理观，把“可持续发展、以人为本、技术可控”的伦理原则落实到实际工作中，四年来不断推动伦理治理工作迭代升级。

商汤科技致力于将伦理原则嵌入到产品设计、开发、部署的全生命周期，今年在业界首次提出发展“负责任且可评估”的人工智能，并将其作为开展人工智能治理的愿景目标。

为实现这一目标，着力推进三方面的人工智能伦理治理实践：一是建立覆盖产品全生命周期的风险控制机制；二是开发一系列流程工具和技术平台；三是做好公司内部的科技伦理宣贯。

目前，商汤已建立起覆盖产品全生命周期的风险控制机制，针对人工智能领域面临的数据、算法及应用管理风险，初步形成了人工智能治理闭环。

例如，在应对算法风险上，商汤通过建立“算法定级备案管理与安全评估机制”，成立“算法安全管理工作组”，从技术局限、算法设计、软件缺陷、数据安全、框架安全等多个维度对算法风险进行安全评估。

同时，商汤与多所知名高校建立密切的伦理研究合作机制，积极开展合作课题，推动AI技术向负责任且可持续的方向发展。

▎坚持“平衡发展”的人工智能治理实践

在人工智能伦理治理实践中，张望阐述商汤科技坚持“平衡发展”的伦理观，把“可持续发展、以人为本、技术可控”的伦理原则落实到实际工作中，四年来不断推动伦理治理工作迭代升级。

商汤科技致力于将伦理原则嵌入到产品设计、开发、部署的全生命周期，今年在业界首次提出发展“负责任且可评估”的人工智能，并将其作为开展人工智能治理的愿景目标。

为实现这一目标，着力推进三方面的人工智能伦理治理实践：一是建立覆盖产品全生命周期的风险控制机制；二是开发一系列流程工具和技术平台；三是做好公司内部的科技伦理宣贯。

目前，商汤已建立起覆盖产品全生命周期的风险控制机制，针对人工智能领域面临的数据、算法及应用管理风险，初步形成了人工智能治理闭环。

例如，在应对算法风险上，商汤通过建立“算法定级备案管理与安全评估机制”，成立“算法安全管理工作组”，从技术局限、算法设计、软件缺陷、数据安全、框架安全等多个维度对算法风险进行安全评估。

委员会统筹推进人工智能伦理治理工作体系建设，日常职责包括制定伦理领域战略发展规划、产品伦理审核和风险把控、内部伦理通识培训与宣传，伦理治理生态体系建设、参与伦理标准讨论与制定、开展伦理联合研究等六个方面。特别是在伦理联合研究方面，商汤早在2019年即开始持续推进人工智能伦理研究，并提出平衡发展的伦理观，倡导“可持续发展、以人为本、技术可控”的伦理原则。