自2017年成立以来，联合国世界数据论坛已成为该领域最重要的国际合作平台，旨在激励数据创新，培育伙伴关系，动员高层对数据领域的政治和财政支援，并探索更好的以数据建设促进可持续发展的路径。联合国大学校长、联合国副秘书长西里达兹·马尔瓦拉在论坛开幕式上表示：“我们正处在一个技术加速发展的时代，其特点是大数据、数字化和人工智能（AI）的快速发展。这些变化带来了令人难以置信的机会，但也有必须应对的风险。”联合国大学驻澳门研究所（UNU Macau）作为唯一拥有卫星论坛举办资格的机构，旨在邀请区域内及领域内利益相关者，从不同角度为解决数据困境提出行动建议，并以此助力联合国2030可持续发展目标的实现。

活动当天，卫星论坛举办了12个平行会议，聚焦关于数据困境的各种议题。商汤智能产业研究院院长田丰受邀参加“Regulatory Dilemmas and Digital Technologies”（监管困境和数字技术）分论坛。

人工智能治理体系建构的目标，就是发展负责任的人工智能，需要做到有迹可循、有据可查。田丰介绍，基于“平衡发展”的伦理观，“以人为本、技术可控、可持续发展”的伦理原则，商汤于行业首次提出发展“负责任且可评估”的人工智能，并将其作为开展人工智能治理的愿景目标，“负责任且可评估的人工智能”的核心要求包括：对人负责、对社会负责、对环境负责、责任可溯源、风险有评估、过程可评估和效果可评估。

田丰表示，商汤长期高度重视AI伦理治理，多年来成功建设伦理风险库，成立“人工智能伦理与治理委员会”，全面建立产品伦理风险审查机制，实现产品伦理风险分级分类管理，并建设伦理治理技术与管理工具箱，建立覆盖产品全生命周期的伦理审查体系，包括从设计阶段的自我审查、开发阶段的风险评估、部署阶段的伦理风险审核到产品上线后的跟踪审查。

田丰认为，在以AIGC为代表的人工智能产业高速发展的同时，其伦理治理风险也应受到关注，比如国内外多家核心期刊对学术发表中使用人工智能工具做出了严正回应，而除了学术造假和作弊等问题外，AIGC还会引发版权和虚假信息等问题。综合来看，AIGC伦理治理风险主要涉及应用风险、模型风险和数据风险。具体来看，应用风险主要包括滥用风险、技能换代、伦理分歧和不公平竞争；模型风险主要包括算法偏见、算法黑箱、后门嵌入和代码漏洞；数据风险主要包括版权保护、隐私保护、数据偏差和数据投毒。

针对上述风险，田丰介绍，商汤科技正式推出“AI安全治理开放平台”（http://aisafe.sensetime.com/home），旨在充分发挥商汤多年在AI安全领域的技术沉淀和实践经验，为行业健康可持续发展打造互操作的AI安全技术公益平台，推动建设开放、可信的人工智能创新生态。在深度模型安全上，平台可提供模型体检（涵盖对抗安全、鲁棒性以及后门安全评估）和开源的防御解决方案（鲁棒训练插件、AI防火墙）。在内容创作上，平台提供商汤数字水印功能以达到作品的防伪溯源，并且利用投毒技术保护图片信息不被深度模型所利用。

此外，田丰结合六个应用实例对平台功能进行了介绍：比如数字水印技术，可实现对多图层(PSD)格式文件添加水印，在无损视觉效果的基础上，还保障了文件的真实性和可溯源性；而结合数据投毒技术，对创作者作品添加不可见扰动，可以使其风格无法被深度学习模型拟合，从而对作者独特的创作风格进行保护等。

展望未来，商汤将继续在AI治理道路上贡献自己的力量，我们也诚挚邀请各界共同打造开放、可信的人工智能创新生态，让技术赋能产业升级和创新发展。