- AI伦理与治理
- 人工智能正迅速发展,深刻地改变人类社会生活、改变世界。为促进新一代人工智能健康发展,加强人工智能法律、伦理、社会问题研究,积极推动人工智能全球治理,商汤科技成立了AI伦理与治理委员会,并发布《AI可持续发展白皮书》。
7月8日,2021世界人工智能大会治理论坛在上海世博中心举办,聚焦“以人为本,实践为要”主题,交流人工智能治理的国际经验,研讨如何通过社会实践活动发展负责任的人工智能,探索人工智能治理的“上海经验”。商汤智能产业研究院院长田丰受邀出席,在论坛上发表《AI可持续发展:后疫情时代的“家国天下”》主题演讲,并发布疫情白皮书《后疫情时代的数智化加速》。
AI治理要跳出传统的科技思维,融合东方的伦理观思考问题。
近两年,商汤智能产业研究院研究了上百份全球AI伦理和治理标准规范,我们总结了三十多个维度,并将之概括为三大类AI治理观,即:可持续发展、以人为本、技术可控。
全球AI治理观(来源:商汤智能产业研究院)
其中,可持续发展的AI治理观,包括可持续发展、保护环境、保护和平、包容共享等伦理主题;以人为本的AI治理观,包括保护人权、保护隐私、造福人类、公平无歧视等伦理主题;技术可控的AI治理观,包括可验证、可审查、合法、可信任等伦理主题。
总体来说,如何在可持续发展的前提下,以人为本,并且保证AI在实践应用中技术可控是为全球AI治理的根本出发点。基于此,商汤提出以“可持续发展、以人为本、技术可控”组成的“AI治理三角形”,作为新一代科技范式下AI治理的重要抓手,旨在跳出传统的思维局限,集结更多元的思维视角,以此来规范人工智能创新和发展的伦理边界。
商汤“AI治理三角形”(来源:商汤智能产业研究院)
疫情,以及日益严峻的气候问题也为AI治理带来三大新启示:
环境优先。碳排放造成全球气温上升,环境优先取代“人本中心”。据BCG预测,到2030年,使用AI能减少26-53亿吨二氧化碳。
社会优先。截至2021年6月底,疫情已造成全球死亡人数390万,给人类社会造成极大冲击。全人类福祉应高于个人利益,群体应优先于个体。据IEEE统计,在亚洲各国,AI将3个月的新冠病毒检测缩短到2-3周,已为上百家医疗机构的数十万病患服务。
可持续发展优先。疫情造成全球全职岗位减少和经济重大损失,可持续发展应优先于追求经济增速。据BCG预测,到2030年,AI应用于企业可持续发展能提升1.3~2.6万亿美元的经济价值。
后疫情时代,如何面对气候挑战,增进人类福祉,创造更多就业岗位等将是摆在全人类面前的重要命题,与联合国可持续发展目标也是密切相关的。习主席也指出,破解一系列全球性问题,可持续发展是“金钥匙”。因此,对于人工智能行业而言,应始终秉持发展的AI治理观,同时坚守三大发展原则,即:共赢发展原则、包容发展原则、民生发展原则。这也是东方伦理观在人工智能发展上的重要体现。
可持续AI发展原则(来源:商汤智能产业研究院)
那么什么是东方伦理观?从中国历史和文化的视角看,东方伦理观为“家国天下”,即为同心打造人类命运共同体的思想溯源。这也是中国AI治理观与西方国家的核心差异,在疫情期间尤为凸显。例如,商汤在疫情期间,通过数字人医生为千家万户普及抗疫知识;SenseCare辅助肺炎诊疗,驰援湖北等重灾区,为国家抗疫贡献力量;AI测温出海日韩,支援全球疫情防控。所谓“天地之大,黎元为本”,“大道之行,天下为公”,人工智能在疫情期间真正体现出“家国天下”的社会价值。
在东方伦理诠释的语境下,AI发展应坚持“以人为中心、以自然为中心、以高质量发展为中心”,通过践行“创新、协调、绿色、开放、共享”五大发展理念,来破解本国发展瓶颈,积极应对当前国际社会面临的一系列全球性挑战,在不稳定不确定的世界中谋求可持续发展之道,共促人与人、人与自然和谐共生,实现后疫情时代的“家国天下”。
AI可持续发展观:三个中心,五大发展理念
在具体实务中,AI在推动数字经济发展的同时,应积极应对发展可能带来的一系列的“鸿沟”问题。例如,促进产业可持续发展,跨越“就业鸿沟”;解决发展不平衡问题,弥合“资源鸿沟”;面对城市集聚式发展挑战,缩减政务治理的“人力鸿沟”。
AI兴业:可持续产业,跨越“就业鸿沟”
疫情重创实体经济,造成全球大规模失业,进一步加剧了 “就业鸿沟”。然而,虚拟经济业态蓬勃发展和新兴岗位增加,也进一步展现出人工智能技术的巨大潜力,引发实体经济应用新技术的迫切需求,助推“AI+”产业迅速发展。这一现象与2003年“非典”加速互联网技术渗透十分类似,但与“网络经济”发展的逻辑不同,叠加数字化发展,AI在数据分析和决策效率上的显著优势,将有助于对产业“全链路”——设计、制造、运维、服务、营销等环节的高效赋能,促进产业效率大幅提升,成为经济增长的“新动能”,从而帮助实体经济跨越“就业鸿沟”。
疫情也让我们看到旧经济发展模式的不可持续性。旧经济发展主要依靠传统要素驱动,受资源环境的约束小,劳动力依赖程度高,在面对势不可挡的人口老龄化趋势,不断攀升的用工成本,以及因自然资源的过度透支引发的气候、环境威胁,原有低端、粗放、高耗能的发展模式将不可持续。结合“经济换挡”的客观要求,产业发展应顺势而为,努力摆脱传统要素制约,以技术创新引领产业升级,积极推动AI与产业发展的深度融合,提升产业效能,降低能源消耗,走“绿色、安全、集约、高效”的可持续发展路线,这与“十四五”新发展理念不谋而合。
在具体实践上,商汤以AI+AR技术助力电网智能巡检,从而提高电力运维效率,有效保障电网运行安全,助力电力行业绿色、低碳化发展,同时通过现场单兵作战+ AR远程专家支持,帮助运维人员提高工作技能,跨越“就业鸿沟”;在本次遭受疫情重创的旅游产业中,商汤通过融合AI、AR技术应用,助力文旅供给侧智慧化升级,为游客带来全新的文化和旅游消费体验,推动文旅产业的可持续发展。例如,商汤与昆明池景区合作,共同打造了AI+3D可视化智慧景区综合解决方案,实现危险水域安全管理、进出游客数量统计、走失儿童/老人找回、客流热力图、人群密集提醒等功能,有效提升景区安全和管理效率;与故宫文化合作的“金榜题名”互动展,融合了AI/AR互动体验和场景复原,让游客以直观的方式体验古代科举文化。
AI惠民:可持续社会,弥合“资源鸿沟”
疫情凸显了区域发展不平衡导致的“资源鸿沟”。疫情暴发后,严重地区的病患数量远超地方医疗体系的承载能力,比如,武汉市发热门诊高峰时段就诊人数全天超1.5万人。武汉常住人口达到1100万,拥有36家三甲医院,医疗实力放眼全国也很有竞争力,但在疫情冲击下,依旧困难重重。在湖北其它城市,医疗资源面临更大挑战。紧临武汉的黄冈,作为湖北省人口第二大城市,拥有630万的常住人口规模,三甲医院数量却仅为2家。
在后疫情时代,我们既要推动数字技术的加速应用,充分释放和享受数字红利,同时也要时刻保持对民生问题的高度关注,尤其在加快弥合“资源鸿沟”,统筹社会资源以增进全民福祉方面,充分发挥技术和创新优势,让数字经济的发展跨越种族、代际、城乡、地域,惠及所有群体,促进社会公平正义,在幼有所育、学有所教、劳有所得、病有所医、老有所养、住有所居、弱有所扶上不断取得新进展。
商汤结合AI、AR技术应用,可以帮助老人实现“有尊严、有质量、有乐趣、有价值”的老年生活。在蓝光嘉宝社区,当智慧社区管理系统检测到失智老人离开小区时,可及时向家属推送提醒;对于孤寡老人长时间没有进出小区记录时,系统可向管理人员发送提示,管理人员可进行电话问询或上门探访,为孤寡老人筑起安全屏障,提供24小时社区关怀。
疫情期间,商汤向湖北一线以及十几个地市的医疗机构提供肺部AI辅助诊断,实现对CT影像的智能化诊断与定量评价,几秒内就能完成定量分析,自动筛查疑似病例,极大缓解医疗资源战时压力。与此同时,在“平时”,AI+医疗不仅大幅提高诊疗效率和准确率,将三甲医院医生经验标准化成算法还可进行规模化复制,解决医疗资源配置不均问题。
在普及AI教育方面,商汤通过编写AI教材,以及创新AI教育开放平台模式,推动AI教育进课堂。疫情期间,商汤积极响应教育部“停课不停教、不停学”的号召,迅速制定出“AI基础教育涨知识在线学习”解决方案,向百区千校师生免费开放商汤AI教材和课程。
AI善治:可持续政务,缩减“人力鸿沟”
城市集聚式发展凸显“人力鸿沟”,所带来的一系列城市治理与环境保护问题成为亟待解决的重要问题。例如,随着城市的不断拓展,如何疏解一些地区不合理的城市化发展所导致的水土流失、植被破坏、违章建筑等难题;在促进城市“硬经济”发展的同时,如何兼顾人文气息、文化包容、绿色环保的“软生态”塑造,让城市环境和谐宜居;在面对公共安全、突发公共卫生事件、重大灾害等应急管理方面,如何做到快速响应、精准治理等等,这些都是摆在施政者面前的治理难题,传统“人拉肩扛式”治理模式面临严峻挑战。
疫情推进“数字政府”建设,加速社会治理数字化、智能化转型。与传统意义上由政府主导、人力治理模式不同,现代政务治理一方面更强调政府治理需求与企业技术能力结合的“一体化治理”模式;另一方面结合人工智能在多源大数据分析上的显著优势,替代传统人海战术,缩减“人力鸿沟”,通过AI辅助治理追根溯源,实现治理的精细化、动态化和可预测化。
为响应政府疫情中的治理要求,商汤AI智慧防疫解决方案在首都机场3号航站楼站、上海交大徐汇食堂等公共场所落地,提高公共场所人群测温检测速度,减少交叉感染风险,有效减少人力投入,高效支撑基层防控工作。
在城市治理方面,为满足青岛西海岸新区政府决策需要,商汤以SenseEarth技术为核心搭建城市级专业AI遥感分析平台,可全方位掌握该区域的空间地理信息及其变化情况,将解译效率提升数十倍,几小时内就可以完成青岛西海岸新区2000多平方公里范围内的建筑物变化检测工作,针对城管执法、环保检测、河道治理等不同单位的不同治理场景,实现科学、精准的分析支持。
在灾害应急方面,结合商汤AI遥感影像解译在防汛救灾领域的应用,可以高效地提供精准的量化分析数据,这将为抢险救灾指挥救援、防控策略制定、防汛物资调配等决策场景,提供及时有效的参考依据,极大助力从地方到国家的整体防汛能力。
-
2023年4月25日,联合国大学驻澳门研究所(UNU Macau)举办联合国世界数据论坛(UNWDF)澳门卫星论坛,主题为“打破数据困境:以人为本的系统方法应对数据和数字技术发展的风险与机遇”。商汤智能产业研究院院长田丰受邀参加“Regulatory Dilemmas and Digital Technologies”(监管困境和数字技术)分论坛。2023-04-28
-
2月25日下午,商汤智能产业研究院院长田丰参加2023全球人工智能开发者先锋大会(GAIDC),发表《AIGC伦理与治理初探》主题演讲。2023-03-06
-
“商汤已初步建立起人工智能伦理治理体系,力求实现从理论到实践、从组织到机制、从研发到产品的全生命周期的多维度闭环”。2022-11-22