최근 상하이(上海)에서 거행된 2021 세계 인공지능 대회에서, 세계적으로 앞선 인공지능 플랫폼 회사인 센스타임 SenseTime이 대중의 뜨거운 환호 속에서 모습을 드러내고, 대회의 주요 포럼, 센스타임 기업 포럼과 인공지능 거버넌스 포럼에서 AI 윤리에 대해 심도 있는 분석과 탐구를 하였습니다.

오랜 시간 동안, 날이 갈수록 새로워지는 과학기술의 발전은 이미 인류 사회에 영향력이 깊은 각양각색의 기술 이노베이션과 혁신적인 사조를 가져왔습니다.

미래를 전망해보면, 인공지능은 과학기술 발전에 전대미문의 완전히 새로운 혁신적 패러다임을 가져올 엄청난 잠재력이 있으니, 한 편으로 인공지능 기술의 발전은 인류가 기초 과학 연구의 경계와 생태계를 확장하는 데에 도움을 줄 수 있으며, 또 다른 한편, 각종 산업은 AI를 받아들임으로써 산업 발전의 완전히 새로운 루트와 혁신적인 방식을 구현할 수 있습니다.

하지만 인공지능의 혁신은 때때로 과거 인식에 대한 타파에서 기인하는 것이므로, 업계 응용에서의 윤리 거버넌스 문제도 점점 더 중요해지고 있습니다.

업계 발전의 각도에서 보면, 인공지능 응용의 양날의 검 문제는 사실 항상 존재해왔던 것으로서, 과학기술 윤리와 프라이버시의 경계도 사회 각계 각층으로부터 점점 더 많은 관심과 주목을 받고 있습니다.

최근 상하이(上海)에서 거행된 2021 세계 인공지능 대회에서, 세계적으로 앞선 인공지능 플랫폼 회사인 센스타임 SenseTime이 대중의 뜨거운 환호 속에서 모습을 드러내고, 대회의 주요 포럼, 센스타임 기업 포럼과 인공지능 거버넌스 포럼에서 AI 윤리에 대해 심도 있는 분석과 탐구를 하였습니다.

인공지능 발전 과정 중에 초래되는 잠재적인 리스크와 도전에 직면해, 센스타임의 공동 창시자이자 CEO인 쉬리(徐立)는 “발전”을 제창하는 AI 윤리 거버넌스관을 공유하였으며, 인공지능 윤리 거버넌스는 매우 중요한 목표를 가지고 있는데, 그것은 바로 인공지능을 사용해서 사회 전체에 고른 혜택을 가져다 주는 발전을 추진하는 것입니다.

AI 거버넌스는 사실 하나의 다중 목표, 다차원의 평형 과정으로서, 그 중심에는 항상 기술 보안의 통제가능성, 인간본위와 지속 가능 발전이라는 균형적인 윤리 거버넌스 규범이 있습니다. 쉬리는 지역별로 서로 다른 발전 단계에서 3자 사이의 균형 있는 발전을 구현해야 한다고 소개했습니다.

첨단 기술을 성공적으로 정착시킴과 동시에, 업계 변화의 빠른 속도도 고려해야 하며, 서로 다른 발전 단계에 맞추어, 서로 다른 거버넌스 프레임워크 아래 균형 발전을 모색해야 합니다. 현재 빠른 속도로 발전하고 있는 중국의 인공지능 산업은 글로벌 경쟁자들을 따돌릴만한 엄청난 가능성이 있습니다.

AI의 거버넌스에 대해서, 센스타임은 산, 학, 연, 정 및 사용자 등의 각계각층과 손을 잡고, 인공지능 산업의 지속 가능 발전에 적응하는 거버넌스 모델을 함께 끊임없이 모색할 것입니다.

또 다른 각도에서 보면, 인공지능은 디지털 경제, 스마트 경제의 발전을 추진함과 동시에, 3대 “격차”라고 하는 문제에도 적극적으로 대처해야 합니다.

예를 들어 AI가 산업의 지속 가능한 발전을 촉진하려면, “취업 격차”를 뛰어넘어야 하고, 발전의 불균형 문제를 해결하려면 “자원 격차”를 보완해야 하며, 도시 중심형 발전이라는 문제에 직면해서는 도시 거버넌스의 “인력 격차”를 축소해야 합니다.

이에 대해, 센스타임 스마트 산업 연구원장 톈펑(田豊)은 코로나 19가 비록 “취업 격차”를 가중시켰지만, 동시에 인공지능 기술의 거대한 잠재력도 보여주었고, 실물 경제가 신기술의 활용을 통해 스마트화 업그레이드를 구현해야 한다는 절박한 수요를 활성화 함으로써 “AI+” 산업의 비약적인 발전을 추진하는 데에 도움이 되었다고 여겼습니다.

그 중에서, 코로나 19는 “디지털 정부”의 구축을 한층 더 추진하면서 사회 거버넌스의 디지털화, 스마트화 전환을 가속화하였습니다.

이 외에, 톈펑(田豊)은 포스트 코로나 19 시대에, 우리는 디지털 기술 응용의 가속화를 추진하고 디지털을 통한 럭키 머니를 충분히 방출하고 누려야 할 뿐만 아니라, 동시에 “자원 격차”를 빠르게 메우고, 전국민 복지 증진 분야에서도 기술과 혁신의 강점을 충분히 발휘하여 디지털 경제 발전이 인종, 세대, 도농, 지역을 뛰어넘어 모든 그룹에게 혜택이 가도록 해야 하며 사회의 공정한 정의를 촉진하도록 해야 한다고도 지적했습니다.

언급할 만한 것은 AI 거버넌스의 실제 운영 차원에서, 수 년 동안 노력을 기울인 센스타임은 이미 혁혁한 성과를 거두었다는 것입니다. 또 한편, 센스타임은 학술계 및 산업계와의 협력을 통해, AI 거버넌스의 관련 연구를 남보다 한 발 앞서 시작했습니다. 예를 들면, 올해 3월에 센스타임은 상하이(上海)교통대학교와 “컴퓨터법학과 AI 윤리 연구센터” 현판식을 개최하고 인공지능 거버넌스의 풍부한 사례 기초를 함께 만들며, AI 윤리와 거버넌스를 위해 판례의 근거를 제공하였습니다. 4월에는 센스타임과 칭화(清華)공공관리대학이 계약을 체결하고 AI 지속 가능 발전 관련 의제를 공동으로 연구하여, AI의 민첩한 거버넌스 구현에 더욱 많은 힘을 보태기로 하였습니다. 뿐만 아니라, 센스타임의 《AI 지속 가능한 발전 백서》도 “인공지능 전략 자원 가이드”에 수록되었습니다. 이번 WAIC에서 센스타임 스마트산업연구원의 주임인 류즈이(劉志毅)는 “컴퓨터 법학과 AI 윤리 연구센터”를 대표하여 법치 청년 포럼에 참석하였으며, 인공지능 발전과 법치 문제에 관한 센스타임의 관점 및 실천도 최근에 발표된 《세계 인공지능 법치 청서》에 자연스럽게 수록되었습니다.

또 한편, 센스타임은 내부에 윤리위원회, 보안위원회와 제품위원회를 설립하였으며, 엄격한 인공지능 기술 사용의 윤리 표준을 작성하고 시행함으로써, 개인 프라이버시를 최대한 존중하고 보호할 것을 확실하게 보장하며, AI 기술이 정확하게 응용되도록 하였습니다.

뿐만 아니라, 센스타임은 3개의 국제 보안 표준과 하나의 국가 테스트 표준도 통과하였는데, 이는 각각 ISO27001 정보 보안 관리 체계 인증, ISO29151 개인 신분 정보 보호 실천 가이드 인증, ISO27701 개인정보 관리 체계 인증 및 공안부의 “네트워크 보안 등급 보호 2.0” 레벨 3의 요구이며, 이로써 이 4대 인증을 동시에 취득한 최초의 인공지능 기업이 되었습니다.

동시에, 센스타임은 국가 안면인식 업무팀장 역할을 맡아 중국 안면인식 시스템의 기술 표준과 테스트 표준 작성 작업을 지휘하였습니다. 국제 표준 차원에 있어서, 2020년 말, 센스타임은 IEEE 표준 《안면인식 시스템 기술 요구》를 성공적으로 입안하였으며, “안면인식” 업무팀의 책임자로 활약하였습니다.

“원천 기술을 고수하여, AI가 인류의 발전을 이끌도록 한다”는 센스타임의 사명이자 원대한 비전입니다. 이것은 센스타임이 AI 거버넌스 사업을 진일보하게 생각하고 실행하도록 하며, 대중을 행복하게 하고, 업계의 능력을 강화하며 개방 혁신을 포용하는 데에 인공지능을 사용하도록 촉구하는 것이기도 합니다.

인공지능 업계의 지속 가능 발전은 영원이 끝나지 않는 목표입니다. 센스타임은 시야를 먼 미래에 두고 AI 거버넌스 사업의 진보를 지속적으로 추진하며, 인공지능 기술의 공정, 안전, 통제 가능하면서도 책임 있는 발전과 사용을 촉진하기 위해 노력할 것이며, 또한 가장 책임 있는 자세로 인공지능 업계의 장기적이고 건전한 발전을 추진할 것입니다.