平衡发展的AI治理白皮书

  • A+
所属分类:健康智库

“平衡发展”的人工智能治理白皮书——商汤人工智能 伦理 治理 年度报告(2022 年)

商汤科技(以下简称“商汤”、“公司”或“我们”)主动向社会公众报告公司的人工智能伦理 与 治理 情况 ,让全社会了解、监督商汤的人工智能伦理 与 治理工作。
商汤面向社会 各界 发布人工智能伦理 与 治理报告 ,旨在通过及时披露商汤的人工智能伦理治理理念 和实践,促进商汤与利益相关方以及社会公众之间的了解、沟通与互动,推动发展负责任且可评估的人工智能。

一、人工智能发展与治理概述
“2010 年前后,人工智能步入新发展阶段,算力和数据成为主要驱动。此阶段的人工智能,某种程度上不再以人的认知为依据,其规则跳出了当前人的认知边界,引发更多有关治理的探讨” ——商汤科技CEO,徐立

过去十年,人工智能技术在深度学习、大数据,以及“摩尔定律” 的支撑下取得一个又一个突破性进展,在计算机视觉、自然语言处理、语音识别等不同细分领域实现商业化落地。截至目前,人工智能已在城市治理、教育、金融、医疗、零售、交通、文娱、制造等众多场景获得广泛应用,并正加速向科学研究、文艺创作等知识拓展类场景渗透。人工智能作为一项通用目的技术,正在被广泛的认可和采用,一个泛在智能的时代正在加速到来。
纵观历史,通用目的技术在推动社会生产力实现跃迁的同时,不可避免地会对原有的社会生产关系带来革命性影响。这一规律同样适用于人工智能,尤其是,当数据驱动的人工智能突破人类既有认知的边界时,其对原有社会生产关系形成的冲击将比以往任何一次技术革命都要强烈。即便在尚处于“弱人工智能”阶段的当下,人们对自动化决策系统鲁棒性、公平性的关切,对算法推荐、深度合成以及生物特征信息识别技术滥用的担忧,无不清晰地表明,如果不能尽快就人工智能的发展目标、发展方式以及应用规范等问题达成广泛共识,人工智能技术走向规模应用将持续面临信任挑战。

面向 3.0 阶段 ,我们认为, 人工智能治理的 技术验证 应当包 括两个层面 :

一是通过实践验证原则、政策要求和标准的可落地性,

二是通过采用技术工具验证各方对人工智能治理规范的落实程度。

未来, 深入推进 人工智能治理 还应重点 处理好 以下“三组关系”:

  • HealthIT.CN小程序
  • 产学研医创新平台
  • weinxin
  • 健康数据
  • HealthIT公众号
  • weinxin
admin

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: