人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
AI创新链产业链融合发展 赋能数字经济新时代《中国人工智能专利技术分析报告（2022）》发布****** 2022年12月，国家工业信息安全发展研究中心、工信部电子知识产权中心发布《AI创新链产业链融合发展赋能数字经济新时代—中国人工智能专利技术分析报告（2022）》，这是中心连续第5年就中国人工智能专利技术发展情况发布报告。 在新一轮科技革命和产业变革的大背景下，人工智能创新链产业链“双链”融合是释放数字化叠加倍增效应、驱动数字经济智能化跃升、打造产业综合竞争优势的必然路径。《报告》基于人工智能高价值专利增强创新链活力和助力产业链升级的角度，对深度学习、智能云、计算机视觉、智能语音、自然语言处理等十大技术领域进行专利申请趋势和分布构成分析，从“创造力”“保护力”“运用力”“竞争力”“影响力”五大方面对人工智能创新主体进行专利创新评价，研究人工智能专利如何高效助力各类“智慧+”应用场景落地，并对未来新兴人工智能技术应用和专利布局趋势作出研判。
图1 人工智能创新链产业链融合发展图谱 《报告》对人工智能高价值专利如何为创新链产业链融合发展保障护航进行了定量和定性分析。从行业公认的能够直观体现高价值专利的几个因素来看，自2011年、2012年开始，人工智能领域的中国专利奖占比逐年提高、专利许可转让数量呈上升趋势、专利诉讼遍及多个应用场景，展现了高价值专利对技术产业应用相辅相成的走势。 十大基础技术领域的专利数量稳步增长，极大激发AI创新链活力。深度学习、智能云、计算机视觉、智能语音、自然语言处理、大数据、知识图谱、智能推荐、智能芯片、量子计算等智能技术构成了人工智能创新链技术底座，也是产业链应用的基础技术。在技术与政策双红利的推动下，2016-2021年深度学习专利申请年均复合增长率达到53%，对人工智能的引领作用开始逐步凸显；相比之下，智能语音、自然语言处理、大数据、知识图谱和智能推荐领域的专利申请呈现稳步增长的态势，其中2021年自然语言处理的专利申请量仅次于深度学习、智能云和计算机视觉，发展势头强劲；智能芯片和量子计算由于起步相对较晚，相关专利储备较少，仍处于技术加速积累的阶段。国内创新主体也纷纷展开专利布局，不断增强市场竞争实力。例如百度公司在深度学习、智能云和智能驾驶等多个领域继续保持领先优势，寒武纪、浪潮和华为在智能芯片领域展现了充分的专注度和科研实力，清华大学、浙江大学等高校也在计算机视觉和自然语言处理等领域投入更多研发资源，成为基础攻关的重要力量。
图2 AI创新链十大基础技术专利申请趋势和分布构成 AI创新主体展现积极创新面貌，中小企业为产业发展增添新力量。从创新主体的申请量排名上看，百度、腾讯、国家电网、华为位列前四，专利申请数量均突破10000件，是我国AI领域技术创新的主力军。从专利授权量上看，仍然是上述四家企业位居前列，且百度公司专利申请量和授权专利持有量均排名第一。此外，腾讯专利2017-2020年腾讯专利申请年均复合增长率高达70%，在AI领域前四创新主体中申请量增速排名第一。从授权专利占比上看，申请量排名第七的清华大学和第九的浙江大学，均以45%的授权专利占比排名前两位。作为技术创新的重要源泉和吸纳劳动力就业的重要载体，大量中小企业也积极涌入人工智能赛道，在创新链一侧，我国人工智能领域企业主体共申请专利超过110万件，中小企业专利贡献超过90%。从产业链看，AI技术在中小企业中的普及率超过40%，语音识别、智能制造等技术在中小企业应用广泛，助力中小企业升级改造和智能化应用。
图3 创新链前十创新主体专利申请量和授权量 AI核心技术领域高价值专利集聚明显，产学研合作稳步推进。当前，智能云和深度学习是高价值专利数量最多的两个领域，百度得益于更早地投入与布局，展现专利申请数量与质量同步提升的发展态势。其他创新主体也结合自身业务发展方向，在不同的基础技术领域进行了有针对性的布局，如国家电网在深度学习和大数据领域，浪潮集团在智能云，阿里巴巴在智能推荐，平安科技在自然语言处理和计算机视觉都保持着创新优势。高等院校在人工智能领域技术创新活跃，涌现了大量专利成果，并通过与企业成立联合实验室和技术研发中心等方式，加快产学研用协同创新进程。截至2022年9月，我国人工智能领域产学研联合申请专利数量超2万余件，其中发明专利占比约90%，整体呈上升趋势增长，产业应用较为广泛。
图4 中国AI创新主体高价值专利技术布局
图5 AI领域产学研联合申请专利发展趋势图 AI专利助力新兴应用场景落地，推动产业链转型升级。目前，人工智能创新链的产业化应用主要集中在智慧城市、智慧交通、智慧医疗、智慧金融、智慧工业和智慧教育等领域。从技术应用的成熟度来看，不同AI技术在不同场景的应用呈现出阶梯式发展的态势。智慧工业是当前各创新主体主要布局的技术应用场景，AI专利申请量达到65万余件，其次就是智慧金融，专利申请量为30万余件。其中也涌现出“海淀城市大脑”“灵医智惠AI医疗品牌”“智慧交通解决方案TrafficGo2.0”“普惠金融人工智能开放平台”等众多优秀实践案例，推动高端智能技术与行业的融合发展。 “智慧+”场景应用创造出更多产业增长点，新兴人工智能技术生成数字经济发展新动能。AI在城市、交通、医疗、教育及工业等场景的融合应用加速，不断催生新业态新模式新产业。以智慧工业为例，将工业互联网、人工智能等在内的智能制造新技术与工具，集成到工业生产流程中，正在引领我国工业数字化新生态。报告显示，截至2022年9月，我国智慧工业领域申请专利共计65万余件。百度公司以近9000件专利总数位居第一，国家电网位居第二，其余创新主体专利申请量差距不大，发展潜力较强，各创新主体在智慧工业领域的专利布局积极竞争，难以拉开较大差距。与此同时，基于人工智能的深度学习、内容生成，语音、视觉识别技术越来越成熟，以元宇宙和数字人技术为代表的新兴技术，也迎来了专利的快速积累阶段，百度、腾讯、华为等企业积极开展前沿专利布局，探索人机交互发展和应用，助力数字经济高质量发展。
图6 中国元宇宙专利主要申请人排名
图7 中国数字人专利技术申请－公开趋势 《报告》结合当前人工智能知识产权生态建设和全产业链专利布局情况，对产业高质量可持续发展提出总结与展望。人工智能是新一轮科技革命和产业变革的重要驱动力量，发展人工智能是支撑科技自立自强、实现高质量发展的重要战略。党的二十大报告提出，推动战略性新兴产业融合集群发展，构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。当前，人工智能技术与5G、云计算、大数据的融合发展已将成为推动数字经济发展的动能源泉，今后将进一步与其他数字技术相互碰撞出全新的科技驱动力。随着人工智能创新发展跨入新的历史阶段，专利申请总量突破百万件，专利申请趋势仍在快速增长，技术人才规模不断扩大，产业融合广泛深入，应当在底层关键技术突破、建设知识产权生态、大中小企业共同完善专利布局、开辟更广泛应用场景等方面发力，实现创新链与产业链的协同发展。 大众彩票地图 |
