人工智能
人工智能立法提速 把握“边界”是关键
发布时间:2019-3-5  作者:陆一夫  来源:新京报  浏览量:1157
随着人工智能的迅猛发展,其对社会、经济、文化等领域已经产生越来越深远的影响。同时,人工智能面临伦理道德框架、隐私与安全保护等问题,为了让人工智能实现健康发展,急需一套完善的法律体系与之匹配。

李彦宏

全国政协委员、百度董事长兼CEO

立法本身不应该太超前,很多时候新事物刚刚出现,让它稍微跑一段时间然后再总结经验,找到规律再来立法。其次,在不同的领域,涉及的立法都不一样,比如说像无人驾驶,在过去就没有相关的法律。

刘庆峰

全国人大代表、科大讯飞董事长

人工智能立法首先要保障人类的生命和财产安全,也就是说人工智能一定是要在风险可控范围内来使用,比如说在自动驾驶领域,它的应用门槛和标准是什么;在医疗领域,人工智能要达到一定的准确度,而且最好通过一定的资质认证。

3月4日上午,十三届全国人大二次会议举行新闻发布会,大会发言人张业遂表示,已将与人工智能密切相关的立法项目列入立法规划。

张业遂称,全国人大常委会已将一些与人工智能密切相关的立法项目,如数字安全法、个人信息保护法和修改科学技术进步法等,列入本届五年的立法规划。同时把人工智能方面立法列入抓紧研究项目,围绕相关法律问题进行深入的调查论证,努力使人工智能创新发展,努力为人工智能的创新发展提供有力的法治保障。

从2017年首次被写进政府工作报告,到去年受到多位两会代表委员关注,人工智能俨然已经成为两会的焦点。2018年国务院总理李克强作政府工作报告时提到,发展壮大新动能。做大做强新兴产业集群,实施大数据发展行动,加强新一代人工智能研发应用,在医疗、养老、教育、文化、体育等多领域推进“互联网+”。

随着人工智能的迅猛发展,其对社会、经济、文化等领域已经产生越来越深远的影响。同时,人工智能面临伦理道德框架、隐私与安全保护等问题,为了让人工智能实现健康发展,急需一套完善的法律体系与之匹配。

从追赶到全球领先

虽然人工智能最早的浪潮起源于上世纪50年代的美国,但经历了近70年来的曲折发展,中国已经成为全球领先的人工智能大国。根据联合国下属的世界知识产权组织(WIPO)公布的研究报告《技术趋势2019:人工智能》显示,在全球人工智能领域的竞争中,中国和美国处于领先地位。

报告指出,AI专利申请最多的前20家科研机构中,有17家来自中国;AI相关科学出版物数量排名前20的科研机构中,10家来自中国。全球前30名AI专利申请方中的4家科研机构,有3家来自中国。

另据CNNIC第43次调查报告显示,截至2018年6月,我国人工智能企业数量已达到1011家,主要集中在北京、上海和广东。其中,北京拥有395家企业,成为全球人工智能企业最多的城市。

去年,习近平总书记在中共中央政治局第九次集体学习时强调指出,加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手,是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。

他在讲话中特别指出,人工智能具有溢出带动性很强的“头雁”效应。“在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的驱动下,人工智能加速发展,呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征,正在对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。”

立法工作有待加快

中国在热情拥抱新一轮人工智能热潮的同时,从政府部门到产学研各界对于人工智能发展所涉及的法律及伦理问题给予了高度关注。2018世界人工智能大会开幕式上,习近平总书记强调,处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题。

与电商法历时5年才正式落地不同,人工智能立法更早被两会代表委员关注。去年两会期间,全国政协委员、百度董事长兼CEO李彦宏就在提案中表示,希望国家出台政策鼓励人工智能的开放平台与加速自动驾驶相关立法。

目前,中国人工智能的总体政策在2017年7月国务院发布的《新一代人工智能发展规划》中得到体现,但该规划只是要求对人工智能在部分领域初步建立伦理规范和政策法规,尚未上升至法律层面。由此可见,人工智能的立法仍有待加快。

全国人大代表、湖北得伟君尚律师事务所首席执行合伙人蔡学恩认为,在人工智能行为伦理道德框架、人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等问题上的研究均需要加强。

立法有何挑战?

人工智能的立法需尽快提上议程,但亦应注意到人工仍属于新生事物,如何把握适当的边界是关键,尤其是考虑到人工智能可以应用到金融、医疗、交通等多个场景中,出台一部总括性的法律可能会阻碍人工智能的发展。

今年两会前夕,李彦宏在接受新京报记者采访时就表示,人工智能立法本身不应该太超前,“很多时候新事物刚刚出现,让它稍微跑一段时间然后再总结经验,找到规律再来立法。”

李彦宏表示,在不同的领域,涉及的立法都不一样,比如无人驾驶,在过去就没有相关的法律。“北京市很重视无人驾驶,很快有相应的法律来保障我们的创新能够有序进行。”

全国人大代表、科大讯飞董事长刘庆峰亦向记者表示,以AI+医疗为例,虽然机器给病人诊断的平均准确率比一些基层的农村医生要高,但是从法律层面来说机器不能给病人看病,因此更多的时候是将机器得出的结论交给医生,让医生来做决定。  本版采写/新京报记者 陆一夫

■ 访谈

李彦宏:人工智能立法不能太超前

让它跑一段总结经验再立法;无人驾驶、智能医疗等领域都需要立法

全国政协委员、百度董事长兼CEO李彦宏今年的三项提案均与人工智能相关,分别是构建智能交通解决方案,让老百姓出行更顺畅;完善电子病历管理制度,促进智能医疗应用探索,助力“健康中国”战略实施;加强人工智能伦理研究,打造智能社会发展基石。

新京报:关于人工智能立法,你有哪些建议?

李彦宏:首先,我觉得立法本身不应该太超前,很多时候新事物刚刚出现,让它稍微跑一段时间然后再总结经验,找到规律再来立法。其次,在不同的领域,涉及的立法都不一样,比如说像无人驾驶。北京市很重视无人驾驶,很快有相应的法律来保障我们的创新能够有序进行,到今天百度已经拿到了50张左右的自动驾驶测试车证。

医疗方面也需要相关的立法,统一电子病历的格式,必须要有什么样的字段,要有什么样的内容,不同的医院、机构之间进行交换,必须保护患者的隐私等等,都应该通过立法的方式来解决。

新京报:如何解决互联网和AI发展过程中遇到的数据孤岛的问题?

李彦宏:以电子病历为例,大多数好的医院都有电子化病历。但是这些病历相互之间没有打通,我在这个医院看病之后,到了另外一个医院还要重新做一遍检查。我觉得确实需要通过政府的力量制定相应的标准,来推动数据共享。

新京报:在这个过程中怎么去保护用户的数据隐私?

李彦宏:在共享的过程当中,我们需要特别注意保护用户的隐私,我觉得道理上大家都认可,关键还是看执行的过程当中能否有一个好的机制来约束。

百度内部若干年前提过两个词,一个叫“平台化”,一个叫“接口化”。平台化是指,我做一个东西,就争取把它做成一个平台,可以供其他部门的人使用。接口化是指把我的能力开放给你,我告诉你我的平台能干什么,但是我不把背后的数据、源代码给你。这样一来,数据得到了保护,知识产权得到了保护。

通过平台化、接口化的方式,把边界定义清楚,什么人可以获得什么样的信息,获得什么样的能力。然后通过一个平台,或者是多个平台来提供这些能力。

新京报:你认为,人工智能行业存在哪些问题和挑战?

李彦宏:我觉得大家对人工智能还是有很多误解,两方面的误解都存在。有一些(对技术发展速度)比较乐观的人担心,人工智能一旦有了意志的话,会不会对人产生控制的能力。我觉得这个担心其实是没必要的,人工智能离这一步其实还非常远,我的判断是永远达不到。

另外一个极端是,人工智能其实现在能做的有意义的事情还不够多,市场还处在早期的阶段,所以不够重视,这也挺危险的。人工智能的推动作用更多的是在生产端,可以大规模提升生产制造效率。如果一些企业不能及早地意识到人工智能在这一方面能够起到的作用,是有可能被淘汰的。

新京报:在你看来,人工智能行业是不是存在一定的泡沫?

李彦宏:人工智能领域肯定是有泡沫,而且泡沫还不小。任何一个新的趋势到来的时候大家都会感兴趣,一拥而上。无论是投资也好,创业也好,或者是大的公司研发方向的调整,都会向着这个新的趋势去走,所以一定会产生一些泡沫。只有这样大家都一起上的时候,才能够推动这个产业迅速地走向成熟。

人工智能行业走向成熟的过程是一个优胜劣汰的过程,剩下的一定是少数公司。我觉得这是一个很自然的过程。

今天大家讲的十个技术里面,可能有九个将来会证明其实没什么价值,但是有一个技术最后慢慢被打磨成了非常有价值的技术。大家需要有这种心理准备,今天很热的一些公司,可能十个里面有九个在五年以后就不存在了。 新京报记者 马婧

■ 访谈

刘庆峰:立法首先要保障人类安全

人工智能的立法核心一定要以人为本,这是立法的根本;立法应更有针对性

新京报:人工智能时代会对现有法律体系产生哪些新挑战?

刘庆峰:我觉得人工智能立法的挑战有两方面,一是目前在原来法律体系中并没有人工智能方面的法律法规,人工智能是新物种,它所带来的积极帮助或者潜在风险都是人类没有碰到过的,而法律体系的讨论调研到最终制定存在一个比较漫长的过程。

二是人工智能的发展日新月异,法律体系如何做到与时俱进,尽快满足人工智能产业发展和社会健康进步的需要,确实存在很大的挑战,这主要体现在人工智能对生产和生活方式的改变是全新的,其次是人工智能的变化非常快。

新京报:对于人工智能立法,你有哪些建议?

刘庆峰:人工智能的立法核心一定要以人为本,这是我们立法的根本。我认为,人工智能立法首先要保障人类的生命和财产安全,也就是说人工智能一定是要在风险可控范围内来使用,比如说在自动驾驶领域,它的应用门槛和标准是什么;在医疗领域,人工智能要达到一定的准确度,而且最好通过一定的资质认证。

第二是人工智能应该兼顾未来社会人文的需要,倡导人机耦合的模式,简单说人工智能是帮助人的,而不是替代关系。在人机耦合上,我们要考虑到以人为本,未来人和机器是如何协作的。例如在医疗上我们叫人工智能系统为辅助诊疗系统医生助手,在法律上叫人工智能为刑事案件辅助审判系统。

第三是人工智能立法对很多老百姓来说还是陌生的,对技术也不是特别了解,所以人工智能在立法的同时需要有检测手段,在检测人工智能安全性上必须要有测试标准和方法,这样才能使立法落到实处。

新京报:考虑到人工智能的应用跟很多的领域相结合,立法时是否应该更具针对性?

刘庆峰:人工智能立法应该要有针对性,就像制药一样,任何的药物生产出来都要有临床过程,通过技术分析证明它具备药效,通过临床验证后再进行大规模的推广。我觉得人工智能也是这样,立法时先在一定范围内进行试点,试点通过验证才可以去大规模落地。

人工智能应用必须要遵循这个逻辑,而不是说大干快上,最终导致行业泡沫过多,也容易在应用过程中带来不必要的伤害,从而影响人工智能健康发展。

像习近平总书记说的,人工智能具有非常强的头雁效应,未来社会将从互联网+进化到人工智能+时代,各行各业都可以用人工智能深刻改变现在的生产和生活方式。对于行业里的头部企业,需要有更多的支持和关心。

新京报:解决数据孤岛问题的同时,如何保护用户隐私?

刘庆峰:首先是法律要同步跟上,其次是企业要有更强的保护意识,现在已经有很多服务涉及老百姓的日常生活。因此相关行业的领军企业要做到表率作用,不仅仅是向用户进行告知,还包括价值观层面的指引。

第三,目前很多数据都是在用户不知情的情况下被企业拿走,从技术层面看,我们应该通过人工智能技术的发展给予用户更多的选择权,例如讯飞的翻译机,考虑到机密信息可能泄露,公司在设计产品的时候就做了离线翻译的版本,这是非常必要的。

新京报:中国在人工智能领域处于领先位置,应该如何保持先发优势?

刘庆峰:中国要保持目前的优势,就要以应用促进人工智能发展,在兼顾保护和共享数据之间推动人工智能更好地成长。欧洲就是把数据管得过严,影响人工智能的发展。我认为,数据的适度管理尺度以及典型应用场景的快速突破,能够形成数据和应用场景的良性互动,最终实现人工智能上的领先优势。

中国要持续保持人工智能发展,应对人工智能的第三次浪潮,未来还需要更大的突破,例如要在源头技术创新上加油,进一步推动人工智能技术在应用方面的落地,在人工智能未来的发展中要做更多的前瞻性、基础性的布局,才能够在人工智能领域保持领先,我觉得这是非常关键的一步。 新京报记者 陆一夫

数据来源:中商产业研究院 

 转载本站文稿,务必标注出处。

Copyright 2017 中国高新科技网 All rights reserved.

 主办单位:中国科技产业化促进会  版权所有:《中国高新科技》期刊社

 不良信息或版权问题举报电话:010-8361 1115 纠错邮箱:zggxzz@126.com

京ICP备08104264号-2