理论文章：人工智能时代的制度安排与法律规制

人工智能时代的制度安排与法律规制

在人工智能技术日新月异的时代变革中，人类/机器人关系所引发的各种法律、政策和伦理问题紧迫地摆在我们的面前。如何调整“促进”与“规制”人工智能发展的法律价值目标?如何应对人工智能技术带来的社会风险?如何设计人工智能时代的调控规范体系?这些问题不仅涉及对传统法律制度的深刻反思，更是以“未来法学”问题为主旨的有益探索。

一、智能革命图景：“最后的发明”抑或最大的风险（弘利教育）

进入新世纪以来，人类社会的文明演化呈现出加速发展的态势。21世纪的最初十年，以互联网的普及使用为纽带，社会结构得以重新组织，人类社会与物理社会广泛连接，自此开启了与以往有别的网络社会时代;时至2010年左右，基于广泛分布的传感技术、大规模数据存储和通信技术的应用，数据规模呈现指数型上升，地球村由此步入大数据时代;进入新世纪第二个十年的下半段，伴随着数据处理能力的飞速提高，人工智能对社会开始深度介入，世界正在走向人工智能时代。

整体而论，“人类在进入到21世纪的三个关键时间点，相继出现了三个互相联系又略有区别的新时代，即网络社会时代、大数据时代、人工智能时代，三者共同构成了新的社会时代。”

智能时代是以人工智能(Artificial Intelligence，简称AI)来命名的，作为研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，旨在了解智能的实质，并生产出一种新的能以人类智能相似方式做出反应的智能机器，其研究领域包括机器人、语音识别、图像识别、自然语言处理和专家系统等。这一技术科学将改变甚至颠覆人类现存生产工作和交往方式，由此出现一个以新的技术结构支撑新的社会结构的人类新时代。

“这是最好的时代，也是最坏的时代”，英国文学巨匠狄更斯在其名著《双城记》中的开篇话语，一百多年来不断地被人引用。在这里，我们再次以此来描绘人工智能时代的未来图景。一方面，智能革命无疑将给我们带来一个更美好的社会，它是智能的、精细化和人性化的“最好时代”。

在云计算、大数据、深度学习算法、人脑芯片的催化下，人工智能模拟和表现了人类的智慧动力，并以高于人类的工作速度、优于人类的工作精度、胜于人类的工作态度，协助人类解决各种各样的问题，包括危险场合和极端环境的难题，从而形成人类智慧的创造力优势与人工智能的操作性优势之间的强强合作。人工智能现已成为全球新一轮科技革命和产业变革的着力点，在人类智慧能力无穷增大的“科学梦”背后，是一片蕴藏无限生机的产业“新蓝海”。（弘利教育）

社会正在从“互联网+”向“人工智能+”转型，旧领域生发出新的产业形态，多领域催生了新兴的细分行业，由此创造出巨大的经济价值和社会财富。在谷歌、脸谱、IBM等领军企业的带领下，全球对人工智能的关注度不断提升。截至2015年，人工智能国际市场的规模为1683亿元，预计到2018年将增至2697亿元，增长率达到17%。在投资规模方面，2015年为484亿元，预计到2020年，投资总量将达到1190亿元。

可以认为，人工智能将从专业性较强的领域逐步拓展到社会生活的各个方面，人类未来会在“万物皆互联、无处不计算”的环境下精准生活。但另一方面，智能革命

人工智能法律服务研究报告

人工智能法律服务研究报告 腾讯研究院研究员在刚刚过去的周末，想必大家都 被腾讯AI Lab研发的围棋人工智能程序“绝艺”刷屏了，在第10届UEC杯计算机围棋大赛中，“绝艺”11战11胜，夺得 冠军。这是围棋界自谷歌的阿尔法狗之后的又一爆炸性新闻。但AI的“洪荒之力”可绝不止于此，开始涉足高大上的法律服务市场。“绝艺”的研发者说，AI在推动人类对围棋的认知，这同样适用于法律服务。 从法律检索、法律文件准备到合同审核、法律咨询再到案件结果预测、诉讼策略选择，以人工智能为标志的法律科技正在搅动法律服务市场。去年6月，IBM 的认知计算机Watson 支撑的史上首个人工智能律师ROSS “受雇于”一 家美国律所，它可以用人类语言和律师交流，给人一种和准雇员共事的体验。在英国，一款名为DoNotPay 的机器人 律师可以帮助用户挑战交通罚单并准备所需的法律文件，现在已经扩大到了政府住房申请、难民申请等法律服务。在国内，人工智能成为今年两会一大热点，所谓的法律机器人“小梨”“法狗狗”等不断涌现，受到公众关注。有预测甚至认为，在15年内，机器人和人工智能将会主导法律实践，给律所 带来“结构性坍塌”，法律服务市场的面貌将大为改观。 难道真如电影《回到未来2》中所预测的，终有一天将

不再需要律师？如果AI 可以以更高效、更廉价的方式提供法律服务，提高正义和法律服务的可得性，对穷人难道不是一大福音吗？但如果诉讼双方在法律科技的获取上存在很 大的不平衡，也可能造成新形式的不公正和滥用。虽然法律科技可能前景无限，但其中的一些挑战也需要人们思考并回应。 一、AI来了，人类的工作还安全吗？ 1956年见证了“人工智能”（artificial intelligence）这一概念的问世。在随后的六十年间，人工智能历经两次发展浪潮、两次AI寒冬。这一次，AI真的来了。 2010年以来，在大数据、机器学习、计算能力等因素 的推动下，AI已然迎来第三次发展浪潮。机器学习推动AI 进入发展新高度，学习型AI 正在改变很多事物。无论是监督学习还是无监督学习，AI 都在自主学习。比如，开发者并未按部就班地告诉自动驾驶系统如何开车，算法自己“学会了”如何在不同的道路环境下驾驶并不断提高驾驶水平。再比如，QQ音乐会向你推荐你可能感兴趣的歌曲，程序员并未告诉QQ音乐你的兴趣是什么，QQ音乐的算法自己“推断出了” 你的兴趣并不断提高这一判断的准确性。类似的例子不胜枚举。在越来越多的情境下，AI在替代人类做出判断，或者说，这些判断本该由人类做出。 AI在各行各业的应用将带来新一轮自动化，其结果要么

人工智能的利与弊

人工智能的利与弊标准化管理处编码[BBX968T-XBB8968-NNJ668-MM9N]

人工智能的利与弊 2016年3月15日，世界瞩目的围棋人机大战在韩国的首尔落下帷幕，最终以总分4:1阿尔法狗战胜韩国的世界冠军李世石，这一场人类史上最巅峰的人机对决最终以人类失败告终，这一场比赛，激起了各种“机器超越人类，科幻小说将成真”的讨论，让大家意识到，人工智能给人类带来了机会，也带来了危机，人类将来的某一天会不会被像阿尔法狗这样的人工智能机器人所代替，人类的未来会不会成为机器人的奴隶。 随着科学技术和互联网的发展，地球已经变成了一个小小的地球村，人工智能领域也迅速发展，特别是在中国“2025智造”提出后，国内的人工智能领域也掀起一段热潮，BAT等科技巨头纷纷布局人工智能领域，科大讯飞在语音识别方面取得了不小的突破，影视明星任泉投资人工智能领域，人工智能英国的马石达、中国的绝艺、日本的地震狗横扫人类围棋棋手。面对发展如此迅速的人工智能，既有利，也有弊。 人工智能的利：目前人工智能已经为人类创造出了非常可观的经济效益，人工智能可以代替人类做大量人类不想做、不能做的工作，而且机器犯错误的概率比人低，并且能够持续工作，大大的提升工作效率，节约了大量的成本，未来的人工智能可能还会代替人类工作，代替人类做家务，帮助人类学习，甚至可以照顾老人和小孩，实时监护人类的健康，生病了直接给人来治疗，延长人类的寿命，让人类的生活变得越来越美好。 人工智能的弊：科技的发展是一把双刃剑，汽车发明颠覆了传统的马车行业，人工智能的发展同样也将颠覆许多行业。机器人代替了许多人类的工作将导致大量的人口失业，机器新的学习速度远远快于人类，阿尔法狗战胜李世石引起人们的恐慌，有人说不怕阿尔法狗战胜李世石，怕的是阿尔法狗故意输掉一局，如果未来的某一天，机器人变成像电影《机械姬》中有意识的机器人，那么人类随时会变成机器人的奴隶，同时，人工智能面临着技术失控的危险，霍金曾发出警告，人类面临一个不确定的未来，先进的人工智能设备能够独立思考，并适应环境变化，它们未来或将成为导致人类灭亡的终结者！如果真的有一天，人工智能机器人变成了能独立思考，独立的做出准确的判断，一旦有一天人工智能反客为主，到时人工智能对于人类将会是毁灭性的灾难。人类甚至被人工智能消灭。地球将被人工智能统治。

人工智能在法律行业的应用

1 一、历史上几次科技浪潮 1、第一次科技革命的成果：18世纪60年代，蒸汽机的广泛使用，大机器生产基zhi本上取代了传统的工厂手工业，蒸汽汽dao车、火车、轮船被发明出来。 2、第二次科技革命的成果：19世纪70年代，电力的发明和广泛应用，德国人西门子制成了发电机，电器开始用于代替机器，成为补充和取代以蒸汽机为动力的新能源。随后，电灯、电车、电影放映机相继问世，人类进入了“电气时代”。 3、第三次科技革命的成果：20世纪四五十年代，原子能、电子计算机等的发明，美苏英法中成功地试制原子弹。1978年的计算机每秒可运算1.5亿次。80年代发展为智能计算机。90年代出现光子计算机、生物计算机等。 4、第四次科技革命：互联网、移动互联网、人工智能为代表 二、人工智能的分类层次 第一层“运算智能”。计算是计算机的强项，通过分布式系统及高性能的CPU、GPU可以很好解决。 第二层“感知智能”。感知是在更多听觉、视觉、触觉等方面的创新。 第三层：认知智能。研究如何进行自然语言理解、知识的构建和逻辑推理。法律智能目前处于这一阶段。 第四层“创建智能”，是人工智能行业终极目标。 3 人工智能与法律 纵观目前的市场情况，大部分人工智能的应用主要集中在互联网、科技和金融行业。法律行业算是例外，虽然行业本身有着天然的滞后性，但近几年国内外很多公司开发出的技术应用让一波又一波人好奇。 无论是资本市场的涌入还是政府的支持，法律与人工智能的结合越来越热。这些力量的加持是否会改变整个行业的服务方式？亦或是带来新的机遇？ 三、人工智能在法律行业的应用 一份法律裁判文书、一份起诉状、一条评论都可以算书面文本。 面对一篇文本，我们能做什么呢？ 一，拆解。像庖丁解牛一样把文档结构化。

人工智能法律服务的前景与挑战

人工智能法律服务的前景与挑战 曹建峰腾讯研究院研究员在刚刚过去的周末，想必大家都被腾讯AI Lab研发的围棋人工智能程序“绝艺”刷屏了，在第10届UEC杯计算机围棋大赛中，“绝艺”11战11胜，夺得冠军。这是围棋界自谷歌的阿尔法狗之后的又一爆炸性新闻。但AI的“洪荒之力”可绝不止于此，开始涉足高大上的法律服务市场。“绝艺”的研发者说，AI在推动人类对围棋的认知，这同样适用于法律服务。 从法律检索、法律文件准备到合同审核、法律咨询再到案件结果预测、诉讼策略选择，以人工智能为标志的法律科技正在搅动法律服务市场。去年6月，IBM 的认知计算机Watson 支撑的史上首个人工智能律师ROSS “受雇于”一 家美国律所，它可以用人类语言和律师交流，给人一种和准雇员共事的体验。在英国，一款名为DoNotPay 的机器人律师可以帮助用户挑战交通罚单并准备所需的法律文件，现在已经扩大到了政府住房申请、难民申请等法律服务。在国内，人工智能成为今年两会一大热点，所谓的法律机器人“小梨”“法狗狗”等不断涌现，受到公众关注。有预测甚至认为，在15年内，机器人和人工智能将会主导法律实践，给律所带来“结构性坍塌”，法律服务市场的面貌将大为改观。 难道真如电影《回到未来2》中所预测的，终有一天将不再

需要律师？如果AI 可以以更高效、更廉价的方式提供法律服务，提高正义和法律服务的可得性，对穷人难道不是一大福音吗？但如果诉讼双方在法律科技的获取上存在很大的 不平衡，也可能造成新形式的不公正和滥用。虽然法律科技可能前景无限，但其中的一些挑战也需要人们思考并回应。 一、AI来了，人类的工作还安全吗？ 1956年见证了“人工智能”（artificial intelligence）这一概念的问世。在随后的六十年间，人工智能历经两次发展浪潮、两次AI寒冬。这一次，AI真的来了。 2010年以来，在大数据、机器学习、计算能力等因素的推动下，AI已然迎来第三次发展浪潮。机器学习推动AI 进入发展新高度，学习型AI 正在改变很多事物。无论是监督学习还是无监督学习，AI 都在自主学习。比如，开发者并未按部就班地告诉自动驾驶系统如何开车，算法自己“学会了”如何在不同的道路环境下驾驶并不断提高驾驶水平。再比如，QQ音乐会向你推荐你可能感兴趣的歌曲，程序员并未告诉QQ音乐你的兴趣是什么，QQ音乐的算法自己“推断出了”你的兴趣并不断提高这一判断的准确性。类似的例子不胜枚举。在越来越多的情境下，AI在替代人类做出判断，或者说，这些判断本该由人类做出。 AI在各行各业的应用将带来新一轮自动化，其结果要么是深刻改变人机协作的方式，要么是完全或者部分地替代人类。

人工智能对法律人的冲击

人工智能是现代工业文明发展的必然产物。 人工智能对于律师工作的取代： 自主化程度较低的法律服务工作，存在被AI取代的风险，例如法律检索工作，利用人工智能很少出现遗漏的情况。（当然这也意味着新执业律师在成长为具有高级技能的律师之前，将承受更漫长和更艰辛的执业初期。）另外人工智能并不可能完全取代律师或法律服务行业，法律服务行业除了机械地了解法条、政策外，含金量更高的是对法律规定、政策规定的解读，良好的法律解释能力是评判法律服务人员专业程度的重要因素。此外，通过自己对法律法规的解释来帮助客户或者说服法官、当事人，也是法律服务人员的价值所在，这一点也难以取代。毕竟人工智能天生就缺少人类独有的创造性和同理心等特征。简而言之，随着智能技术的发展，人工智能会在很大程度上取代机械性、重复性、劳力性的基础工作，但却无法取代核心性的、创造性、高阶性的智慧工作。科技终将改变我们的生活，并让我们变得更有价值，而非取代我们的价值。 人工智能可能带来的五方面法律问题 人工智能带来了下一波产业浪潮，基础研究领域的进步使全球互联网企业都在积极进行战略转变。从产业界的视角出发，人工智能可能带来如下法律问题：一，个人数据保护问题。在人工智能时代，数据具有巨大商业价值，因此如何对数据进行保护、是否要赋予数据所有权，就是值得思考的。二，算法歧视问题。例如，当运用大数据对个人征信进行评估时，由于系统设计的主观性和数据本身的不全面性，得出的结论可能不够客观。三，监管以及由此引发的责任分配问题。一个典型的例子就是自动驾驶汽车发生事故后的归责问题，尤其是在加入机器学习之后，这一困境将更加凸显。四，人工智能作品的知识产权归属问题。这个问题已在中国出现。五，机器人的法律人格问题。这既关涉法律，更关涉伦理。 人工智能的分类 人工智能分为弱人工智能和强人工智能，强人工智能是指未来世界能像人一样进行思维的机器人；弱人工智能则主要起辅助作用，比如作为杰出的工程技术成就，已广泛地应用于工程设计的各个领域。在法律方面，就是用计算机语言来表达法条与其他法律文本，应用层面，则是用计算机检索、提取法条和法律文本。 为什么法律界能积极拥抱人工智能 主要有两个原因：一是案多人少的形势日益严峻。现实情况促使政法机关不得不采取更加高效率的手段去应对。二是公正司法的需要。通过人工智能建立一种标准化的裁判基准或裁判模型，将其运用到案件处理当中，会使裁判结果更加公正。 怎么做 面对人工智能，法律人或主动、或被迫，但都必须要作出调整、改变和适应。法律人士应当学习人工智能知识，使人工智能的基础操作系统符合人类伦理和法律。政府应当加大对人工智能的投入，吸收更多人工智能人才参与立法、行政和司法工作。法律人应当积极参与到技术研发中，为人工智能的深度应用提供场景、提炼规则，制作各种证据指引和知识图谱，推进机器深度学习。总之，投入多大人工，就会有多大智能。 书评 首先，法律人应当具有创新意识。作为中国西部的一名法律人，该书给我的最大冲击是如何在三重变革的巨大压力下寻找自己的位置，明确自己的角色，创新工作方式，应对法律服务市场的外部挑战，尽管由于国情和法律市场发展不均衡，这些挑战尚未完全现实来到。而作为一名以理论研究为主的法律人，研究法律服务市场巨大变革下对法学理论研究的影响，更新自己的研究方法和研究对象是当前的重要任务。其次，法律人应当具有警惕意识。在作者看来，法律知识和服务更多被看作一种普通商品，未来法律服务将演变成福特的工业化流水线制，法律服务被肢解为标准化的流程和环节，各个部分尽量地以成本最低、效率最高的方式完成，法律专业性壁垒有逐步被打破的趋势。费尔德曾说道，“法律职业的社会地位是一个民族文明的标志。”而在三重变革的驱动之下，法律这个同时存续于精神理念及世俗生活的行业如何体面地发展、完善，普通法律人如何维系其核心竞争力，是每一个法律人需要警惕和反思的重要问题。

国外人工智能与法律研究进展述评法律方法完整版

国外人工智能与法律研 究进展述评法律方法 HUA system office room 【HUA16H-TTMS2A-HUAS8Q8-HUAH1688】

国外人工智能与法律研究进展述评 张妮1*，杨遂全2, 蒲亦非3 （1四川大学图书馆，2四川大学法学院,3四川大学计算机学院成都 610064） 摘要：人工智能与法律在国外业已成为了计算机、法学的一个研究分支,二者的结合卓有成效，对促进人工智能和法律两个学科的发展均有促进和完善作用。本文以SCI和EBSCO数据库为基础，着重研究了近15年来以人工智能和法律为研究主题的相关研究成果，旨在说明人工智能与法律结合的必要性、难点、优势，希望能较为客观地展示研究的主题以及近年来新的发展趋势。论文以国外人工智能与法律的两大研究主题：法律推理和裁量模型、法律本体为线索，分别论述了其研究现状、困难和趋势，并结合我国的研究现状说明人工智能与法律的结合对提高法律系统的质量和运行效率具有积极的意义，并且正吸引着更多学者的关注。 关键词：人工智能、法律推理、法律论证、专家系统、法律检索 Research review on Artificial Intelligence and Law Zhang Ni１，Yang Suiquan2，Pu Yifei3 *张妮（1977- ），女，四川金堂人，四川大学图书馆，馆员，法学博士，主要从事人工智能、法学、情报学交叉学科研究；杨遂全（1958- ），四川大学法学院教授、博士生导师，博士后，主要从事法经济学研究；蒲亦非（1975- ），四川大学计算机学院教授，博士后，主要从事人工智能研究。本文受2013年四川省科技厅软科学项目“人工智能在精神损害赔偿中的理论和应用研究”(2013ZR0010)和四川大学青年教师基金 (2011SCU11)的资助。

人工智能的法律风险

人工智能的法律风险 随着人工智能技术的迅速普及,由其引发的侵害和侵权事件时有发生,既有因交通、生产事故引发的人身财产伤害,也有因智能系统故障引发的财产利益贬损。人工智能侵权案件与传统侵权案件引发的损害和风险的形式不同,根据传统侵权法规定,制造商和销售商是主要责任主体,但人工智能情景下,还应当明确开发者 的安全注意义务,建立新的人工智能侵权责任机制,保障行业健康发展。 人工智能工具论——由使用者承担责任。这种观点认为目前人工智能尚不具备自主意识,只是一种工具,其行为是在人类授意下做出的,因此人工智能侵权应由使 用该工具的人来承担责任。使用者是人工智能程序和设备的控制者也是受益者,侵权风险是使用者的使用行为引起的,让受益者承担由其控制的工具引发的侵权责任是公平合理的。 人工智能产品论——由生产者承担责任。根据《产品质量法》,产品质量应当检验合格,符合保障人体健康和人身、财产安全的标准或要求,生产者、销售者依法承担产品质量责任。人工智能通常是一种产品,除了个别由于使用者或者第三人故意引起的侵权以外,大多数人工智能侵权是由于产品存在缺陷造成的。消费者对于人工智能产品缺陷,既难以理解也难以发现且难以举证,所以应当由生产者承担产品责任,销售者承担不真正连带责任。 人工智能动物论——由管理者承担责任。由于人工智能尚不具备自主意识,其行为又与一般工具不同,不完全受人类控制,这与饲养的动物颇为相似,动物可能在人 类授意下实施侵权,也可能在无人类授意下发生侵权。尽管古代立法中有让动物承担法律责任的规定,但现代立法不再将动物视作法律主体,因此动物的侵权行为应由饲养人或者管理人承担侵权责任。借鉴动物侵权法律规定,人工智能侵权也应由对其负有管理义务的人承担。 人工智能主体论——由人工智能承担责任。人工智能最大的特点在于其拥有智能,不但可以做出行为,而且能够自主做出分析判断,同时拥有比人类更加强大的数据收集、记忆和计算能力。法律可以将自然人以外的实体规定为法律主体,例如法人,对于人工智能也可以参照这种做法。而且,已经有一些国家赋予或正在考虑赋予人工智能法律主体资格,如沙特阿拉伯的索菲亚机器人已获公民资格。如果人工智能成为法律主体,则应当承担其侵权行为引起的法律责任。 人工智能侵权构成要素复杂。现阶段人工智能的技术框架主要以机器学习和深度学习为中心。从软件层面,人工智能系统作出的判断、决策等行为,实际上是对人工智能模型输入一定数据而得到的函数输出结果,其基本模型可以用“输出=人工智能模型(基础算法+训练材料)+输入”表示。侵权的输出结果实际受到基础算法、训练材料和输入行为三个要素的影响,这三个要素可能独立导致侵权结果,也可能相互作用累积引起侵权,这使得具体侵权案件的归责难度加大。特别是,现有的司法人员普遍没有接受过人工智能技术相关培训,而技术人员又少有精通法律的,对人工智能侵权的事实认定和法律认定都非常困难。

人工智能对隐私权的影响与法律应对【最新版】

人工智能对隐私权的影响与法律应对 【摘要】人工智能对隐私权的影响主要体现在可能干扰个人对自身隐私的自治，可能削弱现有的个人信息保护机制，而且以人工智能为基础的监视系统对隐私信息实施无差别收集。因此，降低甚至消除人工智能对隐私权的影响，既要通过加强隐私权的立法保护和强化技术标准，构建隐私权的事前保护法律制度，也要建立以公益诉讼和消费者集体诉讼为主体的事后救济机制。 【关键字】人工智能隐私权公益诉讼集体诉讼【中图分类号】D923 【文献标识码】A 人工智能技术的兴起为公众日常生活带来了巨大变化，无人驾驶、智能助理以及人脸识别等一系列技术已经得到广泛应用，无人机、无人驾驶汽车也开始进入民用领域，这些技术极大的便利了人们的工作与生活，但其对个人隐私造成的影响也引起了公众的普遍担忧。例如，无人驾驶汽车是否会擅自收集存储乘客的出行信息?人脸识别技术是否会导致客户面部信息遭到滥用?等等。在互联网行业愈发白热化的竞争背景下，这样的担忧是具有合理性的。 在人工智能时代下，个人自治的隐私中所包含的“是否愿意接受监控”的问题显得尤为突出

法律意义上的隐私权主要包括“个人自治”和“个人信息”两方面内容，其中个人自治是指个人对自身隐私的自由处置权利;个人信息则是指能够单独或者与其他信息结合，以识别特定个人身份或者反映特定个人活动情况的各种信息。 人工智能可能干扰个人对自身隐私的自治。一般而言，个人自治通过个人的控制能力实现，以人工智能中的无人驾驶技术为例，乘客主动选择无人驾驶汽车出行是个人自治，但人工智能技术可能影响这种行为的“自治性”，因为无人驾驶的便利性是以收集和使用乘客的个人信息为基础，因此，乘客表面上虽享受到人工智能技术的便利，实际上却是在“便利性”与“让渡个人信息”二者之间作出选择。随着技术的不断发展与普及，当无人驾驶成为主流出行方式后，乘客将在实质上失去自由选择的权利，只能被迫将出行习惯、工作地址等个人隐私上传给汽车服务商，丧失对于自身隐私的自治权。 人工智能可能削弱现有的个人信息保护机制。现有法律关于个人隐私的保护机制主要围绕“当事人自愿”来构建，即只有在经过用户的同意后，他人才可收集用户的隐私信息。但人工智能的应用却使一些公司在未经用户同意的情况下也能获取其个人信息，并可能用于盈利活动，例如，使用手机助理时用户与手机之间存在文字、语音交流，但用户的本意只是希望手机助理为其查询资料，但手机厂商却利用技

人工智能时代的制度安排与法律规制

法律经纬法制博览2019年03月（中） 人工智能时代的制度安排与法律规制 乔雪吟 沈阳师范大学法学院，辽宁沈阳110034 摘要：人工智能在教育、医疗、看护等方方面面渗透进现代人类的生活，其影响具有两面性。然而现有法律制度在涉及人工智能方面还存在很多空白，本文通过论述人工智能对现存法律的挑战，提出法律对人工智能所带来的挑战的应对。 关键词：人工智能；法律规制；制度安排 中图分类号：D923文献标识码：A文章编号：2095－4379－（2019）08－0251－01 作者简介：乔雪吟（1997－），女，辽宁庄河人，沈阳师范大学法学院，本科生，研究方向：法学。 经过几十年的发展，人工智能已对人类的生活起到普遍及重要的影响，其对人类生活的改变不分领域，并已经能够影响人类生活状态及身份。人工智能的特殊性，在为我们开启了崭新的快速发展的时代的同时也带给我们很多挑战，因此我们必须对既有的某些看法做出相应的修正，并对挑战带来的风险做出正确的应对，法律通过国家层面对社会问题进行合理的规范，因此法规规制正是应对风险的根本［1］。 一、人工智能对现存法律的挑战 （一）安全问题 人工智能处于高速发展的浪潮中，新兴事物的出现必然会带来人类的恐慌，尤其是人工智能所具备的高度学习能力及对人类的深入模仿能力，如果新科技的出现引起人类的非正常使用，必将造成危险，因此更加强了人类对其的忌惮。在此背景下，现有法律还未能完全预防人工智能所能带来的风险，由于人类对人工智能的了解尚不充分，还不能完全预测人工智能的发展将带来的风险问题，这更需要法律法规层面对安全问题做好充分准备。 （二）伦理问题 人工智能中无数的数据通过算法进行组织，算法可以通过数据分配和再造我们在这个世界中的身份。因此算法必然与法律道德伦理联系在一起。人工智能可能会对人的隐私造成侵害，人类生活被动的被人工智能所侵入，接受着人工智能通过对自身的大数据分析给个体呈现出的东西，商品、娱乐等的选择都一定程度受到人工智能的限制，这同时也是对人性尊严以及人权的挑战［1］。 （三）法律主体问题 人工智能的应用使科技运用的主体的区分被混淆。由于人工智能获得了原本只存在于人类的一些智力上的能力，可以自主的进行分析决策及深度学习，在这种情况下人工智能科技是否仍单单是传统意义上的被使用的工具还需探讨。目前人与智能机器协同的模式正在被社会各行业广泛使用，但人在使用人工智能的同时，还同时受到人工智能的分析，以数据化形式作为了人工智能调整自身的对象，这种自发的调整行为，已经脱离人类对其单向的使用范畴，在这种情况下，使用者和工具二者的界限变得模糊。人工智能中有一个“人”字，那么人工智能的地位究竟被怎样定位，它是否真的会拥有人的地位，这一问题目前还尚无合理的答案。 此外，对于一个独立的人类个体来说，不单拥有智力，还拥有一些其他的特征，包括感情、性格、审美以及个人习惯，例如人在决策时往往会受到情感影响而使自己的行为举动发生改变，目前对于人工智能最终是否也会如人类一样具备这些非智力方面的理性特征还无法确定，因此对于人工智能是否可以成为一个独立的主体尚需研究［2］。 （四）法律责任问题 法律的传统风险防范和救济机制，无法匹配人工智能所引发的科技风险；例如自动驾驶汽车的交通事故责任是由传统的驾驶者承担还是将由硬件制造商和软件设计者共同分担。 二、法律对人工智能挑战的应对 首先确立人工智能的性质，确认法律应对方向的正确性。然后对需立法部分分别探讨，其中包括民法、刑法、宪法、劳动法、国际法等，填补人工智能在这些法律中的空白，规范由于人工智能的出现可能造成的危害以及风险［2］。 （一）以人为本，限制人工智能主动权 法律的制定应做到以人为本，保证人不会完全被技术所掌控。为保证这一点，需要明确限制人工智能的研发及应用范围，在开发公司研发产品的过程中就需对人工智能的主动权进行限制，即通过法律合理引导人工智能发展，从源头上避免发展方向的不可控性。 （二）约束责任，全程化安全监管 在法律法规制定过程中，应以安全为核心，通过进行人类智能与公众责任的限制，进行安全监管以提前控制可能风险，这个过程中可能涉及到目前还无法确定的一些问题。例如人工智能是否具有“主观能动性”，当涉及到有人工智能参与的犯罪活动时，责任究竟由谁来承担，由于人工智能具备自我判断及执行的能力，在犯罪及事故中需考虑将人工智能的责任。 要及时防范和预测由于人工智能算法缺陷及不可控性带来的损害，通过法律保障拥护隐私，为避免由人工智能引发的失业问题，要通过法律法规进行必要的约束。 （三）合理利用人工智能完善法律体系 人工智能可以与法律结合，有助于法律学科领域的发展，并可以极大的提高法律文书的处理效率，推进诉讼过程，且对信息查找和案件审理进行高效辅助，但这个过程中必须注重人工智能和人的有效及合理的结合，达到促进司法公正的作用。 三、总结 人工智能使得现实世界与其拓展的虚拟世界相互渗透，给我们生活提供了新的可能与便利，但科技的不正常使用会引发风险，所以人工智能的崛起伴随着对法律原则的挑战。因此我们需通过法律制度规制人工智能的应用，形成以安全为立足点，以伦理道德为导向，以法律法规为指导的人工智能风险防范机制，使人工智能向着安全、正确的方向发展。 ［参考文献］ ［1］席月．“人工智能+法律”———以法律服务为视角展望［J］．成功：中下，2017（22）：00248－00248． ［2］王妮．人工智能时代的隐私权保护探究［J］．法制与社会，2018（18）． · 152 ·

人工智能时代的制度安排与法律规制-吴汉东

吴汉东：人工智能时代的制度安排与法律规制 吴汉东：中南财经政法大学文澜资深教授、中南财经政法大学知识产权研究中心主任 在人工智能技术日新月异的时代变革中，人类/机器人关系所引发的各种法律、政策和伦理问题紧迫地摆在我们的面前。如何调整“促进”与“规制”人工智能发展的法律价值目标？如何应对人工智能技术带来的社会风险？如何设计人工智能时代的调控规范体系？这些问题不仅涉及对传统法律制度的深刻反思，更是以“未来法学”问题为主旨的有益探索。 一、智能革命图景：“最后的发明”抑或最大的风险 进入新世纪以来，人类社会的文明演化呈现出加速发展的态势。21世纪的最初十年，以互联网的普及使用为纽带，社会结构得以重新组织，人类社会与物理社会广泛连接，自此开启了与以往有别的网络社会时代；时至2010年左右，基于广泛分布的传感技术、大规模数据存储和通信技术的应用，数据规模呈现指数型上升，地球村由此步入大数据时代；进入新世纪第二个十年的下半段，伴随着数据处理能力的飞速提高，人工智能对社会开始深度介入，世界正在走向人工智能时代。 整体而论，“人类在进入到21世纪的三个关键时间点，相继出现了三个互相联系又略有区别的新时代，即网络社会时代、大数据时代、人工智能时代，三者共同构成了新的社会时代。” 智能时代是以人工智能（Artificial Intelligence，简称AI）来命名的，作为研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，旨在了解智能的实质，并生产出一种新的能以人类智能相似方式做出反应的智能机器，其研究领域包括机器人、语音识别、图像识别、自然语言处理和专家系统等。这一技术科学将改变甚至颠覆人类现存生产工作和交往方式，由此出现一个以新的技术结构支撑新的社会结构的人类新时代。 “这是最好的时代，也是最坏的时代”，英国文学巨匠狄更斯在其名著《双城记》中的开篇话语，一百多年来不断地被人引用。在这里，我们再次以此来描绘人工智能时代的未来图景。一方面，智能革命无疑将给我们带来一个更美好的社会，它是智能的、精细化和人性化的“最好时代”。 在云计算、大数据、深度学习算法、人脑芯片的催化下，人工智能模拟和表现了人类的智慧动力，并以高于人类的工作速度、优于人类的工作精度、胜于人类的工作态度，协助人类解决各种各样的问题，包括危险场合和极端环境的难题，从而形成人类智慧的创造力优势与人工智能的操作性优势之间的强强合作。人工智能现已成为全球新一轮科技革命和产业变革的着力点，在人类智慧能力无穷增大的“科学梦”背后，是一片蕴藏无限生机的产业“新蓝海”。 社会正在从“互联网+”向“人工智能+”转型，旧领域生发出新的产业形态，多领域催生了新兴的细分行业，由此创造出巨大的经济价值和社会财富。在谷歌、脸谱、IBM等领军企业

人工智能法规及政策

人工智能法规及政策 1、人工智能逐步成为国家发展战略 中投顾问在《2016-2020年中国人工智能行业深度调研及投资前景预测报告》中表示，一系列政策描绘出了我国机器人产业的发展路线图——到2020年，我国工业机器人年销量将达到15万台，保有量达到80万台，将较“十二五”末新增40万台；到2025年，工业机器人年销量将达到26万台，保有量达到180万台，较“十二五”末增加140万台。 在“2015世界机器人大会”上，工信部副部长毛伟明指出，“中国制造2025”目标是实现由制造大国向制造强国迈进，其核心就是要抢占新一轮国际制造业的竞争制高点，其主要措施是深入推进工业化和信息化深度融合，主攻方向就是智能制造，而机器人、3D打印、智能工厂则是其重要支撑和依托。 工信部2015年就机器人产业开展三项重要工作，一是制定机器人产业“十三五”规划，引导行业发展；二是积极争取相关政策，支持机器人研发、应用；三是在重点制造领域推广机器人应用。根据工信部此前发布的工业机器人发展目标，到2020年，中国将形成较为完善的工业机器人产业体系，培育3-5家具有国际竞争力的龙头企业和8-10个配套产业集群；高端产品市场占有率提高到45％以上。。 中投顾问在《2016-2020年中国人工智能行业深度调研及投资前景预测报告》中指出，随着人工智能上升到国家战略的节点的到来，更多利好以及相关政策会大力促进行业的发展，人工智能的春天已经到来。 2、“互联网+”推动人工智能 2015年7月前，国务院发布的《关于积极推进“互联网+”行动的指导意见》指出，依托互联网平台提供人工智能公共创新服务，加快人工智能核心技术突破，促进人工智能在智能家居、智能终端、智能汽车、机器人等领域的推广应用，培育若干引领全球人工智能发展的骨干企业和创新团队，形成创新活跃、开放合作、协同发展的产业生态。 3、人工智能行动实施方案发布 2016年5月，国家发展改革委、科技部、工业和信息化部、中央网信办制定了《“互联网+”人工智能三年行动实施方案》。《方案》指出，到2018年，打造人工智能基础资源与创新平台，人工智能产业体系、创新服务体系、标准化体系基本建立，基础核心技术有所突破，总体技术和产业发展与国际同步，应用及系统级技术局部领先。在重点领域培育若干全球领先的人工智能骨干企业，初步建成基础坚实、创新活跃、开放协作、绿色安全的人工智能产业生态，形成千亿元级的人工智能市场应用规模。