AI迎来第三个发展高峰信息安全成重要议题
- 来源：物联中国
- 2017/12/14 9:13:00
- 31407
【中国智能制造网 行业动态】近年人工智能迎来了其第三个发展高峰，而这次的高峰被认为是不同以往的，其中原因被归结为算力、算法以及数据等技术进步为人工智能科技提供了稳健前行的基础。
AI迎来第三个发展高峰 信息安全成重要议题
01、前言：人工智能法律治理现状
人工智能科技诞生于20世纪50年代，在六十多年的发展历程中几经潮起潮落，近年人工智能迎来了其第三个发展高峰，而这次的高峰被认为是不同以往的，其中原因被归结为算力、算法以及数据等技术进步为人工智能科技提供了稳健前行的基础：
首先，云计算技术与GPU处理器的应用以及前景可期的量子计算，它们为人工智能提供了强大的算力支撑;其次，人工智能领域以机器学习为代表的算法的突破以及大数据提供的海量数据资源煤矿，均为人工智能的发展赋予了能量。
人工智能技术与应用正在快速普及在社会生活的各个方面，世界各国均致力于制定与其发展相适应的法律规则，如欧盟于2016年10月制定了《欧盟机器人民事法律规则》(European Civil Law Rules in Robotics)，提炼出人工智能触及的民事法律问题的框架，从法律和伦理的角度评估和分析未来欧洲民法领域的机器人规则，给予这些法律问题以方向性的指导。
而以自动驾驶汽车的立法探索为例，美国共计23个州政府共制定了四十余部自动驾驶汽车法案，联邦层面的自动驾驶汽车法案也正在推进。不可否认的是，世界各国的人工智能顶层战略文件均不约而同提及应尽快建立相应的法律规范体系，而多国已经将这些建议与构想真正提上了立法议程。
世界各国积极推进人工智能领域的立法，主要有以下两个方面的原因：
一方面，各国均希望在这场被称为第四次的工业革命的浪潮真正到来之前，能够抢占法律规则制定先机，促使本国的法律规则能够在社会享有话语权与主导权;另一方面，人工智能衍生了一系列社会风险，包括：人工智能算法决策透明度与可解释性的缺失、人工智能应用的个人信息与隐私的保护、人工智能系统安全、人工智能造成人类损害及责任分担方案以及人工智能为人类就业带来的负面影响等。
面对这些风险，制定与其现阶段发展相适应的法律规则的重要性凸显。
在众多风险中，本文重点关注的则是人工智能安全的法律规制。安全所包含的内容范围需要从以下两个方面进行说明：
首先，本文主旨为探讨人工智能技术与应用的网络安全，根据我国现有网络安全法律体系与人工智能技术与应用现状，对人工智能带来的新生网络安全风险进行挖掘，提出将人工智能对应规范嵌入现有网络安全法律框架的可行性建议。
其次，国外学术文献对人工智能安全问题的探讨，还包含了：机器确保人类人身安全的议题。造成这种提法差异的原因在于safety与security两词的含义误差：在英语语境中，safety重在人身安全，如阿西莫夫的机器人三原则，其主旨为确保机器人不会伤害人类;而当谈及security则意指数据安全和通信秘密等网络空间的安全。但当两词翻译为中文时，则被统一称之为安全。
关于safety(人身安全)问题的探讨目前聚焦于伦理范畴与技术标准领域，如探索设计机器的道德准则(如不伤害人类)并以有效方式将这些道德准则植入人工智能算法与系统的可行性，以及制定相关的机械安全技术标准与规范;关于safety问题的法律治理则更多聚焦于造成人身损害后的责任如何分担，如操作系统服务商、汽车生产厂商与乘客谁会为损害承担责任，采用无过错侵权责任还是设计相应的责任豁免规则等问题的探索。
需要向读者阐明的是，本文所探讨的安全意为security，即为网络安全，并不涉及人工智能确保人身安全的议题。
人工智能面临哪些网络安全风险，是否存在新生的安全风险形式?根据我国已有的网络安全法律体系，网络安全是指通过采取必要措施，防范对网络的攻击、侵入、干扰、破坏和非法使用以及意外事故，使网络处于稳定可靠运行的状态，以及保障网络数据的完整性、保密性、可用性的能力。
以系统和数据两个核心网络安全要素为视角，将人工智能技术与应用的形式对应分析，我们将人工智能安全问题聚焦于：系统安全、算法透明度与问责性和数据隐私的保护。
以具体的人工智能应用举例，如自动驾驶汽车系统：黑客可以从智能汽车端、移动应用端和云平台以及三者交互的通信管道实施攻击，复杂的系统组成要素则大大增加了安全风险。目前已实际发生过黑客通过盗取移动app账号密码而控制自动驾驶汽车的案例，这类系统脆弱性为乘客人身安全和社会安全带来了巨大隐患。
与此同时，人工智能算法和系统对社会运行及公民个人利益的影响也日益重要起来。以目前内容分发所广泛使用的用户画像技术为例，该技术会通过用户的点击历史以及触屏操作分析用户行为，对用户进行画像分类，并添加相应的标签，而后推送与标签对应的内容，关于该项应用所引发的合理性争议也随之产生，它被质疑减少了用户广泛接触各类信息的机会，剥夺了用户平等获取信息的权利。
反观信息推送在2016年美国总统竞选中所发挥的作用：在竞选过程中存在着数量巨大的政治机器人，它们被用于在社交媒体传播错误信息和虚假新闻。此种高度精密的技术将会通过大数据分析和人工智能技术判断和预测每个选民的关注重点，而针对性地分发对应的具有煽动性的内容，有针对性地制造舆论假象，进而恶意引导民意。可以窥见，人工智能的法律治理已迫在眉睫。
本文正文分为三部分进行论述。部分介绍两个基本问题，人工智能的含义及人工智能现有网络安全问题的剖析，在这部分我们试图从侧重实用与技术落地的角度，对人工智能做一个更加具体化的界定。
第二部分，以智能硬件、智能网联汽车以及物联网为示例，分别对其系统安全的关键问题进行分析，提炼出具有共通性的人工智能系统安全风险要素，找到法律治理的切入点。
第三部分，通过将人工智能系统安全问题融入既有网络安全法律框架，就核心问题具体分析，而提出在网络安全法律体系的落实建议。
02、人工智能的含义试析
1955年，John McCarthy首先提出 Artificial Intelligence一词，起初关于Artificial Intelligence的设想是：通过将人类的学习行为及其他智力主导行为进行解构分析，从而将人类智能地描述出来，继而在机器上构建与人类智能相类似的智能，因此被称为人工智能。
目前关于人工智能的含义划定仍未有定论，在此引用人工智能专业教科书关于人工智能的定义，在该定义中，人工智能被描述为一种计算机系统，它包含以下特质：
(1)具备能够像人类一样思考的潜力，例如可以识别架构和神经网络;
(2)与人类行为相似，可以借助自然语言处理并通过图灵测试，进行自动推理和学习;
(3)能够进行理性思考，例如逻辑运算，推理和优化;
(4)具备行为理性，例如通过感知、规划、推理、学习、交流、决策和行动来实现目标。
现阶段人工智能技术从本质来说属于计算机技术的一种，因此准确理解人工智能算法与系统和普通计算机程序运行的核心区别则成为了理解人工智能技术的关键。
我们说当今的人工智能算法和系统或多或少都有一个特质：它们可以通过外界设定的一个输出目标，由计算机程序自动寻找方法完成任务，输出成果，而不同于传统程序编程，需要工程师对输出结果的每一个相关参数进行设计。
例如，图像神经网络如何学会识别猫，通常需要将标注好猫的图片输入图像识别人工智能系统，系统会自行学习所有图片中猫的特点，进而获取辨识猫的能力，然而机器依赖辨识的特征可能是不具有任何人类知识含义的，因此其决策的过程及原理难以被人们所理解。
人工智能的应用复杂多样，究其原因，首先是因为人工智能算法和系统可以内嵌至各类应用场景及解决方案之中;其次，在实操层面人们无法划定什么是人工智能、什么不属于人工智能的分界线，例如由人工智能研究者研发的处理大量数据的技术，现在被定义为大数据技术;在面对一个尚未解决的问题时，人们通常认为需要人工智能算法解决问题，然而一旦该解决方案被广泛接受后，这套解决方案则会被认为是常规的数据处理流程。
谈及人工智能的法律治理，在结合人工智能技术特点的基础上，针对具体的应用类型制定针对性法律治理方案意义重大。值得注意的是，人工智能在现阶段的应用突出表现在两个层面：
(1)算法及系统层面的应用，也即具体的人工智能算法和软件、解决方案等，如图像识别、语音识别、信息推送应用的用户画像技术、金融领域的智能投顾技术等，它们可以帮助人们在短时间内处理人力所不能及的大量数据，并辅助预测、决策。
(2)硬件和基础设施层面的应用，如机器人、自动驾驶汽车、无人机、智能硬件等，这类应用将硬件与人工智能算法和系统进行融合，赋予硬件以更高的智能。智能硬件广泛协同后，形成物联网(Internet of things),可用以打造特定行业网络神经，成为基础设施的重要组成部分。
综上，鉴于人工智能算法与系统的特点，考虑到人工智能应用场景，可以认为人工智能衍生的安全风险集中于以下三个层面：
首先，在系统安全的风险层面，广泛互联的物联网，智能硬件的系统漏洞、基础安全技术缺失以及复杂的供应链条带来的归责困境为系统安全的监管带来挑战。
其次，在算法透明度与可解释性的风险层面，人工智能算法的自动化学习与决策的过程、无法吸纳人类知识的缺陷、机器学习依据的海量数据带来的不确定性等，使得算法的决策过程和决策规则难以被人类明确知悉，由此引发人工智能算法的可解释性和透明度缺失隐患。
后，在数据使用和隐私保护的风险层面，原有数据使用和个人信息使用和保护机制面临失效的困境，例如在物联网中巨大量级的用户数据在各个设备和系统之间传输共享非常频繁，如要获取用户的同意确认，将带来大量的时间消耗并且不具备可操作性。同时引起创建数据收集与使用新规的探索，如机器学习的训练数据的收集是否可以击穿隐私数据收集小化原则和使用的必要性原则等。
版权与免责声明：凡本网注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本网授权不
展开全部
热门评论