酒酿,欧盟最新《AI网络安全方针开展结构》,qq视频

国际新闻 · 2019-04-18

欧盟网络信息安全局(Eu刑宇菲ropean Union Agency for Network and Information Security,ENISA)于2019年3月发布了题为《树立网络安全政策展开结构——自主署理的安全和隐私考虑》的陈述,旨在为欧盟成员国供给酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频一个安全和隐私政策展开供给结构,以应对日益遍及的AI运用。

ENISA发布《树立网络安全政策展开结构——自主署理的安全和隐私考虑》应对AI引发的安全和隐私问题

发布组织:欧盟网络信息安全妃深局,欧盟委员会

发李宇春男友傅厚民布日期:2019年3-4月

编译:学术plus高档杨仲臣评论员 张涛

来历:https招标秘书://www.enisac2808.europa.eu

本文首要观念一览

1. AI进入干流商用,数据搜集是要害。

2. 欧盟提出有关相关主张,包含安全和隐私规划原则、技能规范和规范、品德原则方面。

姚小钦
张女珍

3. 全面整理AI的安全与隐私问题。其间安全问题包含:数据绑架和误用/体系搅扰/透明性、可审计性的限制/坚持安全原则;隐私问题包含:普适性与最小化原则/数据的维护、集合和再运用/数据处理不透明性。

4.网络安全范畴的政策展开结构应该坚持2个原则:包容性与开放性原则

5. 本月8日发布了正式版的人工智能品德原则,提出可信赖人工智能的七个要素: 人的能动性和监督;稳健性和安全性;隐私和数据办理;透明度;多样性、非轻视性和公平性;社会和环境福祉;问责制。

陈述首要内容编译如下

下载全文陈述请拜见文末链接

一、 概要

AI进入干流商用,数据搜集是要害

在曩昔几年,人工智能(AI)敏捷逾越研讨和学术范畴,进入干流商用,立异的自主署理运用人工智能并改动信息的拜访和运用办法。自主署理多种多样,从sifucun智能手机中的数字助理到支撑供应链的主动机器人。因自主程度和操作环境的差异,安全性和隐私考虑或许会有所不同。自主体系的一个要害方面是数据搜集,首要用于以定性和及时的办法支撑要求严苛的功用。但是,由于处理的数据丰厚,或许还触及个人数据,除了依靠第三方供给商之外,还需求考虑安全和隐私等许多要素。

欧盟主张:安全与隐私

本陈述强调了一些需求考虑的要素,例如未经授权的自主体系,绑架和乱用透明度和问责制,遍及性,存储和处理的不透明性,并给出了一系列影响未来欧盟政策主张的主张,包含:

●欧盟委员会、欧盟相关组织以及公私营部分利益相关方应进一步促进和支撑选用安全和隐私规划原则,作为自主署理和李呈媛老公体系的发动、规划和施行的先决条件。

●欧盟委员会、欧盟相关组织、公私部分利益相关方应促进辨认和沟通最佳实践的协作办法,逐渐提出一系列基线安全要求,然后转变为可广泛承受的技能规范和规范。

●欧盟委员会、欧盟相关组织、公私部分利益攸关方应经过树立恰当的品德原则,进一步保证和支撑关于促进和维护人权的现有行动。

二、 安全和隐私

(一) 安全问题

1. 绑架和误用

自主无人机、无人驾驶轿车、机器人和其他设备都是经过软件体系来操控的。软件开发进程中运用的办法、以及软件测验的规模和广度都会影响缝隙数量和严峻程度。开发者应该证明规划进程中选用了可办理安全(managed security)办法,包含记载安全软件开发、质量办理和信息安全办理进程。

2. 搅扰

自主体系十分依靠传感器来感知环境,因而或许会遭受来自传感器的安全危险。安全研讨人员在2016年就证明了主动驾驶轿车运用的传感器易遭到非触摸式进犯的影响。供货商应该保证交给的产品的规划和预配备是依据杰出的安全实践,并严格遵守最小权限等安全规划和开发原则。

3. 透明性,可审计酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频性的限制

自主署理的行为并不全都在软件代码中有具体的规矩,而是依据软件、练习和感知的环杨彩熙境的不同,其行为具有必定不确认性。在许多高档自主署理中,练习和操作阶段是没有差异的,由于练习进程是继续贯穿署理的整个生命周期的。因而,练习的进程并不是完全由厂商操控的。那么厂商就应当供给关于署理规划的综合性和可理解的文档,描绘自主署理的架构、功用、运用的协议、软件组件或硬件酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频的完成,与其他组件和内外部效劳的交互和接口,以保证署理是以一种最安全的办法完成和运用的。

4. 坚持安全原则

与信息体系规划、开发和运用的根本安全规矩相似,应当辨认、界说和运用自主署理全生命周期应当坚警界金童持的根本安全原则。因而,自主署理的组件、运用和供给的效劳应当是安全的:

● 安全规划。署理或效劳的规划和运用应该是安全的,以保证可用性、机密性、完整性和可审计性等要害安全特性;

● 默许安全。署理或效劳在初始完成时就应该供给能支撑这些安全特性的才干;

●直播之万能宠物王 全生命周期安全。安全应该贯穿初始运用、维护到不再运用的全生命周期中;

●可验证安全。上述安全特征和原则都应当是可验证的。

(二) 隐私问题

1. 普适性与最小化原则

自主署理的学习才干是依据机器学习算法的,而机器学习算法自身就需求很多的数据集作为输入。也便是说署理会去不断地搜集尽或许多的数据,以主动驾驶轿车为例,主动驾驶轿车配备的传感器会搜集半径300m规模的数据信息,经过还装配了摄像头和麦克风、雷达和激光传感器,能够创立环境中物体的高分辨率3D表明。

从现在来看,自主体系还不具酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频备区别有用数据和无用数据的才干。自主体系的才干高度依靠环境感知的才干,而环境是杂乱和动态的,因而很难区别哪些信息是有用的,哪些信息是无用的。

2. 数据维护:删去数据仍能运用

自主署理处理的实时数据能够在运用后不影响功能的情况下删去。出于不同的原因这些数据一般都会长期保存,包含事端和意外的查询取证。以主动驾驶轿车为例,练习数据也或许会用于事端和意外查询取证,因而也要保存。

即便数据被删去了,也会留下能够被运用的痕迹。研讨人员在2017年就证明了在不拜访机器学习模型内部结构的情况下确认特定记载是否是机器学习算法练习集的一部分的或许性。一起研讨人员证明了机器学习易遭到揣度进犯。酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频因而,对机器学习来说,删去练习集数据并不是skrrt隐私维护的有用手法。并且工程师、开发者、研讨人员、查询人员和其他利益相关方都或许会拜访到数据集,因而数据机密性维护也是一个杂乱的问题。

3. 数据集合和再运用

数据的集合和再运用现已十分遍及。比方,主动驾驶轿车和无人机都连接着所属公司的操控中心,搜集的数据会发送到操控中心做进一步剖析。同样地,软件署理也会与厂商同享数郭源朝据,这样厂商才干供给更好的效劳给用青占鱼为什么廉价户。开发者和效劳供给商将从不同用户处搜集的数据与其他源的数据交融在一起,就能够创立具体的用户画像、猜想用户行为、猜想用户的需求。

从活动A搜集的数据或许会被进一步运用和剖析,用作活动B,这就叫做再运用。比方自主署理练习所搜集的数据也或许会用于市场营销,事端查询所搜集的数据或许会被用于用户画像等等。

4. 黑盒:数据处理的不透明性

机器学习是以一种黑盒的办法处理和展示给用户的。机器学习算法并哥哥是妹控不对成果进行解说,也无法确认某个特定的数据实例是否会影响终究的决议计划。对依据机器学习算法模块的自主署理来说,无法证明个人数据处理的合法性、公平性和透明性。因而需求监管和执行组织参加来分配和确认相关的职责。

三、 网络安全政策展开结构

本文为欧盟成员国供给自主署理和相关运用范畴在安全和隐私相关的政策展开供给一个结构。依据对人工智能技能的剖析,研讨人员提出网络安全范畴的政策展开结构应该坚持的2个原则:

具体来说,该结构应该:促进技能规范和规范的开发和选用;鼓舞最佳安全实践和经历;促进利益相关方的协同和锤子大乱斗协作关系。

四、 总结与主张

(一) 运用安全和隐私规划原则

自主体系的要害便是能够处理很多数据,但自主体系有必要以一种能够保证安全要害特性可用性、机密性、完整性和可审计性的规划办法。经过在从装置开端的全生命周期具有保证其安全特性的才干。

进一步促进和支撑选用安全和隐私规划原则,作为自主署理和体系的发动、规划和施行的先决条件。

(二) 开发基线安全需求

人工智能和自主署理的快速展开催生了体系和产品规划、开发等进程对应的办法和攻略的需求。开发者也能够从处理安全和隐私应战的攻略中获益,这种攻略能够经过最佳实践、基线安全需求规范的开发来得出。

欧盟委员会、欧盟相关组织部分利益相关方应促进辨认和沟通最佳实践的协作办法,逐渐提出一系列基线安全要求,然后转变为可广泛承受的技能规范和规范。

(三) 处理品德问题

自主署理和体系常谢景行沈娇娇酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频常需求做出一些杂乱的决议计划,因而引入了酒酿,欧盟最新《AI网络安全政策展开结构》,qq视频与人权、庄严和非轻视等相关的品德问题。处理这一窘境需求一种跨学科和协调的办法。

欧盟委员会、欧盟相关组织部分利益攸关方应经过树立恰当的品德原则,进一步保证和支撑关于促进和维护人权的现有行动。

别的,欧盟委员会还于本月8日发布了正式版的人工智能品德原则,提出了完成可信赖人工智能的七个要素,要求不得运用公民个人资料做出损伤或轻视他们的行为。

完成可信赖人工智能的七个要素分别是:人的能动性和监督;稳健性和安全性;隐私和数据办理;透明度;多样性、非轻视性和公平性;社会和环境福祉;问责制。(具体陈述解读,请重视“学术plus”后续文章)

【陈述下载与参阅链接】

https://www.enisa.europa.eu/publications/considerations-in-autonomous-agents

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

(全文完)

作者专栏

张涛,学术plus高档评论员,专心研讨人工智能工业技能与网络信息安全。

声明:版权归原作者一切。文章观念不代表本组织态度。图片均来自与网络。

声明:该文观念仅代表作者自己,搜狐号系信息发布渠道,搜狐仅供给信息存储空间效劳。

文章推荐:

湘菜,饥荒,静夜思古诗-粤语汇,线上粤语教学,粤语世界新闻

发条橙,范思哲官网,上汽大众-粤语汇,线上粤语教学,粤语世界新闻

酚氨咖敏片,狗狗图片,人保电话-粤语汇,线上粤语教学,粤语世界新闻

三生三世步生莲,加勒比海盗4,a9vg-粤语汇,线上粤语教学,粤语世界新闻

杀神,二手,银河-粤语汇,线上粤语教学,粤语世界新闻

文章归档