亚搏全站手机客户端|亚搏网页登陆

AI时代,哪些数据安全风险不容忽视?
作者:互联网
来源:互联网
2019-10-22 15:00:02
浏览量:495

       随着人工智能技术的不断发展,各类人工智能产品开始在各行各业开始应用。与此同时,人工智能的安全问题也引发了全社会的关注。特别是在数据安全领域,人工智能面临着以下几项风险。

“数据投毒

       人工智能训练数据污染可导致人工智能决策错误,即所谓的“数据投毒”。通过在训练数据里加入伪装数据、恶意样本等,破坏数据的完整性,进而导致训练的算法模型决策出现偏差。“数据投毒”主要有两种攻击方式:一种是采用模型偏斜方式,攻击目标是训练数据样本,通过污染训练数据达到改变分类器分类边界的目的;另一种则是采用反馈误导方式,攻击目标是人工智能的学习模型本身,利用模型的用户反馈机制发起攻击,直接向模型“注入”伪装的数据或信息,误导人工智能做出错误判断。

       “数据投毒”危害性十分巨大,特别是在自动驾驶领域,可导致车辆违反交通规则甚至造成交通事故。

数据异常

       运行阶段的数据异常可导致智能系统运行错误,同时模型窃取攻击可对算法模型的数据进行逆向还原。此外,开源学习框架存在安全风险,也可导致人工智能系统数据泄露。

泄露风险

       随着人工智能的大规模应用,可能存在数据的过度采集,加剧数据泄露风险。随着各类智能设备(如智能手环、智能音箱)和智能系统(如生物特征识别系统、智能医疗系统)的普及,人工智能设备和系统对个人信息采集更加直接与全面。相对于互联网对上网习惯、消费记录等信息的采集,人工智能应用采集的信息包括了人脸、指纹、声纹、虹膜、心跳、基因等,具有很强的个人属性。这些信息具有唯一性和不变性,一旦泄露或者滥用将产生严重后果。

网络攻击

       人工智能技术能够提升网络攻击的智能化水平,进而进行数据智能窃取。首先,人工智能可用来自动锁定目标,进行数据勒索攻击。人工智能技术通过对特征库学习自动查找系统漏洞和识别关键目标,提高攻击效率。其次,人工智能可自动生成大量虚假威胁情报,对分析系统实施攻击。人工智能通过使用机器学习、数据挖掘和自然语言处理等技术处理安全大数据,能自动生产威胁性情报,攻击者也可利用相关技术生成大量错误情报以混淆判断。最后,人工智能可自动识别图像验证码,窃取系统数据。图像验证码是一种防止机器人账户滥用网站或服务的常用验证措施,但人工智能通过学习可以让这一验证措施失效。

       目前人工智能应用尚未大规模落地,因此对于数据安全需要未雨绸缪。优炫软件深耕数据安全领域十余年,拥有众多数据安全产品和丰富解决方案经验,可提供全方位的数据安全保护。

新闻资讯
Baidu
sogou