蓝盟IT小贴士，来喽‘’！
“数据投毒”是指人工智能训练数据污染引起的人工智能决定错误。 将伪装数据、恶意样本等添加到训练数据中会损害数据的完整性，使训练的算法模型决定产生偏差。
“投用数据”主要有两种攻击方法
一是采用模型时滞方式，攻击目标是训练数据样本，通过污染训练数据改变分类器分类边界
另一种采用反馈误解方式，攻击目标是人工智能的学习模型本身，利用模型的用户反馈机制开始攻击，将伪装的数据和信息直接注入模型，误解人工智能做出错误的判断。
“数据投毒”危害性非常大，特别是在自动驾驶领域，车辆有可能违反交通规则或引起交通事故。
另一方面，逆攻击会导致算法模型内部的数据泄露
另一方面，人工智能技术加强了数据挖掘分析能力，增加了隐私泄露的风险。 例如，各种智能设备(例如，智能手环、智能音箱)和智能系统(例如，生物特征识别系统、智能医疗系统)、人工智能设备和系统对于个人信息的收集更直接和全面。 人工智能应用收集的信息包括面部、指纹、声纹、虹膜、心率、基因等，并具有较强的个人属性。 这些信息具有唯一性和不变性，一旦泄露或滥用，将导致严重后果。
人工智能必然导入网络连接，网络自身的安全风险也将AI带入风险较深的洞穴
人工智能技术本身也能提高网络攻击的智能化水平，进行数据智能盗窃
人工智能可用于自动锁定目标并进行数据威胁攻击。 人工智能技术针对特征库学习自动检索系统脆弱性，识别重要目标，提高攻击效率
人工智能自动生成大量虚假威胁信息，对分析系统进行攻击。 人工智能通过使用诸如机器学习、数据挖掘和自然语言处理之类的技术处理安全大数据，能够自动生成威胁性信息，并且攻击者也能够利用相关技术生成大量错误信息以混淆判断
人工智能可以自动识别图像认证码，窃取系统数据。 图像认证码是用于防止机器人账户滥用网站和服务的一般验证措施，但人工智能可以通过学习使该验证措施无效。
文/上海蓝盟 IT外包专家
中文
电话咨询
微信咨询
公众号
