专利名称：一种用于测试人工智能模型鲁棒性的方法和系统专利类型：发明专利
发明人：李肯立，段明星，廖清，方森，李克勤，刘楚波，唐卓
申请号：CN202011630126.9
申请日：20201231
公开号：CN112766315A
公开日：
20210507
专利内容由知识产权出版社提供
摘要：本发明属于人工智能模型鲁棒性判定技术领域，并公开了一种在不知人工智能模型以及训练数据集情况下能有效地对未知模型进行攻击方法，包括以下步骤：原始数据集的浅层共享特征的捕获，并根据输入条件生成相应的目标样本。待测试人工智能模型用于预测目标样本的输出，该输出和正式的标签进行比对得到相应损失。同时生成的目标样本用于训练替代模型，并得到相应的输出，比较同一个样本在两个不同模型情况下的输出，得到比对损失，用于确保替代模型很好的学习待测试人工智能模型的全部功能。之后用一些成熟的攻击算法去攻击替代模型得到相应的对抗样本，并将这些对抗样本用于攻击未知的人工智能模型，进而判定人工智能模型的鲁棒性。
申请人：湖南大学
地址：410082 湖南省长沙市岳麓区麓山南路1号
国籍：CN
代理机构：武汉臻诚专利代理事务所(普通合伙)
代理人：宋业斌
正则化项鲁棒性更多信息请下载全文后查看

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。