隐私保护机器学习-Spring-
关于《Detection of Adversarial Training Examples in Poisoning Attacks through Anomaly Detection》的阅读分享
Detection of Adversarial Training Examples in Poisoning Attacks through Anomaly Detection——阅读笔记 小组成员：岑鹏，吴易佳，秦红梅 2020.4.15 1. 背景 机器学习在我们的生活中有许多应用，包括计算机 -
鲁棒性验证-第五小组
《TRAINING FOR FASTER ADVERSARIAL ROBUSTNESS VERIFICATION VIA INDUCING RELU STABILITY》论文分享报告 组员：杨根 黎君玉 张荣华 1 基础知识 ReLU函数 线性整流函数（Rectified Linear Unit, -
通过影响函数来理解黑盒预测---论文阅读报告
通过影响函数来理解黑盒预测 论文阅读报告 组员：曾文丽、倪元元、杨顼 时间：2020/4/15 1.背景 机器学习系统需要对自己所做的行为进行解释，然而在许多领域中表现最好的模型却是黑盒模型，它的重点在于了解固定模型如何导致特定预测，本文中主要是通过学习算法返回训练数据，最终得到模型参数，而在这儿需 -
《ENSEMBLE ADVERSARIAL TRAINING: ATTACKS AND DEFENSES》 _论文学习报告
《ENSEMBLE ADVERSARIAL TRAINING: ATTACKS AND DEFENSES》 论文学习报告 组员：裴建新 赖妍菱 周子玉 2020-04-12 1 引言 机器学习(ML)模型往往容易受到敌对示例的攻击，恶意干扰输入，旨在在测试时误导模型。对抗性训练(Szegedy et -
《Detecting Backdoor Attacks on Deep Neural Networks by Activation Clustering》论文阅读笔记
通过激活聚类的方法检测深度神经网络的后门攻击 王妮婷 王静雯 郑爽 2020-04-08 论文的基本信息： 《Detecting Backdoor Attacks on Deep Neural Networks by Activation Clustering》 Bryant Chen, Wilka -
Adversarial Camouflage: Hiding Physical-World Attacks with Natural Styles论文报告
Adversarial Camouflage: Hiding Physical-World Attacks with Natural Styles 组员：张荣华 黎君玉 杨根 1问题描述 神经网络（DNNS）是一类功能强大的模型，在各种人工智能系统中得到了广泛的应用，但其易受到对抗例子的攻击。 未来我 -
ODI for Adversarial Attacks_阅读报告
Output Diversified Initialization for Adversarial Attacks 学习报告 小组成员：裴建新、赖妍菱、周子玉 1 引言 深度神经网络在图像分类方面取得了很大的成功。然而，它们很容易受到对抗性样例的影响，由视觉上无法检测到的噪声所产生的扰动图像可能会导 -
关于《Intriguing properties of neural networks》的阅读笔记
Intriguing properties of neural networks——阅读笔记 小组成员：岑鹏，吴易佳，秦红梅 2020.4.1 1. 中心思想 我们小组阅读了Intriguing properties of neural networks，本文主要介绍了两个方面一个是神经网络的语义信 -
Verification of Neural Networks_阅读报告
1. 背景 深度神经网络（DNNs）在各领域中成功的应用案例，使其成为了迄今为止最受欢迎的机器学习模型之一。但人们担心其易受敌对干扰，因此其在安全相关的环境中的应用受到了限制。 2. 问题描述 网络的复杂性和庞大规模对自动化形式验证技术（automated formal verification t -
《Explaining and harnessing adversarial examples》_阅读报告
《Explaining and harnessing adversarial examples》 论文学习报告 组员：裴建新 赖妍菱 周子玉 2020-03-27 1 背景 Szegedy有一个有趣的发现:有几种机器学习模型，包括最先进的神经网络，很容易遇到对抗性的例子。所谓的对抗性样例就是对数据集