首页 > 技能座谈 > 正文
Neural Network Inversion in Adversarial Setting via Background Knowledge
主页:188体育平台网址 发布时间:2019-12-26    


座谈专项

Neural Network Inversion in Adversarial Setting via Background Knowledge

主讲人姓名及先容

梁振凯,新加坡国立企业计算机企业副导员。他的主要研讨方向是部统和App安全、web安全、移动安全和程序分析。他也是新加坡国内网络安全研发实验室的联合负责人。他曾担任多个部统安全会议的技能项目委员会成员,包括计算机和通信安全ACM会议、USENIX安全研发会和网络与分布式部统安全研发会(NDSS),以及NDSS引导小组成员。作为合著者,他获得了七项最佳/杰出作文奖,包括USENIX安全研发会、FSE和ACSAC。

报告摘要

随着深度学习技能的广泛应用,对训练数据和测试数据的安全性提出了新的要求。本文研讨的是对抗环境下的模型反演问题,对手的目的是从模型的预测值中推断出目标模型的训练数据和测试数据。大家提出了一种方法来训练第二个神经网络作为目标模型的逆来实行逆。反演模型可以通过黑箱访问目标模型进行训练。大家提出了两种主要的技巧来训练对手环境下的反演模型。首先,大家利用对手的背景常识组成一个辅助集来训练反演模型,它不需要访问原始训练数据。第二,大家设计了一种基于截恫磕技能来校准反演模型,以便能够有效地从敌方对受害者用户数据的部分预测中反演目标模型。

XML 地图 | Sitemap 地图