清华朱军团队:面向鲁棒深度学习的对抗分布式训练

摘要:北京时间20201124关于【清华朱军团队:面向鲁棒深度学习的对抗分布式训练】的具体情况和说明,让www.qdzckjy.com新闻频道以图文形式为您慢慢道来。

向您推荐
继续播放

近来,深度神经网络(DNN)的突破性进展使其在诸多领域取得了巨大的成功,但应看到DNN在面对输入的小扰动时表现出了对抗脆弱性。为此,提升DNN的对抗鲁棒性至关重要,其中对抗训练(AT)是最有效的方法之一。

但是,现有的AT方法通常基于特定攻击算法来解决内部最大化(innermaximization)问题,有时无法很好地泛化至同一威胁模型中其他未见过的攻击。后续提出的一些方法(如PGD等)虽然面对常见攻击实现了SOTA鲁棒性,但还是会被其他攻击打败。这表明先前提出方法中的防御可能导致梯度掩蔽,并且被更强或自适应的攻击愚弄了。此外,单一的攻击算法可能不足以探索可能扰动的空间。

因此,为了进一步缓解这些问题以及提升模型面对更广泛对抗攻击的鲁棒性,在清华大学这篇被NeurIPS2020会议接收的论文《AdversarialDistributionalTrainingforRobustDeepLearning》中,研究者提出了一种名为对抗分布式训练(adversarialdistributionaltraining,ADT)的新型框架,它通过一种分布围绕着自然输入对对抗示例进行显式地建模。研究者表示,该研究提出的方法虽然取得了比以往对抗训练方法更高的自然准确率,但依然不及标准的训练模型。自然准确率的下降可能会产生一些负面结果,但对保护用户隐私而言不失为一件好事。

机器之心最新一期NeurIPS线上分享邀请到了论文共同一作、清华大学计算机系博士生董胤蓬,为大家详细解读此前沿研究。

分享主题:面向鲁棒深度学习的对抗分布式训练

分享嘉宾:董胤蓬,清华大学计算机系四年级博士生,导师为朱军教授。主要研究方向为机器学习与计算机视觉,聚焦深度学习鲁棒性的研究,先后发表CVPR、NeurIPS、IJCV等顶级国际会议及期刊论文十余篇,其中代表性论文"BoostingAdversarialAttackswithMomentum"被引用超过500次,并获得VALSE年度杰出学生论文奖(2018)。作为TeamLeader在Google举办的NeurIPS2017人工智能对抗性攻防大赛中获得全部三个比赛项目的冠军,并多次在极棒组织的对抗比赛中获奖。曾获得国家奖学金,清华大学未来学者奖学金、CCF-CV学术新锐奖、微软奖学金、百度奖学金、字节奖学金等。

分享摘要:以深度学习为代表的人工智能算法在对抗场景中的鲁棒性存在严重不足,很容易被攻击者所恶意构造的对抗样本欺骗。对抗训练通过在训练数据中加入对抗样本的方式可以有效地提升模型的鲁棒性,也是目前最有效的防御算法之一。但是大部分对抗训练算法在训练过程中通过特定的攻击方式产生对抗样本,对于其他未知攻击的防御效果无法保证,同时也不能够有效地探索对抗样本空间。

本文提出了一个新颖的训练方式—对抗分布式训练(ADT)。通过将对抗样本建模为分布的形式,学习输入数据附近的对抗样本分布形式,并利用最差情况下的分布进行训练。通过理论分析推导出ADT的训练算法,并提出了三种不同的方式对对抗分布进行参数化。实验结果显示在一些数据集上,本文提出的算法可以帮助训练鲁棒性更好的模型。

直播时间:北京时间11月26日20:00-21:00

论文链接:https://papers.nips.cc/paper/2020/file/5de8a36008b04a6167761fa19b61aa6c-Paper.pdf

加入机动组,一起看直播

「机动组」是机器之心发起的人工智能技术社区,将持续提供技术公开课、论文分享、热门主题解读等线上线下活动,并在社群中提供每日精选论文与教程、智能技术研究周报,同时「机动组」也将不定期组织人才服务、产业技术对接等活动,欢迎所有AI领域技术从业者加入。添加机器之心小助手(syncedai5),备注「2020」,加入本次直播群。

ps:如果小助手无法添加,请将「微信ID」发送邮件到dujiahao@jiqizhixin.com,我们将与你联系,邀你入群。

2020NeurIPSMeetUp

受新冠疫情影响,NeurIPS2020转为线上举办。虽然这可以为大家节省一笔包括注册、机票和住宿的开支,但不能线下参与这场一年一度的学术会议、与学术大咖近距离交流讨论还是有些遗憾。

机器之心获得NeurIPS官方授权,将于12月6日在北京举办2020NeurIPSMeetUp,设置Keynote、论文分享和Poster环节,邀请顶级专家、论文作者与现场参会观众共同交流。

点击阅读原文,立即报名。


查看更多
黑人女人性较视频免费视频|一级A片免费视频2019|cm888草莓视频在线播放|bt最好用的磁力引擎|超碰网站任你爽歪歪|高中小情侣第一次视频|免费视频app视频|福利AV青青草|日本三人交×69深喉|精品国产瓜皮影院|美国高清vivoesond13高清|男女好朋友敢隔着保鲜膜|大象焦伊人在钱75|女朋友很污说明什么|黄站视频免费网站|国产三级在线观看|越南女子做爰|樱桃最新地址入口|亚洲欧洲美女综合免费图片|免费韩漫无遮视频|

实时推荐

张家口人气TOP5京北恒大国际文化城 VS 京北·香榭府
推荐 2021-01-01 19:31 215 5136
钱和面子(经典)
推荐 2021-01-01 19:30 774 1817
新乡超高人气楼盘 融通香槟小镇 VS 和华盛世
推荐 2021-01-01 19:28 705 5754
长房潭房·时代公馆 VS 湘潭恒大国际健康城在湘潭谁更胜一筹
推荐 2021-01-01 19:28 169 2074
《温暖的抱抱》| 常远李沁沈腾组团搞笑 2021欢笑开年!
推荐 2021-01-01 19:28 211 8234
今天起,上海这些地方“限塑”“禁塑”了!出门购物记得带上帆布袋
推荐 2021-01-01 19:27 919 5449
碧桂园青云棠樾 PK 恒大林溪郡角逐泰安热盘TOP5
推荐 2021-01-01 19:26 640 5123
上汽大通MAXUS 2020年销量达147,209台 同比大增17.16%
推荐 2021-01-01 19:26 873 5518
乾旭状元府邸 VS 百合花园哪个好?周边配套_基本信息对比
推荐 2021-01-01 19:25 738 2245
【高阳妇幼•中医科普】孩子便秘该怎么办?
推荐 2021-01-01 19:25 263 8185
【高阳妇幼•欢庆元旦】默默无闻坚守岗位的妇幼人
推荐 2021-01-01 19:25 881 2613
林清玄:最有力量的,是一颗柔软的心
推荐 2021-01-01 19:25 288 4743
祝福2021,让一切重新开始!
推荐 2021-01-01 19:25 552 4665
状元府邸 PK 碧桂园曲江府角逐韶关热盘TOP5
推荐 2021-01-01 19:24 741 9100
​叫安镇举行2021年首次升旗仪式
推荐 2021-01-01 19:20 90 6074
碧桂园·江山赋 PK 郑东恒大文化旅游城角逐开封热盘TOP5
推荐 2021-01-01 19:19 550 1238
恒大悦府 VS 绿地滨江壹号哪个好?周边配套_基本信息对比
推荐 2021-01-01 19:18 293 4812
荣盛·锦绣外滩 PK 泊翠里角逐嘉兴热盘TOP5
推荐 2021-01-01 19:18 403 773
怀化恒大帝景 VS 世府名邸在怀化谁更胜一筹
推荐 2021-01-01 19:17 700 4699
淮北超高人气楼盘 恒大中央公园 VS 汉都中国府
推荐 2021-01-01 19:17 108 6798
河源超高人气楼盘 龙光城 VS 河源恒大雅苑
推荐 2021-01-01 19:16 927 4670
香港新增42宗确诊 联合医院增1宗累计21人感染
推荐 2021-01-01 19:16 813 3284
葫芦岛恒大御景湾 VS 首创·龙湾在葫芦岛谁更胜一筹
推荐 2021-01-01 19:16 506 3755
汉中超高人气楼盘 汉中恒大悦珑湾 VS 地建嘉信·臻华府
推荐 2021-01-01 19:15 687 5659
你的平安,有我们守护
推荐 2021-01-01 19:15 544 7722
衢州↔郑州航线首航执飞
推荐 2021-01-01 19:15 720 8079
广东石化项目乙烯装置钢结构正式开工
推荐 2021-01-01 19:15 375 9461
菲达香港花园 PK 顺达中央国际角逐高密热盘TOP5
推荐 2021-01-01 19:14 463 6873
年初寄语:用最深最深的深情,拥抱那些春暖花开的情意
推荐 2021-01-01 19:11 677 6924
新年首日,两场升旗仪式在上海人民广场与历史博物馆前举行
推荐 2021-01-01 19:10 751 6908
传染性极强!这种病毒近期高发,诸暨人注意!
推荐 2021-01-01 19:10 715 6938
岳阳超高人气楼盘 恒大溪上桃花源 VS 湘阴碧桂园
推荐 2021-01-01 19:09 999 6140
猪崽、汽车、电车...昨日武宣县公安局举行集中返赃活动,总价值超29万元
推荐 2021-01-01 19:08 433 2339
元旦我在岗 | 奋斗不止,我们“在路上”
推荐 2021-01-01 19:07 134 7183
奖励5万元!凤凰南华山神凤抖圣争霸赛一等奖得主揭晓~
推荐 2021-01-01 19:07 575 8124
林郑月娥指香港“外防输入”可谓滴水不漏 力争确诊病例“清零”
推荐 2021-01-01 19:06 615 7764
金辉天奕铭著 VS 无锡恒大观澜府哪个好?周边配套_基本信息对比
推荐 2021-01-01 19:06 123 4345
“暖胃又暖心”的羊城跨年夜:看好中国,看好广州
推荐 2021-01-01 19:06 524 1813
武汉超高人气楼盘 融创武汉1890 VS 海格公馆
推荐 2021-01-01 19:06 761 5821
依云水岸 PK 武汉恒大时代新城角逐武汉热盘TOP5
推荐 2021-01-01 19:06 869 4691
吃饭、吃苦、吃亏:这三样东西一定要教给孩子!
推荐 2021-01-01 19:05 485 8987
上海监测到首例英国新毒株输入病例 测序发现28个共同变异点位
推荐 2021-01-01 19:05 881 9730
唐山超高人气楼盘 兰庭左岸 VS 金山壹号
推荐 2021-01-01 19:05 749 8797
滨江雅园(北外滩水城) VS 世茂璀璨江山在南京谁更胜一筹
推荐 2021-01-01 19:04 1000 9189
恒大引援瞄准欧战冠军中锋!巅峰场均造近1球,薪水成唯一障碍!
推荐 2021-01-01 19:04 674 8432
2021新年三愿:家人安康、岁月静好、初心不忘
推荐 2021-01-01 19:03 176 2237
迪庆州香格里拉经济开发区 “12.28”森林火灾全线扑灭
推荐 2021-01-01 19:03 706 1291
女主角黑化,赵丽颖靠浓妆刘诗诗靠颜色,杨紫:我只需一个眼神
推荐 2021-01-01 19:01 553 3941
2021,请势不可挡地成为一个幸福的人
推荐 2021-01-01 19:00 109 8617
最能补气血的素食排行榜来了!女性该吃,有这症状的男性更该吃!
推荐 2021-01-01 19:00 821 8016
男篮未来头号劲敌!NBA首秀砍17+9 周琦能限制住他们吗?
推荐 2021-01-01 18:56 365 2042
北京顺义南彩村调整为中风险 新入职人员须持核酸检测阴性证明 ……一文速览北京疫情发布会
推荐 2021-01-01 18:54 837 9524
艾芬“右眼近乎失明” 究竟谁之过?
推荐 2021-01-01 18:54 442 4949
泗阳对重点场所冬春季疫情防控措施落实情况进行督查
推荐 2021-01-01 18:52 745 9468
玩手机会得上颈椎病么?
推荐 2021-01-01 18:50 882 6555
天安门广场元旦升旗仪式!祝福祖国!
推荐 2021-01-01 18:50 683 3204
活动丨青海师范大学第三附属中学举办体育、美育浸润计划千人广播操舞展示
推荐 2021-01-01 18:48 979 1327
上万人新年首日天安门广场观升旗:祝福祖国 祝福世界
推荐 2021-01-01 18:46 905 7973
漯河市各县区党政领导分别带队检查元旦期间消防安全工作
推荐 2021-01-01 18:44 545 3159
跨年夜保平安|漯河消防集中开展元旦迎新夜查行动
推荐 2021-01-01 18:44 823 8841
爱在莲幼•共筑未来——城南办事处中心幼儿园教职工举行迎新年联欢会
推荐 2021-01-01 18:42 356 7868
朋友圈里面的“好处”,也充斥着大量不法分子的骗局
推荐 2021-01-01 18:41 161 1101
华为全面下架腾讯游戏,腾讯回应
推荐 2021-01-01 18:39 265 967
市疾控中心发布重要提醒!
推荐 2021-01-01 18:39 153 8269
皮薄籽少的甜心“炸弹”,大吉大利吃金桔呀!
推荐 2021-01-01 18:38 890 5804
“什么是高中生该有的爱情?”看完内心不能平静!转给孩子
推荐 2021-01-01 18:35 672 9034
2021年高考地理:每日一题
推荐 2021-01-01 18:35 591 6495
喜讯!沙河天路被命名为省级示范!
推荐 2021-01-01 18:34 96 4784
广州恒大重建目标明确!世界级中锋或来中超,已预订下赛季金靴?
推荐 2021-01-01 18:34 488 5042
健康养生丨茯苓入膏,扶正祛邪!
推荐 2021-01-01 18:33 604 512
四消息:曝李晓旭伤情,阿联上封面,周琦想回NBA,吉林或签1人
推荐 2021-01-01 18:33 848 6606
华浔杯·“我爱我家”全国有奖征文大赛正式启动
推荐 2021-01-01 18:32 232 1939
贱兮兮的柴柴,想撩猫又担心挨揍,表情笑死人!
推荐 2021-01-01 18:32 359 7473
【主题宣讲】内化全会精神,服务“三农”事业——学习贯彻党的十九届五中全会精神农村系统百姓宣讲会
推荐 2021-01-01 18:32 216 1129
学生和家长注意!这封来自黑龙江省教育厅的信,很重要!
推荐 2021-01-01 18:30 350 1382
人生,简简单单就好
推荐 2021-01-01 18:30 611 3114
800万人次!2020大理铁路大数据来啦
推荐 2021-01-01 18:30 709 5000
六个“新”!贺州这项工作交出答卷
推荐 2021-01-01 18:29 874 2970
就在今天!黄姚龙门街焕新绽放,打造古镇旅游商业新标杆
推荐 2021-01-01 18:29 715 4143
疫情之下,世界各地度过历来最寂静跨年
推荐 2021-01-01 18:25 943 4045
疫情之下,各国跨年夜也有“新姿势”……
推荐 2021-01-01 18:25 977 1612
灯光秀 花鼓灯……全国各地这样迎新年→看看有你熟悉的跨年方式吗
推荐 2021-01-01 18:23 547 9269
2021你好,幸运模式已开启!
推荐 2021-01-01 18:21 487 3535
龙港突击检查娱乐场所!
推荐 2021-01-01 18:16 147 2940
汤坑米街竟然变成这样子?谁干的?
推荐 2021-01-01 18:15 677 5421
凤凰单丛茶博物馆今天开馆
推荐 2021-01-01 18:12 541 6404
上海浦东机场口岸2020年出入境货机数超7.2万架次 创历史新高
推荐 2021-01-01 18:10 850 5281
拉萨基层民警举行新年升旗 庆元旦迎接“中国人民警察节”
推荐 2021-01-01 18:09 384 1761
7万余架次、同比增长110%! 2020年浦东机场口岸出入境货机数量创新高
推荐 2021-01-01 18:09 393 6066
纽约时报广场举行无公众跨年活动
推荐 2021-01-01 18:09 400 4963
实拍!-10℃阵风7级,通州街头4000余名环卫工人在岗,消杀清扫防控疫情!
推荐 2021-01-01 18:09 652 5055
广州一男子为请假自称“核酸检测阳性”被拘留20日
推荐 2021-01-01 18:05 181 2441
节日我在岗 | 元旦,我来守护鹭岛交通的畅安舒美
推荐 2021-01-01 18:04 218 686
沙河口新华同仁轩 VS 壹品星海,哪个更宜居?
推荐 2021-01-01 18:04 188 8440
元旦假期 市民购物热情高涨
推荐 2021-01-01 18:02 691 7342
海港建树里 VS 东方明珠城,哪个更宜居?
推荐 2021-01-01 18:01 562 689
立体几何中的动态问题
推荐 2021-01-01 18:00 171 698
科普一分钟 | 你知道金平异药花吗?
推荐 2021-01-01 18:00 170 8930
山水盆景中常用到的硬石
推荐 2021-01-01 18:00 909 7758
它是“失眠克星”,农村遍地都是,城里人当成宝,一夜无梦睡得香
推荐 2021-01-01 18:00 777 7065