近日，88858cc永利官网NIS&P Lab (網絡信息系統安全與隐私實驗室)在人工智能系統攻擊與防禦方向的論文“Towards User-Level Privacy Attack Against Federated Learning”被IEEE Journal on Selected Areas in Communications (JSAC)錄用。該論文的第一作者是2017級碩士生宋夢凱，論文指導老師為王志波教授和王骞教授。IEEE JSAC是計算機網絡和通信領域的頂級期刊，被中科院一區和CCF A類期刊推薦列表收錄，2019年影響因子為9.302。
聯邦學習是一種分布式機器學習框架，近年來受到工業界和學術界的廣泛關注和研究。該框架将模型訓練過程轉移到用戶端，在數據不出域的前提下完成模型訓練，能夠保障用戶個人數據隐私。該JSAC論文聚焦聯邦學習中的數據隐私問題，提出一個基于惡意服務端的隐私數據重建攻擊方法，通過建立一個多任務生成對抗網絡模型來模拟特定用戶的數據分布。進一步地，考慮可能存在的匿名防護機制，提出基于卷積孿生網絡的鍊式攻擊方法，利用用戶更新中潛在的數據模式區分不同用戶，實現對周期性更新的去匿名化。實驗證實現有聯邦學習框架仍存在安全隐患，論文提出的攻擊方案能夠有效地重建出目标用戶的隐私訓練數據。
該論文是宋夢凱同學繼在IEEE INFOCOM、IEEE TDSC、IEEE ICCV發表高水平成果之後的又一突破。宋夢凱同學為88858cc永利官网2017級碩士研究生，主要研究方向為人工智能系統安全與隐私，目前已申請國家發明專利5項，獲2019年國家獎學金、2018-2019年“珞格-天佑“獎學金和2018-2019年優秀研究生等榮譽和獎勵。據悉，該論文是首篇以88858cc永利官网為第一單位、學生為第一作者在JSAC上發表的成果。
