近日，88858cc永利官网王鵑教授課題組弘毅班本科生何宇撰寫的論文被第31屆國際計算機與通信安全會議（ACM Conference on Computer and Communications Security，ACM CCS2024）錄用。

論文題目為“Is Difficulty Calibration All We Need? Towards More Practical Membership Inference Attacks”（《我們隻需要困難度校準嗎？實現更實用的成員推理攻擊》），指導老師為88858cc永利官网王鵑教授（通訊作者），與紐約州立大學布法羅分校Hongxin Hu教授合作完成。88858cc永利官网2020級本科生李勃衡、2020級本科生王堯、和博士生楊夢達參與了該成果的研究工作。

成員推理攻擊（Membership Inference Attack）是一種以推導給定數據點是否隸屬于目标模型訓練集為目标的隐私推斷攻擊，其既可以用來評估人工智能模型的隐私洩露程度，也可以用來評估模型遺忘（machine unlearning），版權侵犯（Copyright infringement）等。本文重新審視了成員推理攻擊中的黃金準則——困難度校正方法，發現其雖然能極大地提高攻擊在低假陽性率設置下的表現，但會因”成員分對目标模型的依賴“以及”攻擊數據集僅僅為潛分布中采樣的有限子集“等原因，導緻某些擁有高損失的非成員樣本點被錯誤分類。為了解決這一問題，論文提出直接地複用原始成員分這一有力的非成員信号，即在原始成員分到攻擊模型的輸入間增加一個殘差連接（shortcut）。與已有工作相比，該工作能夠在将攻擊時間開銷降到1/25的條件下，将低假陽率下的真陽率提高到2.5倍。該項研究對人工智能模型隐私保護領域提出了新的挑戰。

據悉，本屆ACM CCS将于2024年10月14至18日在美國鹽湖城召開。ACM CCS于1993年首次舉辦，已有三十多年曆史，是國際公認的信息安全領域旗艦會議，與IEEE S&P、USENIX Security、NDSS并稱為信息安全領域國際四大頂級學術會議，也是中國計算機學會（CCF）推薦的A類會議。ACM CCS近十年錄用率約為18%，被錄用的稿件反映了網絡安全領域國際最前沿的研究水平。