近日，我院2021級博士生楊夢達撰寫的論文“Measuring Model Inversion Defences in Edge–Cloud Collaborative Inference Systems”被第36屆神經信息處理系統會議 (Neural Information Processing Systems，NeurIPS 2022) 錄用（Full Paper)。該研究工作是在我院可信計算團隊的王鵑教授（通訊作者），紐約州立大學布法羅分校Hongxin Hu教授和重慶大學任骜教授聯合指導下完成，碩士生李子昂、徐枭洋和易文哲參與了該成果的研究工作。

NeurIPS，全稱神經信息處理系統大會，是一個關于機器學習和計算神經科學的國際會議。該會議固定在每年的12月舉行,由NIPS基金會主辦。NIPS是機器學習領域的頂級會議。在中國計算機學會的國際學術會議排名中，NIPS為人工智能領域的A類會議。

邊雲協作推理系統可以加速邊雲場景下的深度學習應用預測任務，本地設備和雲服務器共同運行一個複雜的深度學習模型。然而，這些邊雲協作推理系統容易受到模型反演攻擊的嚴重威脅，即惡意的雲服務提供商能夠恢複邊緣側用戶的私有數據。為了抵禦該類攻擊，研究人員進行了大量研究并推出了一系列防禦措施，但現有工作對這些防禦機制的魯棒性知之甚少。該論文系統地度量這些最先進的防禦對策抵禦模型反演攻擊的穩健性。該論文展示了這些防禦在隐私和實用性方面的權衡，并提出了一種新的方法，即敏感特征蒸餾，以恢複受保護的特征表示中的敏感信息。該論文的實驗表明，敏感特征蒸餾能夠突破模型拆分情況下的防禦機制，證明了現有的防禦機制作為一種保護隐私的技術對模型反演攻擊的不足。該論文希望其結果能夠鼓勵研究人員為邊緣雲協作推理系統尋求更強大的防禦機制來應對模型反演攻擊。