報告一

報告題目：A Road Towards an Interaction between Cyber Security and AIGC

報告人：劉楊 新加坡南洋理工大學 講席教授

報告時間：2024 年 10 月13 日（周日） 08:45-10:15

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：AIGC and cyber security entails the systematic integration of security testing throughout all phases of the software development process. The objective is to automate the security expertise of human professionals by employing tools, thereby enabling early identification and resolution of security concerns during the early phase of the development life cycle. However, its effectiveness greatly relies on the capabilities of intelligent tools to simulate or potentially replace security experts. With the emergence of LLM, a new means to accomplish this objective is now available. In this presentation, I will discuss recent endeavors in utilizing LLM within the realm of application security, to cover the complete life cycle of the vulnerability analysis: vulnerability detection, diagnosis, POC generation and repair.

On the other hand, LLM's security is equally important to make sure the successful deployment of the AI applications. In this direction, we will demonstrate the latest research works regarding the attack surface of LLM, blackbox/whitebox attack generation for prompt injection, attack for multi-modality models, backdoor attack, and possible defense mechanism.

Finally, we are looking at the integration of the two aspects to develop an AI-enabled platform for application security analysis.

報告人簡介：劉楊，現任新加坡南洋理工大學計算機與數據科學學院講席教授、NTU網絡安全研究中心主任、新加坡網絡安全研究辦公室主任、新加坡大學領袖論壇講席教授。他專攻軟件工程、網絡空間安全、人工智能前沿研究領域，其研究成果填補了軟件分析中理論和實際應用之間的空白，研發了多款高效的軟件質量和安全檢測平台并成功商業化。到目前為止，他已經在頂級會議和頂級期刊上發表了800篇+論文，谷歌學術引用達26k+，并在頂級軟件工程會議上獲27項最佳論文獎以及最具影響力軟件獎。他還獲得多項著名獎項，包括MSRA fellowship、TRF Fellowship、南洋助理教授、Tan Chin Tuan Fellowship、Nanyang Research Award 2019、ACM傑出演講人、新加坡傑青和NTU創新者（創業）獎。

報告二

報告題目：Insights and Challenges for Securing Microcontroller Systems

報告人：趙子銘 美國東北大學 副教授

報告時間：2024 年 10 月13 日（周日） 10:15-10:45

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告人簡介：趙子銘、現任美國東北大學庫裡計算機科學學院副教授，網域安全與取證實驗室（CactiLab）主任，研究方向為系統與軟件安全、網絡與互聯網安全、以人為中心的安全。他的研究得到了美國國家科學基金會（NSF）、美國國防部、美國空軍科學研究辦公室和美國國家網絡安全學術優秀中心的支持。他是NSF CAREER獎和NSF CRII獎的獲得者。他的研究成果發表在IEEE S&P、USENIX Security、ACM CCS、NDSS、ACM MobiSys、ACM/IEEE DAC、IEEE RTAS、ACM TISSEC/TOPS、IEEE TDSC、IEEE TIFS等期刊和會議上。他在ACM SACMAT 2024獲得了時間考驗論文獎。此外，他還在多個頂級會議上獲得了最佳/傑出論文獎，包括USENIX Security 2019、ACM AsiaCCS 2022、ACM CODASPY 2014和ITU Kaleidoscope 2016。他分别于2006年和2009年在北京郵電大學獲學士和碩士學位，2014年在美國亞利桑那州立大學獲計算機科學博士學位。

報告三

報告題目：Split Learning for 6G Edge Intelligence

報告人：陳先浩 香港大學 助理教授

報告時間：2024 年 10 月13 日（周日） 10:45-11:15

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：The next-generation mobile network aims to natively support distributed intelligence, such as federated learning, across massive wireless edge devices. Unfortunately, in the era of large models, the deployment of federated learning faces significant obstacles due to the limited resources on edge devices. In this talk, I will briefly introduce split learning (SL) and elucidate how it overcomes resource limitations via device-server co-training, thereby transforming next-generation edge AI. Then, I will present our recent work on adaptive split federated learning (AdaptSFL) in resource-constrained edge networks. Specifically, our work first provides a unified convergence analysis of split federated learning (SFL) to quantify the impact of model splitting and client-side model aggregation on the learning performance. Then, we develop the AdaptSFL framework to adaptively control model splitting and client-side model aggregation to accelerate SFL convergence. Simulation results demonstrate the effectiveness of our approach in accelerating SFL under network resource constraints. Finally, I will conclude the talk by discussing open problems in SL, such as security and privacy issues.

報告人簡介：陳先浩、現任香港大學電氣與電子工程系助理教授、無線信息與智能實驗室（WILL）主任，研究方向為無線網絡、邊緣計算、分布式學習、網絡安全。他2022年于佛羅裡達大學獲電氣與計算機工程博士學位，2017年于西南交通大學獲得工學學士學位。他曾獲佛羅裡達大學2022年ECE Graduate Excellence Award for Research、ICCC最佳論文獎等榮譽。他受邀擔任2024年中國國際通信會議ICCC特邀報告嘉賓、擔任ACM Computing Surveys編輯、多個國際通信旗艦會議TPC成員、安全專刊客座編輯：Security and Privacy in Emerging Edge AI Systems and Applications。

報告四

報告題目：細粒度網絡流量分析

報告人：馮業博 新加坡南洋理工大學 博士後研究員

報告時間：2024 年 10 月13 日（周日） 11:15-11:45

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：網絡流量分析是一種通過監控和解析網絡數據流（通常是加密的）來檢測、診斷和理解網絡活動及行為的方法。随着網絡結構、互聯網應用和用戶構成的日益複雜，傳統的網絡流量分析已難以滿足精确網絡事件監控、有效攻擊防禦和細緻用戶行為推測等需求。在本次講座中，我将通過多個項目展示如何從不同層面細化網絡流量分析的顆粒度，包括識别更細化的應用層用戶行為、生成可解釋的威脅分析結果、以及增強對網絡環境的感知能力等。

報告人簡介：馮業博，現任新加坡南洋理工大學博士後研究員，研究方向包括網絡安全、網絡流量分析、區塊鍊安全和入侵檢測等。他于2023年獲得俄勒岡大學（UO）計算機科學博士學位，曾榮獲2022年優秀自費留學生獎學金、2019年IEEE CNS最佳論文獎、UO Gurdeep Pall研究生獎學金和Ripple研究獎學金等多項榮譽。他不僅擔任IEEE TDSC、IEEE TIFS、ACM TKDD、IEEE JSAC和IEEE COMST等十餘個國際頂尖期刊的審稿人，還擔任Sensors的客座編輯。此外，他還是SDM、CIKM等國際會議的程序委員會成員，并在USENIX OSDI和USENIX ATC擔任代碼評估委員。

報告五

報告題目：算力集中如何影響共識競争

報告人：徐家畫 英國倫敦大學學院 副教授

報告時間：2024 年 10 月13 日（周日） 14:15-14:45

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：比特币網絡中的分叉源于區塊鍊工作量證明共識協議中的自然競争，但分叉可能導緻資源浪費以及網絡不安全。因此，分叉應當出現，但數量應有限。本文提出了一個基本模型，用于估算獨立異質礦工網絡中自然分叉率，該模型是競争者數量、算力分布以及點對點基礎設施上的區塊傳播時間的函數。我們提供了分析公式和數值結果，以校準和解釋區塊鍊系統中的經驗分叉率。盡管模型基于一些相對簡化的假設，例如礦池内部傳播延遲為零，但其預測的分叉率與實際觀測到的孤塊率較為吻合。該模型形式化地描述了區塊傳播延遲和總算力對分叉率的正向影響，并提出算力集中度增加會降低分叉發生的可能性。我們的工作為未來分布式網絡共識動态的研究提供了堅實的數學基礎。

報告人簡介: 現任英國倫敦大學學院金融計算副教授，研究領域為區塊鍊技術和數字金融與安全。她擔任計算機學院新興數字科技研究生專業的帶頭人，同時也是分布式賬本科技基金會的學術帶頭人。她在多所國際知名大學教授金融科技相關課程，其中包括倫敦商學院、蘇黎世大學、拉美貨币研究中心，其金融科技跨學科領域的研究成果發表在國際計算機安全頂會及商科頂刊。她在中國複旦大學取得本科學位，在德國曼海姆大學獲得碩士學位，在瑞士聖加侖大學取得博士學位，并于任教前在瑞士聯邦理工大學任博士後研究員。

報告六

報告題目：去中心化金融安全

報告人：吳聰 香港大學 博士後研究員

報告時間：2024 年 10 月13 日（周日） 14:45-15:15

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：Web3與去中心化金融的技術變革，已悄然從根本上重塑數字金融的基礎結構，為全球經濟帶來了去信任化的創新，同時也預示着更多新的機遇與安全挑戰，尤其是在反欺詐、反洗錢、鍊上釣魚活動檢測、價格操縱檢測等方面。去中心化金融系統的開放性與監管缺失使得這些威脅問題愈加複雜嚴峻，嚴重影響了鍊上加密資産的安全與穩定。本報告将分享吳聰博士在去中心化金融領域的最新研究進展與解決方案，剖析中心化金融安全态勢，着重介紹兩個重要研究案例：鍊上欺詐代币分析與檢測、鍊上釣魚風險分析與檢測，并探讨Web3安全與去中心化金融安全未來發展方向。

報告人簡介:吳聰，現任香港大學博士後研究員，研究方向為分布式智能系統安全，具體包括分布式學習安全與隐私、區塊鍊安全、系統安全、大模型安全。加入香港大學之前，他曾是新加坡南洋理工大學網絡空間安全實驗室博士後研究員，他2022年于88858cc永利官网獲博士學位，2017年于西安電子科技大學獲學士學位。其代表研究成果發表在國際頂級會議期刊，包括CCS、USENIX Security、ASE、TIFS、TDSC、JSAC、TMC等。他曾獲香港大學研究委員會博後獎學金、2023年中國網絡空間安全大會優秀論文獎、國家教育部第二屆網絡空間安全産學協同育人優秀案例評選一等獎等榮譽。他受邀擔任IJCS、SPY副主編、ISSCC-IWCMC 2025會議主席、多個國内外頂級會議期刊審稿人及程序委員會成員、包括CCS、USENIX Security、NDSS、WWW、MM、TIFS、TDSC、TKDE、TOSEM、Proceedings of the IEEE、JSAC、TOPS等、多個安全專刊首席客座編輯：Advances in Security for Emerging Intelligent System；Security and Privacy in Emerging Edge AI Systems and Applications

報告七

報告題目： 可信和高效的聯邦學習技術研究

報告人： 韋康 香港理工大學 博士後研究員

報告時間：2024 年 10 月13 日（周日） 15:15-15:45

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：聯邦學習通過用戶本地模型訓練與服務器模型聚合的疊代方式實現學習過程，可一定程度上保障用戶隐私，已逐步成為數據價值挖掘的重要手段。然而，由于聯邦學習需要用戶端模型多次傳輸，其存在訓練效率低和隐私洩露等問題。因此，設計可信和高效的聯邦學習架構具有重大的研究價值。本報告将介紹機器學習優化器與差分隐私保護聯邦學習的研究工作。首先，本報告将介紹一種改進的差分隐私保護聯邦學習算法，即DP-FedSAM，其利用銳度感知最小化優化器增強本地訓練過程中參數的抗随機噪聲和泛化能力，以減輕差分隐私對聯邦學習訓練的負面影響。然後，本報告提出ADAM優化器與聯邦學習結合的算法，即A2OCS，可以降低本地用戶訓練過程中梯度估計的噪聲方差并加速聯邦學習的收斂速率，從而在保證隐私性前提下進一步提升模型可用性。最後，本報告與聽衆探讨差分隐私保護聯邦學習未來的若幹研究方向。

報告人簡介: 現任香港理工大學博士後研究員，他于2010年8月至2014年6月獲得西安電子科技大學學士學位，于2017年9月至2023年1月碩博連讀獲得南京理工大學博士學位。曾于2021年6月至2021年12月參加騰訊犀牛鳥科研精英人才培養計劃任研究員。主要研究方向包括分布式機器學習、隐私計算、存儲編碼、糾錯碼與信息論。已發表多篇頂級的期刊和會議論文，包括ICML, CVPR, IEEE JSAC, IEEE TIFS等，研究成果獲得IEEE信号處理學會2022最佳論文獎、Wiley中國開放科學2022年度作者，2023年中國電子學會網絡空間安全大會優秀學術論文和2021年美國國立衛生研究院Idash隐私計算大賽第一名等獎項。

報告八

報告題目：神經代碼模型安全

報告人：孫偉松 新加坡南洋理工大學 博士後研究員

報告時間：2024 年 10 月13 日（周日） 15:45-16:15

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：随着深度學習技術在自然語言處理等領域取得巨大成功，軟件工程研究者也将其引入到程序語言處理中，尤其是代碼智能任務求解。利用大規模開源代碼數據集訓練的神經網絡模型在各種代碼智能任務（例如漏洞檢測、代碼生成、代碼摘要等）上展現出令人印象深刻且極具前景的效果。我們将使用代碼數據集訓練的神經網絡模型統稱為神經代碼模型。然而，由于神經網絡的脆弱性和不可解釋性，與自然語言處理模型與圖像處理模型一樣，神經代碼模型安全也面臨衆多挑戰，已同時受到軟件工程、人工智能、安全領域的關注。該報告将聚焦神經代碼模型面臨的安全問題，探讨最新研究成果，揭示挑戰、趨勢與機會。

報告人簡介:孫偉松，現新加坡南洋理工大學博士後研究員，于2023年在南京大學獲得軟件工程博士學位。主要研究方向包括智能軟件工程、可信人工智能、以及兩個領域的交叉研究（可信智能軟件工程）。目前已在軟件工程、人工智能以及安全領域的國内外高水平會議和期刊（例如ICSE、FSE、ASE、ISSTA、ACL、TDSC、TSE、TOSEM等）發表論文30餘篇。曾擔任國際人工智能可靠性和安全性研讨會（2024 International Workshop on AI Reliability and Security）的聯合主席，多個國内外會議或期刊審稿人（例如ICSE 2025、ICLR 2025、NeurIPS 2024、ISSRE 2024、ACL 2024、TSE、TOSEM、軟件學報等）。受邀擔任多個客座編輯專刊：Security and Privacy in Emerging Edge AI Systems and Applications; Large Language Models for Software Engineering and Software Applications的。

報告九

報告題目：智能軟件系統的公平性測試與提升

報告人：陳震鵬 新加坡南洋理工大學 博士後研究員、英國倫敦大學學院榮譽研究員

報告時間：2024 年 10 月13 日（周日） 16:15-16:45

報告地點：國家網絡安全人才與創新基地網安學院新珈樓B101

報告簡介：公平性已成為智能軟件系統的一項重要需求，受到政策制定者、學術界和工業界的廣泛關注。現有智能軟件系統常常無法為不同用戶群體提供公平的高質量服務，并在決策過程中表現出對特定群體的不公。這種不公平可能對受保護群體産生負面影響，導緻不道德、不可接受的後果，甚至可能引發法律和經濟風險。本報告将介紹陳震鵬博士在智能軟件系統公平性測試與提升方面的研究進展。

報告人簡介: 陳震鵬，現任新加坡南洋理工大學博士後研究員，英國倫敦大學學院榮譽研究員，于2016年和2021年在北京大學分别獲得學士學位和博士學位，主要研究方向為軟件工程、人工智能和萬維網等。在ICSE、FSE、WWW、TOSEM等CCF-A類會議和期刊發表論文30餘篇，曾獲WWW最佳論文獎（中國首個）、ACM SIGSOFT傑出論文獎、微軟學者、CCF優博、北京市優博等榮譽。研究成果被ACM通訊、New Scientist等媒體廣泛報道。受邀擔任ICSE、ASE、WWW、KDD等國際會議程序委員會委員和TSE、TOSEM、TMC等國際期刊審稿人，獲得ASE 2023、Internetware 2024傑出程序委員會委員及TOSEM、TWEB傑出審稿人等榮譽。

歡迎老師和同學們積極參與學習交流！