课题简介
随着大语言模型（LLM）的迅速发展，人工智能逐渐渗透到软件工程与软件安全领域。近年来，学界和工业界都在探索如何利用LLM理解程序逻辑、发现潜在漏洞、辅助攻击建模与修复。与此同时，软件安全问题在区块链、操作系统、Web应用和二进制系统中仍然频繁发生，亟需新的研究范式。
传统方案的局限性十分突出：
（1）传统方案1：基于模式匹配或深度学习的检测方法（如检测 Use-After-Free 等经典漏洞模式）在精度上有一定提升，但缺乏可解释性，使得安全专家难以理解其判断过程；
（2）传统方案2：基于静态分析和Fuzzing的检测方法则常常面临精度与效率之间的权衡：静态分析容易带来大量误报，而Fuzzing虽能发现深层漏洞，却难以保证复杂路径覆盖。
因此，仅依赖传统方法很难实现高效、可靠的漏洞发现与修复，这也是近期多项实证研究（empirical study）所揭示的共性问题。
在此背景下，本课程将围绕“LLM + 软件安全”展开，分为2个部分：
第一部分：漏洞类型与现有方案的局限性
课程将介绍常见漏洞类别，包括 模式型漏洞（pattern-based，如 Use-After-Free、整数溢出、SQL 注入等）和 逻辑型漏洞（logic-based，如访问控制绕过、重入攻击等）。在系统回顾相关研究的同时，还会通过实证研究的方式剖析现有漏洞检测工具与方法的局限性，从而引导学生思考：如何从现实问题中提炼出有价值的学术 idea。
第二部分：LLM 在漏洞检测与修复中的应用
这一部分将重点讨论LLM如何结合传统安全技术，辅助完成漏洞检测、利用与修复，通过实例与动手实验，学生将理解 LLM 如何在安全分析中提供推理与自动化优势：
•自动识别漏洞特征：通过对程序代码、IR/AST 或运行日志的语义理解，发现潜在漏洞点；
•判断可利用性：结合程序上下文，区分“真实漏洞”与“不可利用缺陷”；
•自动生成脚本：包括漏洞利用的 Proof-of-Concept (PoC) 与漏洞修复补丁建议
•自动修复：包括修复可利用的漏洞，和保证语义一致性
导师介绍
【简介】
【学校/研究方向】
本科毕业于国内985高校，新加坡Top2直博，博士期间课题为大模型辅助漏洞检测
【实习/工作/项目经历】
在新加坡高校担任研究工程师，目前为新加坡Top2博士后。研究方向包括软件工程，软件安全，AI+SE/Sec，漏洞检测，漏洞利用和修复，用于软工/安全问题的大模型Agent等。
【科研论文/审稿人/会议&期刊任职】
博士期间一作发表CCF A类软工会议（ASE，ICSE），共发表论文近10篇，5篇CCF A类会议/期刊，均为软件工程和安全方向，谷歌学术引用数近500次,论文曾获NDSS 2025 Distinguish Paper Award。曾被邀请作为软件工程顶刊TSE，TOSEM审稿人，安全方向顶刊TDSC审稿人；同时也作为软件工程会议MSR和ICSE的Junior PC/Shadow PC参与审稿。
【指导经验】
与多所985高校的学生有合作指导关系，主要方向为LLM辅助漏洞检测、AI生成代码质量等。相关成果投稿到软件工程顶级期刊/会议，并已有录用的情况。
【指导特点】
-可帮助头脑风控快速列出潜在题目，筛选想做的题目
-快速帮忙补全相关背景知识
-部分题目有可复用的“套路”，快速形成原型
-支持多种交叉方向探索
可选创新点
1、大模型与静态分析结合的业务建模和漏洞检测 CCF A级别的期刊或者会议，包括TSE，TOSEM，ICSE，ASE等
2、漏洞检测相关实证研究 CCF A/B级别的期刊或者会议，包括TSE，TOSEM，ICSE，SANER等
3、大模型辅助的软件静态分析提升 CCF B级别的期刊或者会议，包括SANER，ACSAC等
4、大模型辅助第三方库调用安全检测 CCF A/B级别的期刊或者会议，包括TSE，TOSEM，ICSE，SANER等
课程亮点
1.软件安全场景有非常多的分支，相似的idea可以很容易拓展到不同语言，不同软件生态的类似问题上
2.对于大多数问题，学术界已有较为成熟的benchmark直接可用。甚至收集合理的新的数据集也很容易完成实证研究并有所发现
3.课程总体连贯相通，从软件的开发到漏洞发现、验证和修复都有很多潜在可以挖掘的环节
4.课前一次详细meeting，提前帮同学解答选题问题和解答疑问，阐述授课风格；线上课程主要利用论文发掘故事和模型设计，帮助同学规划好论文框架，讲好论文故事