Complicate less.

CCSS 2026会议笔记整理

大模型与程序分析协同的代码审计 #

A1. 大模型与程序分析技术协同 #

问题与背景

任务能否正确完成存在随机性，重复运行结果容易不一致；不同上下文下容易失准，难以适配新语言、新项目。

方法与思路

大模型与程序分析技术有机协同，实现能力互补。拆分复杂任务，提取子任务知识并构建提示词；通过模型自我修正和外部工具检验，对输出进行验证与纠错，用于漏洞发现、验证和修复。

来源与成果

  • 所在单位：复旦大学系统软件与安全实验室

A2. 程序分析协同：知识摘要与Multi-Agent按需协同 #

问题与背景

传统分析多停留在局部结果，难以跨项目、跨版本、跨依赖复用。分析复杂度不只来自代码结构，还来自分析时状态。

方法与思路

将局部程序分析结果沉淀为可全局复用的代码语义摘要，统一抽象数据流、调用关系、路径条件、安全约束和版本演化。

  • 低复杂度任务：交给静态分析Agent，不调用LLM。
  • 中复杂度任务：继续静态分析，收集更多上下文，暂缓生成摘要。
  • 高复杂度任务：调用LLM生成条件数据流摘要，校验后回填静态分析。

来源与成果

  • 所在单位：复旦大学系统软件与安全实验室

A3. 业务语义理解：安全实体识别与安全语义推测 #

问题与背景

安全实体是与敏感数据访问相关的关键代码对象，如Token、Session和敏感资源。它们分布于多层调用链与业务逻辑之中，依赖关系复杂。

方法与思路

从结构、语义与数据关联三个维度提取安全实体，再利用安全实体访问语义与依赖关系推断业务规则。

  • 业务访问控制语义：提取访问控制等级、前置条件。
  • 实体生命周期语义：推断实体之间的逻辑依赖关系。
  • 访问路径上下文语义：理解路径约束、分支条件，检查所有实体访问路径是否满足规则。

来源与成果

  • 所在单位：复旦大学系统软件与安全实验室

A4. 安全知识补充：基于N-Day漏洞描述 #

问题与背景

漏洞描述中包含触发入口、攻击条件等漏洞信息，需要从中抽取攻击条件、触发路径与安全语义。

方法与思路

深度解析源代码与漏洞描述，提取API调用链、数据依赖等关键线索，辅助漏洞规则生成。使用LLM定位相关代码块并重构上下文信息，抽取控制流、语法规范和数据流约束，优化检测规则。

来源与成果

  • 所在单位：复旦大学系统软件与安全实验室

A5. 漏洞报告验证：降低误报 #

问题与背景

漏洞逻辑研判错误通常源于各处的小错误堆积，需要验证漏洞报告的逻辑细节并构造漏洞利用代码。

方法与思路

利用局部确定性分析对分析细节进行抽样检查，包括局部Def-Use分析及Field、路径敏感分析。通过代码切片提取最小相关上下文，生成和调整PoC；隔离环境、仿真业务数据，并利用PoC知识库指导攻击载荷变异。

来源与成果

  • 所在单位：复旦大学系统软件与安全实验室

A6. 复旦白泽多语言代码审计平台 #

问题与背景

多语言代码审计需要拆解分析流程、调度工具完成任务，并检测漏洞报告的逻辑严谨性。

方法与思路

  • Agent调度：将复杂任务拆解为简单子任务，动态管理任务队列。
  • 知识泛化：采集漏洞描述、漏洞补丁，萃取并更新漏洞知识。
  • 工具协同：代码解析、程序分析图构建、代码切片与规则生成。
  • 结果验证：分析事实验证、合理性评估、利用条件分析和规则验证。

来源与成果

  • 所在单位：复旦大学系统软件与安全实验室

系统软件缺陷发现与形式化推理 #

B1. 基于增量静态分析的操作系统缺陷检测（正在实现） #

问题与背景

操作系统代码量庞大、逻辑复杂、模块众多，现有静态分析工具需要较大的时间和内存开销。

方法与思路

对操作系统代码补丁进行细粒度分析，通过增量静态分析发现引入的缺陷。

  • 上下文敏感的补丁代码影响域识别：精确识别补丁影响的函数和代码路径。
  • 影响域指导的局部化静态缺陷检测：根据影响域对局部代码进行分析。

来源与成果

  • 所在单位：北京航空航天大学，北航开源软件安全实验室

B2. FM-Agent：提高开源系统软件可靠性 #

问题与背景

面向开源系统软件的缺陷发现，关注误报、漏报，以及并发、数据库、操作系统和AI算子库等场景。

方法与思路

使用LLM进行Hoare风格的组合推理，从调用上下文提取预期行为，并结合测试验证可疑缺陷。

来源与成果

Android软件分析与规则生成 #

C1. 标识符重命名与语义丢失 #

问题与背景

R8、ProGuard、DexGuard、DashO等混淆工具通过标识符重命名消除代码中的语义信息，例如将UserManager、userId替换为a、b。

方法与思路

材料未提供具体解决方法。

来源与成果

未提供论文或项目名称。

C2. RuleDroid：模块化的安全检测规则生成 #

问题与背景

需要将安全文档中的知识转化为可用于Android应用分析的静态检测规则。

方法与思路

模块化设计：将复杂任务拆解为单一目标的子任务，实现精准的上下文传递与中间态验证。

  1. 获取OWASP-MASTG、Android API和Semgrep规则文档，去噪并分段。
  2. 判断规则适用性，生成初始规则并修复语法错误。
  3. 增强检测规则、去重并划分严重性。
  4. 扫描APK，过滤误报并生成漏洞报告。

来源与成果

大模型供应链：研究议程、缺陷测量与生态风险 #

D1. 大模型软件供应链（LLMSC） #

问题与背景

大模型与智能体供应链组成持续演进，代码与自然语言语义共同驱动系统行为；智能体能力融入传统软件后，形成跨组件、跨应用、跨权限的攻击路径。

方法与思路

将LLM生态视为由软件组件、模型、数据集及下游应用组成的复杂依赖网络，刻画训练、分发、集成、运行的全生命周期，并围绕组件关系、语义理解与信任边界组织安全研究。

来源与成果

D2. LLM Agent应用的漏洞根因分析 #

问题与背景

LLM Agent应用的漏洞涉及用户接口、提示词管理、RAG、大模型、输出解析器、工具集和浏览器等模块。

方法与思路

按漏洞触发模块和根因进行分类，分析不可信文件加载、不安全输入传播、权限检查不足、输出过滤不当和恶意脚本执行等问题。

来源与成果

D3. 向量数据库模糊测试 #

问题与背景

向量数据库需要检测崩溃、边界条件、静默缺陷和迁移过程中的问题。

方法与思路

面向向量数据库开展模糊测试、边界测试、静默缺陷测试与迁移测试；相关工作VDBFuzz重点研究崩溃缺陷。

来源与成果

D4. 智能体框架的缺陷实证分析 #

问题与背景

智能体工作流框架的缺陷可能传播到上层应用，需要系统理解其根因和表现。

方法与思路

从LangChain、LlamaIndex和Haystack的缺陷修复记录中提取案例，按根因、表现和所属组件开展实证分析。

来源与成果

  • 相关论文：A Characterization Study of Bugs in LLM Agent Workflow Orchestration Frameworks（ASE 2025（Industry Showcase））
  • 公开资源：资料仓库
  • 所在单位：华中科技大学

D5. 智能体框架的缺陷测试 #

问题与背景

智能体框架缺陷可能表现为普通异常或静默错误，测试输入的有效性和缺陷判定都存在困难。

方法与思路

相关工作LogicHunter依据类型约束和真实用法生成测试，并通过检索文档、查看源代码和运行状态，判断异常是否构成缺陷。

来源与成果

D6. 模型注册表资源加载型漏洞检测 #

问题与背景

ModelScope、Paddle等模型和数据托管平台的资源加载过程可能引入远程代码执行风险。

方法与思路

构建面向模型注册表资源加载型漏洞的检测工具，检查平台的资源加载流程。

来源与成果

模型注册表资源加载型漏洞检测工具。

D7. 模型和数据组件的恶意后门检测 #

问题与背景

HuggingFace模型和数据组件可能携带恶意后门，加载脚本和模型反序列化过程都可能成为攻击入口。

方法与思路

针对模型和数据组件开展恶意代码检测。相关工作MalHug结合加载脚本提取、模型反序列化、污点分析和模式检测，分析资源中的恶意行为。

来源与成果

D8. MCP注册表滥用风险检测 #

问题与背景

MCP服务中的外部输入和返回内容可能跨越信任边界，传播到敏感操作或下游模型。

方法与思路

相关工作MCP-BiFlow分析请求侧和返回侧的双向数据流，追踪敏感源、危险操作及跨边界传播路径。

来源与成果

D9. 大模型应用商店的安全检测与测量 #

问题与背景

大模型应用商店中的应用滥用和恶意行为可能带来规模化安全风险。

方法与思路

对大模型应用商店开展应用收集、安全检测与测量，分析应用中的安全风险。

来源与成果

智能体程序静态分析与拒绝服务风险 #

E1. AgentFlow：面向智能体软件的原生静态分析框架 #

问题与背景

智能体软件的关键语义大量由框架API、配置与声明式结构隐式表达。不同框架语法不一，Agent交接、共享内存、工具调用和权限策略等依赖难以用普通调用关系表示。

方法与思路

构建Agent Dependency Graph（ADG），将框架差异统一成图结构。

  1. 通过别名分析解析对象绑定与引用传播，提取Agent实体、组件绑定、控制转移和数据传播等事实。
  2. 用Agent、Prompt、Model、Capability、Memory State和Control Policy表示节点，连接组件、控制和数据依赖。
  3. 在图上生成Agent BOM，查询不可信输入到高权限工具的传播路径，以及可能导致无限循环的控制结构。

来源与成果

E2. AgentDoS：资源滥用导致的拒绝服务（引用研究） #

问题与背景

Agent的自主执行可能持续消耗资源，造成拒绝服务。

方法与思路

分析资源生命周期，以LLM生成种子提示，再用定向灰盒模糊测试触发资源耗尽。

来源与成果

Skills供应链中的恶意行为检测 #

F1. MalSkills：面向恶意Skills的神经符号检测 #

问题与背景

恶意逻辑分散在自然语言、配置语言和程序语言中；单看一个文件可能是良性的，组合执行时才呈现恶意行为。读取和外发是否恶意，取决于操作的数据对象及上下文。

方法与思路

将安全敏感操作作为最基本的攻击者能力单元，构建适合Skills的中间逻辑抽象。解析敏感操作的操作数及其数据依赖，建立Skills依赖图，识别信息窃取、远程执行和解密执行等行为。

来源与成果

智能体与传统软件集成后的安全风险 #

G1. TaintAWI：针对Agentic CI/CD工作流注入风险检测 #

问题与背景

LLM Agent接入GitHub Actions工作流后，会读取外部用户可控内容并拥有工作流权限，提示注入可能引入新的CI/CD安全风险。

方法与思路

构建GitHub Actions统一中间表示，通过静态污点分析追踪跨Agent数据流传播。从Agent和下游脚本层面分别追踪敏感操作，同时验证传播路径上的访问控制条件，发现可能被注入攻击利用的工作流漏洞。

来源与成果

G2. AgentScan：端侧智能体执行流程劫持风险 #

问题与背景

移动AI Agent的语言理解、界面交互和系统调用能力不断增强，但缺乏对攻击面的系统性建模，以及覆盖推理层、交互层与系统层的安全检测机制。

方法与思路

在模型推理、GUI交互和系统调用三大核心能力中识别攻击面，构建分析框架AgentScan，自动评估攻击可行性。

来源与成果

G3. 大模型内置浏览器RCE风险 #

问题与背景

AI助手联网分析网页时会启动真实浏览器。如果读取恶意网页时存在浏览器版本落后、关闭沙箱或高权限运行等问题，就可能导致恶意代码执行。

方法与思路

  1. 执行确认与版本探测：确认JavaScript执行能力，探测浏览器版本。
  2. N-day漏洞扫描：匹配可利用的已知漏洞。
  3. 漏洞验证与利用：验证漏洞触发情况及沙箱、文件系统、内网和客户端高权限接口的风险。

来源与成果

  • 论文：Demystifying LLM-Mediated Browser Exploitation: From Prompts to Remote Code Execution（Ongoing）

智能体安全治理与情报平台 #

H1. 面向智能体软件的原生供应链安全基础设施 #

问题与背景

智能体软件存在行为不可控、语义难理解、组件难验证、资产不可见和依赖难追踪等问题。

方法与思路

  • 运行时安全：行为观测、ADR审计与新型权限约束。
  • 程序分析：静态/动态污点分析、交互式能力探测与语义模糊测试。
  • 供应链安全：智能体物料清单、原生漏洞数据库与组件威胁情报。

来源与成果

智能体软件DevSecOps架构方案。

H2. AICensus：面向大模型软件的全生命周期安全治理 #

问题与背景

面向智能体组件不可信、资产不可见、应用不可测和运行不可控问题，开展全生命周期安全治理。

方法与思路

  • AgentGate：流量捕获、轨迹探针、安全策略与持续性威胁溯源。
  • AgentFlow：异构智能体静态分析、统一中间表示、物料清单生成与漏洞检测。
  • AgentProbe：扫描测绘、内容合规测试、工作流结构逆向与定向模糊测试。
  • AgentTotal：安全事件追踪、漏洞情报聚合、恶意组件分析与威胁知识库。

来源与成果

  • 所在单位：华中科技大学相关研究团队

H3. 智能体生态威胁情报平台与AgentTotal #

问题与背景

需要聚合智能体漏洞和恶意供应链组件威胁情报，为全链路治理提供数据支撑。

方法与思路

构建智能体生态安全漏洞情报库和AgentTotal恶意组件情报库，接入安全检测工具，关联恶意组件、公开威胁与受影响版本，并支持场景化复现。

来源与成果

  • 所在单位：华中科技大学相关研究团队

分布式训推加密与硬件安全 #

I1. 面向分布式大模型训推系统的加密方案 #

问题与背景

分布式大模型训练推理主要在GPU/NPU上执行，卡间通信数据加密性能成为瓶颈。

方法与思路

围绕GPU/NPU卡间通信的数据加密开展研究；材料未给出具体算法。

来源与成果

华为揭榜难题。

I2. 硬件漏洞挖掘Agent（未来工作） #

问题与背景

面向CPU、SoC、GPU的智能漏洞发现，目标是自主发现深层硬件漏洞。

方法与思路

  1. 测试规划与知识增强：任务分解、规范/漏洞库检索、历史Patch学习。
  2. 输入生成与执行探索：指令/接口协同生成，中断、存储和总线事件建模，反馈引导测试。
  3. 异常判定与漏洞分析：差分与Oracle、静默错误检测、漏洞归因分析。

来源与成果

未来研究方向。

I3. 漏洞修复Agent（未来工作） #

问题与背景

硬件漏洞修复需要从根因定位推进到补丁验证，形成“发现—定位—修复—验证”闭环。

方法与思路

结合Trace/Waveform分析、模块级定位和安全属性关联确定根因；生成RTL Patch候选及Assertion/Checker，再进行最小化复现和回归测试。

来源与成果

未来研究方向。

I4. 大模型生成RTL代码的安全性保障研究（未来工作） #

问题与背景

保障AI生成硬件设计的正确性与安全性，支撑可信RTL自动生成。

方法与思路

围绕生成缺陷类型、安全属性与威胁场景进行风险建模，结合代码审计、形式化/仿真验证和Oracle/Assertion检查，验证生成的RTL代码。

来源与成果

未来研究方向。

回到顶部