安全对齐与后训练
Safety Alignment & Post-training
SFT、DPO、RLHF、RLAIF、GRPO，偏好数据设计，安全与有用性边界校准，checkpoint ablation。
LLM SAFETY · ALIGNMENT · POST-TRAINING
让大模型的安全能力可训练、可评测、可解释。
中国科学院大学 · 中国科学院信息工程研究所直博生，聚焦大语言模型安全对齐、 后训练、红队评测、Agent 与代码安全，以及模型安全机制分析。
OPEN TO OPPORTUNITIES2026.07 起可实习 6 个月以上
02ACL 2026
MAIN PAPERS
MAIN PAPERS
08LEAD-AUTHOR
LLM SAFETY WORKS
LLM SAFETY WORKS
40+MODELS
EVALUATED
EVALUATED
500KANNOTATED
REASONING STEPS
REASONING STEPS
01 / RESEARCH FOCUS
从攻击暴露问题，
到训练解决问题。
我的工作横跨数据、训练、评测与机制解释：从构造对抗样本与风险体系出发， 通过后训练塑造模型行为，再以自动化评测和因果分析验证能力是否真正进入模型。
红队与自动化评测
Red Teaming & Evaluation
越狱与自适应攻击、风险体系、LLM-as-Judge rubric、多模型交叉判定、误判归因与安全回归。
Agent 与代码安全
Agent & Code Security
RAG / Prompt 注入、工具越权、Memory 污染、sandbox 逃逸、漏洞挖掘、PoC 与利用链验证。
机制分析与可解释性
Mechanistic Interpretability
FFN 参数内化、latent CoT、表示分析、probe、activation intervention 与神经元回路机制。
02 / SELECTED PUBLICATIONS
代表论文
聚焦安全推理、鲁棒对齐、因果机制与多智能体防御。
More Thinking, Less Talking: Internalizing Deliberative Safety into LLM Parameters
提出 HIAR，将显式安全思维链分层内化到低秩 FFN 参数中，在单次前向传播中完成隐式安全推理；相较强基线，攻击成功率降低约 43%。
Safety Reasoning · Parameter InternalizationResolving the Security-Auditability Dilemma with Auditable Latent Chain-of-Thought Alignment
提出 ALCA，将安全推理迁移至连续潜空间，并通过受控 Self-Decoding 恢复可审计文本，在鲁棒性、审计能力与推理效率之间取得平衡。
Latent CoT · Robust AlignmentPretending to Think: Unmasking and Eliminating Post-Hoc Rationalization in LLM Safety Chain-of-Thought
揭示安全思维链中的事后合理化现象，并通过反事实数据与时序一致性约束增强安全推理的因果性。
Causal Safety ReasoningFrom Shallow Alignment to Source Correction: Robust Safety Alignment for LLMs
从安全梯度的层间分布解释浅层对齐脆弱性，引导安全能力向模型脆弱层迁移，同时控制通用能力损失。
Mechanistic AlignmentFrom Chain to Mesh: Evolving Robust Safety Alignment via Neuron-Circuit Topology
以神经元回路拓扑解释安全对齐的局部失效与整体能力崩溃，并探索从脆弱单链到鲁棒网状结构的对齐路径。
Neuron Circuit · InterpretabilityAgentVax: Turning Multi-Agent Communities from Safety Liabilities into Collective Defense
面向 Input、RAG、Memory、Agent-Message 与 Tool-Chain Worm 风险，将智能体安全扩展到社群级协同防御。
Agent Security · Collective Defense* 在审与预投稿工作按当前阶段标注；正式版本以会议或论文主页为准。
03 / SELECTED PROJECTS
项目经历
研究问题与真实系统闭环：数据沉淀、训练优化、评测回归、可信交付。
01
POST-TRAINING2023 — 2026
大模型自动化安全后训练与鲁棒对齐平台
贯通红队 badcase、安全数据与训练 recipe、SFT / DPO / RLHF / RLAIF / GRPO、checkpoint 回归及失败样本回流，持续分析 ASR、过拒率、通用能力保持与 alignment tax。
多种后训练范式闭环回归评测Qwen / Llama / Mistral / Vicuna
02
RED TEAMING2023 — 2026
大模型内容安全攻防靶场与红队评测平台
参与风险体系、攻击样本与红队模型、自动判定与人工复核流程建设；覆盖越狱、多轮诱导、编码绕过、协同攻击、CoT 诱导和自适应攻击。
万级评测数据40+ 模型评测20+ 攻击方式
03
AGENT SECURITY2024 — 2026
Agent 安全靶场
构建 Agent 与代码安全评测框架，覆盖 RAG 注入、工具越权、长期记忆污染、敏感信息泄露、沙箱逃逸、多 Agent 协作绕过及蠕虫传播。
Tool-call 轨迹真实沙箱验证多智能体协同防御
04
CODE SECURITY2026
大模型漏洞挖掘能力评测
从 0day、CVE 转化、harness 优化与真实环境验证构建代码安全 benchmark，覆盖漏洞定位、PoC 生成、利用链构建和训练轨迹沉淀。
1,000+ 任务10,000+ 轨迹500,000 标注步骤
05
EVALUATION2023 — 2026
国家级大模型安全评测与生产级 Pipeline
承担风险维度设计、红队样本构造、Judge 校准、人工复核、结果归因与报告交付，并建立支持 checkpoint 对比与策略缺陷定位的批量推理流程。
LLM-as-Judge 校准能力保持分析多轮报告交付
04 / EXPERIENCE & TOOLKIT
教育、荣誉
与技术栈
中国科学院大学 · 中国科学院信息工程研究所
直博生 · 大语言模型安全对齐、后训练、越狱攻防与安全评测
导师：虎嵩林 研究员、韩冀中 正高级工程师北京工业大学
本科
SELECTED HONORS
- 2024 生成式人工智能安全大赛：越狱攻击赛道前三名、安全对齐赛道前三名
- 6 YEARS 连续获得优秀学生 / 一等奖学金与三好学生
- 5 PATENTS 大模型对齐训练与交易社群异常风险识别相关专利公示
- SERVICE 参与 ACL、AAAI 等 CCF A 类会议审稿
ENGINEERING TOOLKIT
PythonPyTorchTransformersHugging FaceCUDAFSDPvLLMSGLangRayOpenRLHFverlDockerLinux
05 / LET'S CONNECT
一起构建更可靠、
更可解释的大模型。
EMAILwangguan@iie.ac.cn可复制
GITHUBgithub.com/wangguan26↗SCHOLARGoogle Scholar · Guan Wang↗RESUME后训练 / 基模算法版简历↗