2025年12月12—13日，由中国人工智能学会主办，CAAI人工智能与安全专委会、北京邮电大学、三六零数字安全科技集团有限公司和浙江科技大学共同承办的“2025年第二届人工智能与安全大会”在北京举行。本次大会以“人工智能与安全”为主题，汇聚了国内外顶尖学者、智库机构、产业专家和青年才俊，共同探讨人工智能安全领域的最新进展、挑战与机遇。

01

隆重开幕 

权威专家齐聚，共绘AI安全新蓝图

会议开幕式由北京邮电大学网络空间安全学院执行院长李小勇教授主持。会上，中国工程院孔志印院士和北京邮电大学党委常委、副校长彭木根教授分别发表致辞讲话。

孔志印院士在致辞中指出，人工智能安全是科技自立与发展的根基。面对外部技术封锁与内生风险挑战，需将安全理念深植AI研发全程，通过自主创新攻克核心技术短板，并以AI赋能安全防护，构建多元共治的生态体系，为国家战略实施筑牢安全屏障。

彭木根副校长在致辞中指出，北邮作为信息科技特色高校，肩负以高水平安全护航人工智能高质量发展的重要使命。面对大模型带来的新型风险挑战，他强调，高校应致力于培养兼具顶尖技术能力与安全伦理意识的复合型人才。北邮愿与各界携手，共同为构建安全、可信、可控的人工智能生态体系贡献力量。

主旨报告由北京邮电大学网络空间安全学院执行院长李小勇教授和副院长张熙教授主持。

中国工程院黄殿中院士作题为《统筹人工智能发展与安全，构建安全风险测评体系》的报告，系统阐述了AI发展的多维风险与构建国家测评体系的关键路径；公安部十一局原副局长、总工程师郭启全研究员聚焦“AI+时代”的网络安全新质战斗力，提出以能力图谱与实战机制引领防御体系升级；北京邮电大学杨义先教授深入剖析密码学在AI浪潮中的新机遇与新挑战；中国科学技术大学张勇东教授则从传播内容认知角度，探讨了安全可控的智能传播技术体系与落地实践；美国西北大学Yan Chen教授分享了LLM在系统安全攻防中的前沿应用与竞赛成果，彰显国际视野下的技术探索。

02

高屋建瓴 

特邀报告聚焦前沿安全挑战

黄殿中院士深入阐述了统筹人工智能发展与安全的系统性方案。他强调，必须构建一套科学完备的安全风险测评体系，作为AI发展的“探测仪”与“防火墙”。报告从技术内生、应用外溢、认知安全等多维度剖析风险，并提出涵盖法制规范、技术突破与国际合作的五大建设路径，为AI高质量发展保驾护航。

郭启全研究员提出以“网络安全新质战斗力”引领“AI+时代”网络安全的新路径。他阐释了新质战斗力“技术+数据+能力+机制”四位一体的内涵，主张通过构建能力图谱与措施图谱，全面提升AI时代的主动防御与综合实战能力，应对新型网络安全挑战。

杨义先教授聚焦“密码研究的AI机会与挑战”。他指出，AI正深刻变革密码学，既为密码系统带来了提升安全性、效率与智能化的新机遇，也带来了前所未有的潜在威胁。报告探讨了“AI for 密码”这一前沿方向，引发对密码学在智能时代如何演进与加固的深度思考。

张勇东教授分享了“安全可控的智能传播”技术体系。针对传播效能评估难、信息迷雾干扰强、信息茧房破解紧三大挑战，他介绍了基于多智能体交互的传播推演模型、面向强干扰的深度认知方法以及破解信息茧房的主动交互框架，为提升国家文化软实力提供了关键技术支撑。

Yan Chen教授介绍了“LLM辅助的系统安全”的最新进展，为应对大模型时代的网络威胁提供了创新方法。

与会师生在提问环节就技术细节与报告嘉宾进行了热烈交流，面对面的思想碰撞充分体现了大会作为高水平学术平台的活力。来自学界和业界的专家们围绕“AI赋能安全的新范式”等议题各抒己见，既有高屋建瓴的战略分析，也有对具体技术落地路径的务实探讨。

live pictures

03

专题研讨 

三大论坛深度剖析核心议题

本次大会设立三大专题论坛，分别围绕“人工智能内生安全”“人工智能赋能安全”及“社会治理与认知安全”展开深度研讨。

专题一：人工智能内生安全论坛由西安交通大学软件学院王伟院长担任主席。论坛聚焦人工智能系统自身的安全与隐私挑战，探讨大模型安全评估、伦理对齐与风险预测等核心问题。中国科学院信息工程研究所陈恺研究员探讨了AI系统在对抗样本、后门攻击等方面的安全隐忧；南开大学刘哲理教授团队分享了大模型价值观对齐与安全性评估的实践；东南大学李松泽教授介绍了大模型安全评估平台OmniTrust；上海人工智能实验室主任助理胡侠教授系统阐述了AI安全数据体系与模型训练新路径；西安交通大学韩鹏教授则从因果推理角度探讨了序列数据的风险预测方法。

专题二：人工智能赋能安全论坛由清华大学互联网体系结构全国重点实验室李琦副主任担任主席。论坛重点研讨人工智能技术在网络安全、金融风控等领域的应用与创新。王嘉凯副研究员介绍了反演生成的物理对抗攻击；香港科技大学（广州）助理教授何新磊探讨生成式AI模型的后门攻防；联通数据智能有限公司林海分享了中国联通AI安全治理体系的建设与实践；蚂蚁集团宋博文展示了AI在反洗钱场景中的创新应用；清华大学邱寒副教授则从大模型安全延伸至智能体安全，分析了智能体在真实场景中的多层风险。

专题三：社会治理与认知安全论坛由北京航空航天大学彭浩教授担任主席。论坛围绕AI技术在内容治理、社会模拟与数据流通等社会治理场景中的安全应用展开。复旦大学张新鹏教授探讨了AI模型水印与AIGC溯源技术；清华大学李勇教授团队展示了基于大语言模型的大型社会模拟平台“AgentSociety”；北京理工大学盖珂珂教授系统阐述了区块链与隐私计算在可信数据流通中的支撑作用；中国人民大学陈旭副教授则分享了基于大模型智能体的社会模拟研究进展与挑战。

04

海报交流 

青年学者展示创新成果

会上同期举行海报交流展，来自北京邮电大学、华东师范大学、中国科学院等高校及研究机构分别展示了创新研究成果，覆盖大模型安全、隐私保护、社会模拟等多个热点方向，现场交流热烈。

成果展示

05

展望未来 

共建安全可信的人工智能新时代

在人工智能技术加速演进、安全挑战日趋复杂的背景下，本届大会的召开具有重要意义。大会通过特邀报告、专题研讨、海报展示等多种形式，为人工智能安全领域搭建了一个高水平、多层次的交流平台，有效促进了“政产学研用”各界的互动与合作，不仅系统梳理了AI安全领域的技术进展与治理思路，更推动了学界、业界与政策界的对话协作，为构建可信、可控、可解释的人工智能生态系统注入了新动力。大会将继续发挥平台作用，助力我国在人工智能安全领域走在国际前沿，为全球智能治理贡献中国智慧。

本文由CAAI人工智能与安全专委会供稿