9688策略宝腾讯云王军：攻防对抗升级：大模型如何重构网络安全战场

廿载为梦，续笔新篇！各行各业的运营正全面走向数据驱动模式，新一轮AI技术正在把越来越多的数据转化为智能，赋能各行业的智能化转型。刚刚举办的重磅CIO行业盛会，让我们共同见证了一段行业数字化蜕变之旅......

2025年6月13-15日，由CIO时代主办、新基建创新研究院作为智库支持的“数据驱动智能转型 | 2025第十一届中国行业互联网大会暨CIO班20周年年会”在黄山圆满举办！现场主论坛上，腾讯云安全高级产品经理王军带来“攻防对抗升级：大模型如何重构网络安全战场”主题演讲。

腾讯云安全高级产品经理王军

精彩观点

AI已开启网络攻防的“智能升维”时代，构建AI时代的动态安全体系至关重要。腾讯云探索出多种安全防护方案，全方位保障大模型的安全应用，助力客户应对日益复杂的新型威胁，安全用好大模型实现业务提质增效。

随着技术的飞速发展，AI尤其是大模型技术的兴起，正在为网络安全领域带来前所未有的挑战与机遇。

从早期的专家系统、知识表征，到如今的深度学习、大模型，AI技术经历了多次变革。如今，以大模型生成技术为核心的人工智能，正在成为下一轮经济增长的关键动力，也为解决产业痛点带来了全新的思路。然而，伴随大模型的广泛应用，网络安全战场也迎来了“智能升维”的新时代。黑客与防御者之间的对抗，从传统的技术比拼，逐渐演变为智能化、自动化的较量。

大模型的应用虽然带来了诸多便利9688策略宝，但也衍生出了新的风险。如AI幻觉、违规内容、误导信息、个人隐私泄露、知识产权侵权、偏见歧视、伦理道德争议以及恶意利用等风险。这些风险不仅可能对个人造成伤害，更可能对企业乃至国家安全构成威胁。例如，AI生成的内容可能被用于制造虚假新闻、网络钓鱼、欺诈等恶意行为，这些行为隐蔽性强、危害性大，必须引起我们的高度重视。

目前已经出现了大模型被黑灰产利用，进行隐蔽渗透、AI辅助攻击、模型推理劫持等新型攻击手段。这些攻击手段利用大模型的强大能力，使得攻击成本大幅降低，攻击频率和复杂度显著提高。例如，攻击者可以通过AI编码工具生成针对特定系统的0day漏洞利用代码，绕过传统安全检测系统，对目标系统进行精准攻击。这种攻击方式不仅难以防范，而且造成的损失也极为惨重。

面对大模型带来的网络安全挑战，腾讯云提出了构建AI时代的动态安全体系的应对策略——包括技术层、治理层、合规层和伦理层四个方面。

在技术层，应广泛应用差分隐私和同态加密技术，确保数据的隐私性和安全性；开发实时监控和检测机制，识别并响应各种攻击类型；研发针对对抗样本的检测模型，推动“安全左移”理念。

在治理层，应建立AI安全运营团队，统一管理模型训练与部署风险；制定AI攻防演练标准，模拟真实对抗场景；推动行业共享威胁情报，建立AI攻击特征库。

在合规层，应建立AI风险控制框架和审计标准，确保AI系统的合法合规运行；遵循AI安全法规和标准要求，如中国《生成式人工智能服务管理暂行办法》等。

在伦理层，应倡导“负责任AI”开发准则，平衡创新与安全；建立AI伦理监督审查机制，确保模型行为符合伦理道德准则；限制AI技术的恶意应用，倡导健康、安全的技术发展环境。

腾讯通过构建大模型安全治理框架、部署环境安全、训练过程安全、安全基准、安全运营安全管控等措施，为AI模型的全生命周期提供安全保障。同时，腾讯还推出了LLM-WAF大模型防火墙、AI-SPM大模型安全态势感知，为大模型业务提供全链路防护能力。

大模型技术的兴起为网络安全领域带来了新的挑战与机遇，必须以开放的心态、创新的思维和务实的行动，共同应对这些挑战，把握这些机遇。期待携手并进，共同构建一个更加安全、可信的AI时代！6月24日下午16:00“开箱吧，腾讯云”面向AI时代重磅推出——大模型安全产品！扫描下方海报二维码即可报名直播！