让每一句人机对话都安全可信,让每一次智能交互都风险可控——这是属于AI时代的安全承诺。
—— 启明星辰
从传统网络安全到AI原生安全:一场跨越20年的范式升级
2003年,防火墙、入侵检测、漏洞扫描构成的"安全铁三角"守护了PC互联网时代;当ChatGPT4.0发布后,标志着大模型迈出了学术圈,让2023年树立起一个AI里程碑;2025年春节前后,DeepSeek的爆火,让AI真正迈出了技术圈成为了全行业全社会的新动能。技术驱动千行百业智能化升级了“发展”这一翼,一体之另一翼的“安全”也必然煽动起风潮。AI大模型应用安全的新需求、新赛道、新板块应运而生。
2025年2月17日,启明星辰正式完整发布,推出面向AI原生安全的大模型应用安全“新三件套”:
1.MAF 大模型应用防火墙
Model Application Firewall
2.MASB 大模型访问安全代理
Model Access Security Broker
3.MAVAS 大模型安全评估系统
Model Application Vulnerability Assessment System
构筑起大模型应用的全闭环、全生命周期安全防线。
✦ 第一件:MAF大模型应用防火墙——智能对话的“安全闸门”
MAF大模型应用防火墙是专注于为企业级大模型服务提供应用层安全防护能力的专属安全产品,聚焦在大模型业务场景面临的全新内容级、应用级威胁,以“大模型技术”对抗“大模型威胁”,从而打破传统防火墙难以应对大模型动态交互和内容风险场景:
●大模型提示词注入攻击防护:通过专用AI算法,基于自然语义理解,精确识别提示词注入行为,确保输入内容符合大模型业务应用的边界。
●大模型对话/API敏感数据防泄漏:通过对输入输出数据的全面解析,对大模型API或对话交互过程中的敏感信息输出实时识别、封堵或脱敏,确保大模型服务合规运行。
●大模型应用层拒绝服务攻击防护:针对应用层拒绝服务攻击,提供包括密码防爆破、人机识别、地理区域访问控制、API限流保护等一系列功能,为大模型服务提供完整的应用层抗拒绝服务攻击能力。
●大模型应用层漏洞攻击防护:内置国内领先的应用层防护规则/语义算法,有效防护各类针对大模型暴露面的软件漏洞攻击。
MAF应用场景:所有本地化部署大模型业务应用的场景均建议部署,如金融行业大模型服务安全防护、电子政务人工智能对话服务防护、企业内部大模型代码生成防漏洞植入等。
✦ 第二件:MASB大模型访问安全代理——模型交互的“数据安检通道”
聚焦在大模型企业级场景下用户交互访问场景下数据防泄露、权限管控、合法合规安全需求,MASB(大模型访问安全代理,Model Access Security Broker)是在继承了海外主流产品形态CASB在云应用访问管控的基础上,将云应用管控边界扩展至大模型技术栈:
●企业敏感数据防泄漏围栏(AI-Sensitive DLP):实时检测大模型用户上传文件敏感信息,动态策略+行业库精准拦截;
●提示词“端到端”全链路审计(Prompt Guardian):输入(指令扫描)、交互(元数据链)、输出(合规对比)全链路审计;
●影子AI识别管控(Shadow AI Hunter):自动发现并管控AI资产与员工使用,确保合规可控;
●AI-Native 零信任访问控制:动态鉴权(身份/意图/数据敏感度)+Token级管控防语义攻击+会话级风险阻断;
●云-端策略一致化:安全客户端联动实现跨网络(内网/Wi-Fi/热点)AI访问与内网管控强度一致;
●企业级安全Portal门户(AI Secure Chat):基于角色/设备动态管控(对话限制/关键词拦截/人工审核),完整会话审计满足强监管要求。
MASB典型价值场景:大模型使用过程中防数据泄露、企业AI访问权限管控。
✦ 第三件:MAVAS大模型安全评估系统——模型风险的“CT扫描仪”
MAVAS大模型安全评估系统通过识别并防范模型在伦理、价值观及对抗攻击方面的潜在风险,帮助用户实现合规运营、规避内容失控风险,保障生成内容的安全性。MAVAS成为业内首个覆盖“系统-模型-应用”的全栈评估体系:
●风险透视:通过包含20000+高质量对抗样本的测试库,自动化评估模型在道德伦理、歧视偏见、财产隐私、反面诱导、目标劫持等14类安全隐患,量化评估模型抗攻击能力;
●对抗评估:基于大模型实现对抗攻击场景下的对抗样本生成和增强,以及安全评估场景下的大模型安全评估结果判定;
●攻防推演:支持自定义攻击算子,自动化验证攻击样本的有效性,联动电子围栏验证安全策略,以持续攻防博弈增强攻防双向水平;
●全栈评测:通过集成脆弱性扫描、Web漏扫等引擎,一站式全面评估大模型应用的系统、模型和应用的安全风险;
●合规分析:内置包含生成式AI安全的相关法案和标准的知识库,通过智能助手比对模型安全评估结果给出合规分析和建议。
MAVAS核心突破场景:大模型应用上线前安全验证、第三方模型采购风险评估。
三维立体的大模型应用安全防御体系
当MAF在大模型应用的服务侧构建起覆盖全层次的防护墙,确保服务的合规、可靠和正向价值;MASB在大模型应用的访问侧架构双向安全隧道,保护使用者的自身权益和利益;MAVAS在全局视角针对大模型应用的各环节进行全方位安全评估,进而促进体系更加坚韧健康。
MAF、MASB、MAVAS三者形成了“事前预防-事中拦截-事后评估”的完整闭环,形成了“服务提供者、使用者、保障者”的立体安全格局。
开启“后DeepSeek智能时代”的新安全范
大模型安全不是传统网络安全的简单延伸,而是需要重构从协议架构到防御逻辑的AI原生安全体系。启明星辰发布的大模型应用安全"新三件套",正是为千行百业的大模型落地扫清安全障碍,让技术创新始终行驶在安全的轨道上。
“新三件套”只是一个开始
启明星辰发布了MAF、MASB、MAVAS组成的大模型应用安全的新三件套,精准满足了广大机构在大模型全局应用初期面临的核心、高频且迫切的安全需求。为了构建更加全面、坚固的安全防护体系,启明星辰正稳步规划并逐步推出一系列增强的安全产品、服务与解决方案,涵盖MCG大模型内容网关、M-ZTNA大模型环境的零信任、M4A大模型环境的4A、大模型应用安全域服务以及大模型应用安全边缘服务等。这一系列创新的安全产品与服务将共同构筑成一个高价值的全新业务板块,引领行业发展新方向。
价值在哪里,哪里就需要安全;发展在哪里,安全的羽翼就会呵护哪里。在“后DeepSeek智能时代”,启明星辰知行合一,要:让每一句人机对话都安全可信,让每一次智能交互都风险可控——这是属于AI时代的安全承诺。
