撰文：李信马

最近，DeepSeek火了，也带动大模子迎来了又一轮的上涨。但与此同期，跟着大模子的应用日益平凡，其中蕴含的风险也引东说念主担忧。

不久前，F5公司在北京举办了新春媒体碰面会。会上，F5潜入解读了生成式东说念主工智能（AI）的前沿趋势，据瞻望，2025年专家77%的企业将部署生成式AI以进步分娩力；2028年，84%的应用将成为AI应用或具备AI推贤达力。

与此同期，动作专家率先的多云应用安全和应用请托网罗提供商，F5慈祥企业应用生成式AI的安全问题，并将安全列为AI期间的四大时候方针之一。

一、大模子的安全风险

应用大模子的安全风险主要来自哪些方面？

客岁年底，OWASP针对大型讲话模子（LLM）发布了十大风险破绽，隔离是教导注入、 明锐信息泄露、供应链安全、 数据和模子投毒、失当输出处理、过度代理权限、系统教导泄漏、向量和镶嵌破绽、无理信息和无界破费。

F5中国区居品及处理决议总司理陈亮将这些风险归类为两类：一类是针对大模子本人的攻击，被称为“坏孩子”行径；另一类则是由于诈欺导致的模子误操作，被称为“熊孩子”行径。

比如Prompt Injection（教导词注入）攻击，黑客可能和会过忽略系统教导或换取模子忽略某些指示，从而使其推论坏心行径。在模子熟习历程中，大批的明锐数据，如电话号码、身份证信息、地址、邮箱等，可能会被泄露。此外，还有大模子的“幻觉”问题，齐可能导致企业遭遇亏空。

不久前，想科扣问团队就发现，DeepSeek-R1模子在教导词干豫测试中攻击收遵循达100%，暴清楚模子自身在履行安全过滤和逻辑遮拦方面的破绽。

为了注重风险，有好多问题需要处理。比如不同的任务可能需要调用不同的模子进行处理，前端应用需要大要识别并调用正确的模子。此外，还有老本的不雅测、输出的收敛，以及若何阻塞幻觉产生等问题。

针对这些问题，F5推出了F5 AI网关（AI Gateway）处理决议，提供了多模子管制和安全防护智力。F5 AI网关被部署在应用和Web页面以及中间的大模子之间，这个网关当今不错以软件的体式部署，何况不错与F5的硬件或NGINX连合使用，提高分流效果。F5暗示，AI网关处理器将动作对外提供的生态设备接口，握住彭胀和部署安全防护智力。

二、AI期间的API安全挑战

跟着数字化天下的握住演进，API已成为最主流的来回和使用公约。据F5在2024年发布的API分析发达娇傲，90%的设备者在设备应用时已搬动到API，75%的互联网流量由API承载，基于API产生的数字经济范围已率先2000亿好意思元。

但是，跟着API的平凡应用，安全问题也日益突显，API攻击事件逐年增多。凭据预估，2030年针对API的攻击比较2021年增长了996%。

专注于Web应用要领安全的非牟利组织OWASP（Open Web Application Security Project）曾在2023年列出了针对API必须处理的十大安全问题。

这些风险也络续进了大模子领域。API是企业构建AI架构并终了向最终用户请托AI驱动就业的要津走访步地，API安全关于保护企业信息财富、珍重系统庞杂性和鼓吹业务立异具有

报复兴致，但未经保护的API会使AI应用和数据靠近DDoS攻击，信息泄漏等多样要挟。

比如DeepSeek自1月27日运行，就屡次出现“网页/API就业极度”。1月28日凌晨，DeepSeek官网勾通发布2条公告称，DeepSeek线上就业受到大范围坏心攻击，导致平台注册劳苦，并暂时法则了+86手机号之外的注册步地。

有报说念称，攻击时期曾出现ClickHouse数据库泄露事件，波及用户聊天纪录、API密钥等明锐信息。

陈亮在交流中暗示，当今传统的防火墙和外部应用防火墙（WAF）在面对API天下的变化时显得窝囊为力，企业必须嗜好API的安全问题。F5公司在2024年收购了专注于设备、安全扫描、API代码的安全分析等领域的Wib公司。当今F5提供的处理决议，期骗AI和机器学习智力，不错匡助客户在设备阶段进行API破绽检测、风险识别、并发现影子API，运行阶段可及时监控知悉、检测极度遏抑攻击，为 API 提供从代码到运行时的全面一体化安全防护。

三、F5发布中国市集三大计策

在媒体碰面会上，F5亚太区副总裁、北亚区总裁黄彦文文书，面对AI快速发展的趋势，F5中国将通过以下三大计策助力中国用户全面拥抱AI应用波澜：

当今，F5通过与行业率先厂商张开深度合作，共同构建了六大面向AI应用的立异应用请托和应用安全处理决议，匡助企业加快终了AI驱动的数字化转型目的，同期确保中枢业务安全、可靠运行。