开云·kaiyun(中国)官方网站 登录入口

开云·kaiyun(中国)官方网站 登录入口

你的位置:开云·kaiyun(中国)官方网站 登录入口 > 资讯 > 欧洲杯体育颠倒是基于章程的防火墙-开云·kaiyun(中国)官方网站 登录入口

欧洲杯体育颠倒是基于章程的防火墙-开云·kaiyun(中国)官方网站 登录入口

发布日期:2025-07-05 06:21    点击次数:102

欧洲杯体育颠倒是基于章程的防火墙-开云·kaiyun(中国)官方网站 登录入口

欧洲杯体育

跟着AI应用,颠倒是大型讲话模子在各产业的普及,其潜在的安全罅隙已成为企业挥之不去的暗影。深耕AI安全的台湾安全企业奥义智能科技(CyCraft)于日前布告,将和台湾提供企业自主AI处理有打算企业APMIC(Accelerate private machine Intelligence Company)合营,共同推出业界首款专为详确而生的AI模子XecGuard,以及Safety LLM安全评测办事。

奥义智能科技首席时刻官暨共同创办东谈主邱铭彰暗示,目下还是有多家正在使用AI聊天机器东谈主的企业用户会作念先导测试(Pilot Run),展望本年第三季推出网关端的AI防火墙家具XecGuard,便利更多企业使用。

邱铭彰暗示,XecGuard是从根柢上处理大型讲话模子(LLM)靠近安全挑战的家具,颠倒是针对“辅导词注入”(Prompt Injection)、辅导词窃取(Prompt Extraction)和“逃狱”(Jailbreak)等坏心挫折,提供详确智商。

左证邱铭彰的阐明,XecGuard不仅是时刻的冲破,更是AI“安全”(Safety)想维,而非传统“安全”(Security)想维的典范飘浮,原因在于:挫折者可能通过引诱AI产生不当内容,以致窃取敏锐数据,形成难以量度的亏损。

他也指出,传统的安全驻扎,如基于章程的防火墙(Rule-based Firewall),在面对AI模子复杂的东谈主类输入与逻辑时,时时显过劲不从心。正如邱铭彰所言:“你望望那些爷爷奶奶扮装演出,没方针写防火墙章程,也没方针写怎么被防火墙一齐防止,唯有魔法才调击败魔法。”

奥义智能的XecGuard恰是这“魔法”的体现。邱铭彰解释,它并非传统意旨上的防火墙,而是一种创新性的LoRA(Low-Rank Adaptation)安全升级模块。LoRA是在AI领域,颠倒是讲话模子领域十分常见的微调(Fine-tuning)时刻,它允许将一个小模块“嫁接”到大型讲话模子上,赋予其全新的智商,同期保握基础模子架构的好意思满性。

邱铭彰进一步阐释:“它其实是一种Model(模子)的时刻,不错把一个小的模块装在讲话模子(Language Model)上,然后它就具备新的智商”。这项时刻的中枢上风在于:“即插即用”(Plug-and-Play)的本性,企业无需修改既有的模子架构,也无需额外进行进修或翻译,即可径直装配,如同为LLM穿上顽强的详确装甲。

邱铭彰提到,目下业界关于AI防火墙这个“术语”还莫得公用的说法。固然微软推出Azure AI Studio安全器用,Cloudflare也有Firewall for AI等家具提供近似功能,“但它们大多接管章程(Rule-based)稽查输入与输出。”他说。

奥义智能推出的XecGuard则是简直基于“模子”的安全模子,他暗示,为了更便利企业用户使用,展望本年第三季,奥义智能会将XecGuard这款AI模块硬件化,使其能算作孤苦的网关(Gateway)家具,不错装配在AI聊天机器东谈主之前,作念到自动过滤无益问题与无益内容的AI硬件防火墙。

XecGuard最别有洞天的创新之处,在于其迥殊的进修方法,使AI模子大要从根柢上“学会”治服章程,而非被迫地防止已知的违法行径。邱铭彰机动地譬如:“等于是你有一个机器东谈主的驾驶帮你开车,但装上这个模块之后,等于这个机器东谈主的驾驶上过了谈安讲习,它上过了一些进修课程,会更治服交通讯号灯”。

他进一步证据,传统的安全家具,颠倒是基于章程的防火墙,就会像是条列“数百万条交畅通序”,然后针对每一条违法行径进行防止,本色上是一种“黑名单”的策略。

然而,他暗示,东谈主类的输入充满了讲话的弹性、逻辑的复杂性及隐含的意旨,这些王人不是陋劣的方法匹配或正规抒发式所能处理的,像是挫折者就不息和会过扮装演出、场景引诱等神色,玄妙地绕过章程限度,促使AI作念出一些违犯原始建树的行径,这便是所谓的“逃狱”。

XecGuard则是通过该公司多阶段微调时刻(SFT+GRPO),并哄骗近六万笔独家安全攻防数据集进行进修。邱铭彰指出,这种进修神色让模子大要自我领略,并“治服交通章程”,不错更严格地遵从其基础建树(System Prompt)所界说的政策与方法。

邱铭彰暗示,它不单是识别“违法”,更是内化了“以东谈主为本,保护东谈主类人命”的中枢原则。如同之前例如的那位上过谈安讲习的机器东谈主驾驶,它会更治服原始界说的“交通讯号灯方法”,而阻遏易被用户的奇特发问所影响,作念出无益的内容,例如“路上的狗跳出来,在其他谈路王人乱开车”的不当行径。

邱铭彰强调,奥义智能的XecGuard,从根柢增至待的是AI的“Safety”(安全)问题,而不是传统安全的“Security”(资讯安全)问题。“这是个巨大的别离,因为它条件模子从行径的本色上竣事简直赖性,而非只是是防堵外部胁迫。”他觉得,这种以讲话模子招架简直挫折,颠倒是辅导词注入的智商,是目下市集上用章程无法处理的坚苦,亦然XecGuard最大的特质。

XecGuard的实力不仅体目下其迥殊的时刻理念,更在严格的实战查验取得考据。奥义智能科技聘请了APMIC与Twinkle AI应付媒体集会设备的3B规模开源模子“F1”,搭配XecGuard安全升级模块进行本质攻防演练,并通过业界常见的LLM Red Teaming攻防测试来考据顺利。

收尾令东谈主印象长远,举座安全详确分数平均擢升了19.4%,在特定挫折场景下,详确后果以致高达33.9%,展现了超卓的安全韧性。更令东谈主惊诧的是,F1模子勾搭XecGuard后的驻扎阐扬,已显贵高出了同级以致更大规模的买卖模子,包括OpenAI等大型买卖级模子,以及Llama 3B、Qwen3 4B、Gemma3 4B、DeepSeek 8B等主流开源模子。

邱铭彰觉得,左证这些测试收尾,不仅浮现小参数模子通过安全蒸馏与专属进修,不错作念到忘形海外买卖大型模子的驻扎力,也为企业在兼顾本钱与性能的前提下,提供了顶级的AI安全保险。

邱铭彰也提到,目下买卖模子的分数在他们的基准测试申诉中王人“蛮惨的”,这更凸显了XecGuard面对复杂挫折时的上风。

XecGuard的问世,是奥义智能科技与APMIC计谋合营的结晶,其中,APMIC自2017年在台湾创立以来,以其当然讲话领略(NLU)中枢时刻,为企业提供模子代工的“S1模子微调与蒸馏”处理有打算、企业独到化AI处理有打算“PrivAI”,以及一站式AI Chatbot构建平台“CaiGunn开讲”。目下,APMIC家具已普通应用于横跨健康、制造、金融、零卖等1100多家企业和政府部门。

邱铭彰暗示,这一次的“强强联手”,便是勾搭奥义智能的安全攻防告诫与APMIC的AI设备实力。他指出,APMIC不仅是NVIDIA的合营伙伴,畴昔也筹划在他们的扩展办事器(inference server)中,默许搭载奥义智能的XecGuard安全模子。“这意味着,企业将能更方便地将XecGuard集成到其现存的AI基础门径中,大幅缩短部署门槛。”他说。

奥义智能科技首席奉行官暨共同创办东谈主吴明蔚强调:“以前咱们用AI处理安全坚苦,目下咱们用AI保护AI。”他暗示,XecGuard融入了该公司在政府、金融等要津领域的实战攻防告诫,它不单智能,更有韧性,是企业在AI期间最坚实的驻扎盾。

AI安全议题的严重性已缓缓线路,并成为企业关爱的焦点。邱铭彰指出,固然目下AI圈精深倾向“冲快再说”,但很快就会厚实到安全议题的严重性。他指出,奥义智能已接获某些银行首席安全官主动相干,抒发试用XecGuard的高度意愿,这也印证市集对此类安全处理有打算的垂危需求。

XecGuard的计较客户群,尤其锁定那些提供“对外客服”的聊天机器东谈主应用的企业,邱铭彰指出,这类聊天机器东谈主径直面对纷乱用户,容易受到来自“采集用户们”各式充满创意且难以预测的挫折。

因此,他暗示,诸如电商、高技术产业及金融业等大王人接管客服机器东谈主的领域,将是XecGuard最顺应的应用场景。“广义而言,任何将AI镶嵌自家办事的企业,王人相当顺应导入XecGuard。”他说。

邱铭彰暗示,目下,奥义智能已有一些客户准备进行这款AI防火墙家具XecGuard的先导测试,展望本年第三季讲求对外推出网关端的硬件版AI防火墙,便利企业更容易部署。

跟着XecGuard的问世,他也说欧洲杯体育,奥义智能科技与APMIC将引颈业界迈向AI必须安全、且安全必须是“标配”而非“选配”的新期间。