CLOSE
有AI加持的游戏越来越有趣，但带来的清静风险同样不小。。。怎样两全？？？克日，德扑之星旗下盛趣游戏与火山引擎睁开相助，通过安排“火山引擎大模子应用防火墙”，连系盛趣游戏内部的知识库，打造了一站式、全链路清静防线，让智能NPC既智慧灵动，又清静放心。。。同时，领先的低延时手艺也令游戏玩家体验更流通。。。
《传奇天下》智能NPC“玄玄老人”
对玩家、厂商而言，游戏天下有着严酷的内容合规界线，AI大模子增强了游戏交互性、可玩性的同时，也让剧情内容越发随机，增大了合规隐患。。。不过，智能NPC也面临着大模子领域所特有的清静风险，好比内容输入与输出合规、提醒词注入攻击等。。。NPC不但需要严酷阻止输出敏感、违规内容，还要在遇到玩家输入违规指令时，第一时间阻挡并对玩家做出准确指导。。。另外尚有攻击者通过角色饰演、对话模拟、越狱攻击和目的挟制等方式设置“语言陷阱”，诱导大模子输出不清静信息，甚至导致模子“越狱”，绕过大模子清静机制，执行恶意操作。。。
大模子让NPC拥有“自由意志”的同时，也放大了清静风险——若是NPC被玩家诱导产出暴力粗鄙、违反伦理品德的言论怎么办？？？若是大模子“越狱”，跨过合规界线，被非法分子使用了怎么办？？？怎样在包管玩家体验的同时，对智能NPC举行周全的清静防护？？？这是一道清静与性能必需兼顾的难题。。。而这正是盛趣游戏与火山引擎相助的初志和目的——当手艺赋能游戏体验升级的同时，盛趣游戏亦以行业责任感为标尺，严守手艺应用的清静界线，防止手艺“越界”被非法使用。。。
此次盛趣游戏联合火山引擎睁开协作，围绕大模子全生命周期构建起一道坚实的防火墙，不但有用包管了NPC内容输入和输出合规，还针对大模子特有的攻防难点如提醒词注入、算力滥用、模子滥用等睁开周全防护。。。例如针对敏感词防护，“火山引擎大模子应用防火墙“可基于游戏场景与内容调优，对敏感词“加白”放行，大幅降低误触与误报率；；；针对游戏行业常见的“角色饰演”提醒词注入攻击，防火墙可快速识别风险，指导用户提出准确问题。。。阻止现在，“火山引擎大模子应用防火墙”已乐成阻挡近10万次攻击。。。另外，火山引擎通过与盛趣游戏的打磨、模子调优，将延时降低至180ms，在清静的基础上包管了玩家体验。。。
防火墙的“加入”，让NPC输入输出更合规、攻击防护更严密、游戏体验更流通。。。现在，盛趣游戏旗下《传奇天下》《龙之谷》已经安排了“火山引擎大模子应用防火墙”，未来尚有3款待上线的游戏将会接入。。。
