无一幸免!OpenAI最强竞对手Anthropic:“长上下文”让大模型更不安全

自 ChatGPT 问世以来,国内外越来越多的强大大模型陆续发布。其中一个让大模型能力增强的方法之一,便是增加大模型的上下文窗口。

如今,长上下文窗口却成为了大模型抵御外部攻击的“短板”,甚至成为遭受攻击的罪魁祸首。

今日凌晨,OpenAI 的最强竞争对手 Anthropic 在一篇最新发布的研究论文中,揭示了一种可以用来规避大型语言模型(LLM)开发者设置的安全防护措施的方法——Many-shot jailbreaking,即“多样本越狱攻击”。

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索
error: 您点击的内容受到保护~