研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2026-01-06 05:48:53 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容盐城市某某装饰材料业务部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功盐城市某某装饰材料业务部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
来源：中国新闻周刊 近日，有网友发帖称，此前因采访时表示“希望领导支持调休跑马拉松”引起轩然大波的“最快女护士”张水华不在中国田径协会公布的女子马拉松业余选手年度排名名单上，疑遭除名。中国田径协2026-01-06
[环球时报驻法国、德国特派特约记者 尚凯元 青木 于文]经过20多天的磋商，中方赴布鲁塞尔就欧盟对华电动汽车加征反补贴税进行谈判的技术团队10月12日返回国内。中国商务部12日发布答记者问表示，自2026-01-06
中国登月服外观首次亮相 来源：视频综合） 今天9月28日），中国载人航天工程办公室面向社会发布登月服征名活动，并首次公开中国登月服外观。2026-01-06
当地时间10月12日，伊拉克民兵武装“伊斯兰抵抗组织”发表声明称，该组织当天针对以色列占领的戈兰高地的一处重要目标发动了第三次无人机袭击。 当天稍早前，该组织发表声明称，针对以色列控制的戈兰高地2026-01-06
外交部发言人林剑29日在例行记者会上表示，中方对此举表示严重关切，坚决反对。 以色列26日正式承认索马里兰为“独立主权国家”，并签署协议“建立外交关系”。外交部发言人林剑 资料图外交部网站）2026-01-06
当地时间14日，黎巴嫩真主党发表声明称，在当天凌晨使用火箭弹袭击了位于黎西南部城镇拉布内赫Labouneh）的以色列军队。 目前，以色列方面暂无回应。总台记者 黄元鹏）点击进入专题： 中东局势持2026-01-06
最新评论