研究：用诗歌就能让AI说违禁内容，成功率达62%
我要评论IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容榆林市某某母婴用品售后客服中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功榆林市某某母婴用品售后客服中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
来源：直新闻 国务院台办发言人陈斌华1月1日答记者问。 问：赖清德今天在其新年讲话中大肆渲染所谓“中国扩张的野心”及对台湾的威胁，鼓噪“强化国防及安全防卫韧性、全面建构有效的吓阻力量及民主防卫2026-01-08
河南鹿邑县中医院发生爆炸致1名医生身亡 当地已成立联合工作组
原标题：河南鹿邑县中医院发生爆炸致1名医生身亡 当地已成立联合工作组） 河南鹿邑县中医院发生爆炸一名医生身亡，当地成立联合工作组 来源：澎湃新闻） 记者2026-01-08
相信背新概念的课文，能够高考考130的，姑且就早点试一下，直接把新概念1~4的课文背完，怕就怕你相信背新概念的课文能考130，但是又没找到背新概念的方法，背一篇忘一篇，最后在背新概念这个执念里面反复地2026-01-08
字节跳动上半年营收直逼Meta：国内增长降速 TikTok继续狂飙
《科创板日报》11月5日讯记者 张洋洋）今日，据媒体报道，2024年上半年字节跳动的整体收入增长超过35%，达到约730亿美元。国际市场收入增长超过60%，达到约170亿美元，这里主要是TikTok带2026-01-08
当地时间12月29日，央视记者获悉，此前一天美国新泽西州两架直升机空中相撞事故中的两名飞行员均确认死亡。哈蒙顿警察局长凯文·弗里尔在一份声明中表示，一名飞行员被送往当地医院后被宣布死亡，另一名飞行2026-01-08
穷人家孩子连穿羽绒服的自由都没有？家长吐槽孩子，自己却破防了
为了避免校园内攀比成风，老师会统一要求学生必须穿校服上学。入冬后，学生光穿校服就无法抵御冷空气，学生才能享受来之不易的穿衣自由。经济基础比较好的家长可能更愿意让孩子穿自己的衣服上学，这样家里的衣服就派2026-01-08
最新评论