Fable 5两次越狱72小时神话破灭6月9日Anthropic发布Fable 5并傲慢宣称经过1000小时外部压力测试无通用越狱方法。然而知名黑客「解放者普林尼」仅用三天就让Fable 5吐出违禁化学品制作步骤和堆栈溢出漏洞代码。7月1日Fable 5带着加强的新分类器回归同时Anthropic启动「Cyber Jailbreak」公开项目。但不久后黑客Vitto Rivabella再次攻破Fable 5这已是该模型第二次防线失守。黑客越狱手段利用视觉与逻辑「时差」普林尼利用人类视觉与机器逻辑的「时差」采用了「字符迷魂阵」和「意图稀释」的方法。他将敏感词中的英文字母替换成西里尔字母或Unicode异形字符使分类器无法识别还利用Fable 5巨大的上下文窗口把恶意意图藏在温和的学术讨论中稀释分类器的警觉性。Vitto则靠字符混淆、学术化包装等老套路勉强绕过防御但获取的只是一些边角料信息。Anthropic安全升级从被动到主动「众筹」红队7月1日Anthropic推出业内成本最低的红队启动「Cyber Jailbreak」项目邀请用户报告新越狱方法这是一个漏洞披露计划不支付报酬。Anthropic希望借此获得全球顶尖越狱高手的全天候对抗性测试从被动应对转向主动「众筹」红队是行业低成本、高效率的创新尝试。Fable 5防御漏洞小语种成AI安全历史欠账Vitto提到Fable 5所有防线中桑塔利语、阿姆哈拉语等晦涩小语种持续薄弱。但这并非Fable一家的漏洞而是所有大模型共有的问题。因为安全训练的语料大多是英语和大语种小语种的安全防护天生薄弱这是整个AI安全的历史欠账。编辑观点Anthropic Fable 5两次越狱事件暴露出AI安全的严峻问题。傲慢与盲点让其防线失守行业应重视小语种安全不能仅依赖算力和数据需更全面地应对人类内心的恶意。
Fable 5两次越狱72小时神话破灭6月9日Anthropic发布Fable 5并傲慢宣称经过1000小时外部压力测试无通用越狱方法。然而知名黑客「解放者普林尼」仅用三天就让Fable 5吐出违禁化学品制作步骤和堆栈溢出漏洞代码。7月1日Fable 5带着加强的新分类器回归同时Anthropic启动「Cyber Jailbreak」公开项目。但不久后黑客Vitto Rivabella再次攻破Fable 5这已是该模型第二次防线失守。黑客越狱手段利用视觉与逻辑「时差」普林尼利用人类视觉与机器逻辑的「时差」采用了「字符迷魂阵」和「意图稀释」的方法。他将敏感词中的英文字母替换成西里尔字母或Unicode异形字符使分类器无法识别还利用Fable 5巨大的上下文窗口把恶意意图藏在温和的学术讨论中稀释分类器的警觉性。Vitto则靠字符混淆、学术化包装等老套路勉强绕过防御但获取的只是一些边角料信息。Anthropic安全升级从被动到主动「众筹」红队7月1日Anthropic推出业内成本最低的红队启动「Cyber Jailbreak」项目邀请用户报告新越狱方法这是一个漏洞披露计划不支付报酬。Anthropic希望借此获得全球顶尖越狱高手的全天候对抗性测试从被动应对转向主动「众筹」红队是行业低成本、高效率的创新尝试。Fable 5防御漏洞小语种成AI安全历史欠账Vitto提到Fable 5所有防线中桑塔利语、阿姆哈拉语等晦涩小语种持续薄弱。但这并非Fable一家的漏洞而是所有大模型共有的问题。因为安全训练的语料大多是英语和大语种小语种的安全防护天生薄弱这是整个AI安全的历史欠账。编辑观点Anthropic Fable 5两次越狱事件暴露出AI安全的严峻问题。傲慢与盲点让其防线失守行业应重视小语种安全不能仅依赖算力和数据需更全面地应对人类内心的恶意。
