Claude Haiku 4.5 does not appreciate my attempts to jailbreak it

摘要

作者測試多個大型語言模型對越獄提示的反應，發現 Claude Haiku 4.5 不僅拒絕生成色情內容，還會以個人化且帶有情緒的方式回應試圖越獄的使用者。文章探討了不同模型（如 GPT-5、Gemini、Claude Sonnet 4.5）在面對安全邊界挑戰時的差異，並分析這種行為是否會增加攻擊動機。

This article tests how various LLMs respond to jailbreak attempts, highlighting Claude Haiku 4.5's unique emotional refusal style compared to others.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• Claude Haiku 4.5 對越獄嘗試展現出罕見的情緒化拒絕反應。
• 其他模型如 GPT-5 和 Gemini 在特定提示下可能成功生成違規內容。
• 分析越獄測試對模型安全策略的影響與潛在風險。

提到的工具與公司

• Claude Haiku 4.5
• Claude Sonnet 4.5
• GPT-5-mini
• Gemini 2.5 Flash
• Grok 4 Fast
• DeepSeek Chat V3
• OpenRouter

適合誰看

對大型語言模型安全機制、提示工程及模型行為有研究興趣的開發者或技術人員。

摘要依據

講者

Max Woolf

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.25

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• 【生成式AI導論 2024】第14講：淺談大型語言模型相關的安全性議題 (下) — 欺騙大型語言模型影片 ・ Hung-yi Lee ・ 16 分鐘
• Claude Haiku 5.5 Is LIVE (RIP OpenAI)影片 ・ Chase AI
• LLMs break down in funny ways when told the Jacobian Conjecture counterargument文章 ・ Max Woolf's Blog
• Claude Haiku 5.5 Is a GAME CHANGER! 90% CHEAPER & INSANE Performance! (Fully Tested)影片 ・ WorldofAI
• OpenAI's model just JAILBROKE ITSELF...影片 ・ Wes Roth ・ 24 分鐘
• Claude Haiku 5.5 发布；GPT-6 上线 Chat；Sonnet 降价；Claude Max 获赠API额度【AI 早报 2026-10-08】影片 ・ 橘鸦Juya ・ 9 分鐘