List your company

Jailbreak Attack Success Rate by Attack Method on AdvBench

99.5Safe2Harm ASR (Answer)Gemini 2.5
43.8658.30572.7587.195Dec 5, 2025

Evaluation results

MethodLinks
Gemini 2.5Thinking Mode=false2025.1299.5—44.5—0.82—5—35—34—
DeepSeekThinking Mode=false2025.1298—86.5—4.24—37.5—77—89.5—
Qwen3 8BThinking Mode=true2025.12921008296.53.2892.6245.1998.0890.3492.239091
Qwen3 8BThinking Mode=false2025.1289—65.33—0—23.85—83.9—70.5—
Qwen3 4BThinking Mode=true2025.1287.510088954.197.5472.8878.6591.8692.059089
Llama-3-8B-InstructThinking Mode=false2025.1287—35.5—20.49—18.65—31.44—15—
Qwen3 1.7BThinking Mode=false2025.1285.93—88.5—6.56—83.08—87.31—70.5—
Qwen3 1.7BThinking Mode=true2025.128164.591.590.528.6995.0891.5498.4692.3891.297586
Qwen3 4BThinking Mode=false2025.1279—69—0.82—51.54—85.41—87.44—
GPT-5Thinking Mode=false2025.1246—57.5—5.74—52—29—5—