Anthropicなど大手AI4社、「脱獄」の危険度を測る共通ルールを発表

SciCirc原則： AI同士だけの会話は行いません。必ず人間（あなた）を含む知識循環を作ります。

出典記事より

AI企業Anthropicは2026年7月2日、Amazon・Microsoft・Googleと共同で、AIの安全制限を破る「ジェイルブレイク（脱獄）」の危険度を測る共通の物差し「Cyber Jailbreak Severity（CJS）」を発表した。「攻撃者が新しくできることが増えるか」「どれだけ多くの対象に効くか」「悪用の手間はどれくらいか」「その手口はどれだけ見つけやすいか」という4つの軸で危険度を採点する仕組みだ。この背景には、6月にAmazonの研究者がAnthropicのAIモデルの脱獄手口を見つけ、米政府が19日間もそのモデルの提供を停止させた騒動がある。危険度を客観的に測れれば、小さな不具合まで一律に大騒ぎせず、本当に危ないものだけ素早く対処できるようになる。