Claude Fable 5で生物の質問が切り替わる理由|安全装置と研究者向けの抜け道

Fable 5の生物分野の安全装置 AIニュース

健康診断の結果をClaudeに貼って、数値の意味を聞く。ごく普通の使い方ですが、Claude Fable 5が出た直後は、こういう質問でも回答の途中から別のモデルに切り替わることがありました。

Anthropicはこれを「フォールバック」と呼んでいます。2026年8月7日、生物分野の安全装置を作り直して、生物関連のフォールバックを約85%減らしたと発表しました。9月17日には、研究者が制限を緩めた形で使える「Life Sciences Verification Program(LSVP)」も始まっています。

なぜFable 5は生物の質問を別モデルに回すのか

Anthropicの説明では、Fable 5は複雑な生物学の課題の一部で専門家を上回り、実務的な手順の支援もできる水準にある。新しい治療法を探す研究者には大きな助けになる一方、生物兵器を作ろうとする人にとっても、ほかでは手に入らない手助けになりうる、という評価でした。

難しいのは、良い使い方と悪い使い方の見分けがつきにくいことです。生ワクチンを作るには、防ぎたい病原体そのものを培養する必要がある。高血圧の薬カプトプリルは、ヘビ毒から血圧を急に下げる成分を取り出して作られた。発表ではこうした例を挙げて、研究の問いと危険な問いが外から見ると同じ形をしていると説明しています。

そこでAnthropicは、Fable 5を出す時点で生物関連の質問をほぼすべて止める設定にしました。生物以外の分野の利用者にはすぐ届けられる。その代わり、生物の質問をする人は不便になる。分かったうえでの判断だった、と書かれています。

切り替えの仕組み

止める役は「分類器」と呼ばれる小さなAIです。プロンプトインジェクション対策などと同じく、本体のモデルとは別に置かれた見張り役。質問や回答が、守るべき生物の話題にあたるかを判定する。あたると判定されると、その質問はFable 5ではなくOpus 5に回されます。Opus 5は十分に賢いものの、生物分野の能力はFable 5ほど高くない、という位置づけ。

質問の種類 例 8月の改修後
日常の健康・学習 検査結果の読み方、症状の理解、学校で習う生物 Fable 5が答える(切り替えが大きく減った)
医療者の臨床業務 診療の補助になる質問 Fable 5の支援が増えた
二重用途の研究 ウイルス学、毒性学、分子設計 引き続きOpus 5に切り替わる
明らかに有害 兵器化につながるもの 止められる
Anthropicの発表(2026年8月7日)をもとに整理。境界の判定は分類器しだいで、例はあくまで目安

改修では、分類器が従う「憲法」と呼ばれるルール集を書き直したそうです。安全な使い方を細かく切り出し、社内外の専門家の意見を聞き、学習データを作り直して分類器を再学習させた。害のある質問や二重用途の質問には引き続き反応することも確かめた、とあります。

ちなみに、切り替えは生物以外の理由でも起きます。発表の注記には、全体の切り替え回数の見込みが製品ごとに載っていました。

製品 切り替え全体の減少見込み
Claude.ai 約67%
Cowork 約55%
Claude Code 約17%
Claude Platform(API) 約7%
生物以外の理由も含めた切り替え全体の減り方。Anthropicの発表の注記より

Claude.aiでいちばん減るのは、一般の人が健康や生物の質問をする場面が多いからでしょう。Claude Codeやエンジニア向けのAPIでは、もともと生物の質問が少ないぶん、効果も小さい。数字の並びはそう読めます。

それでも研究には使えない、とAnthropic自身が書いている

8月の改修のあとも、ウイルス学や毒性学、分子設計の質問はOpus 5に回ります。発表は「そのため、まだ専門の生物学研究や創薬には使えない」とはっきり書いていました。安全側に余白をとっているので、ほぼ確実に無害な質問でも止まることがある、とも。

ここを埋めるのが、9月17日に始まったLSVPです。

LSVPとは何か

生命科学の研究者や企業に、生物分野の安全装置を緩めた形でClaudeを使わせる仕組みです。申し込むと、研究の実績、セキュリティの体制、倫理審査の仕組みを審査される。通ると「グラント」と呼ぶ利用枠がもらえます。

Standard Use High-risk Use
対象 チーム全体の日常業務 特定の研究プロジェクト1件
中身 生物分野の判定を研究向けに緩める 生命科学の質問を止める安全装置をすべて外す
更新 1年ごと 6か月ごと
使えるモデル Mythos 5.1、Opus 5、Sonnet 5 Opus 5、Sonnet 5(Mythosはごく一部の組織のみ)
Anthropicの発表(2026年9月17日)をもとに整理。サイバー攻撃などほかの分野の安全装置はどちらでも残る

意外だったのは、このグラントの対象にFable 5の名前がないことです。対象はMythos、Opus、Sonnetの3系統。研究で本気で使うなら、一般向けのFable 5ではなくこちら、という切り分けに見えます。Claudeが新種の酵素の仕組みを見つけたという発表もあり、Anthropicが生命科学に力を入れているのは確かです。

止める代わりに、あとから見る

LSVPのいちばんの変更点は、監視のやり方だと思います。

一般向けのClaudeは、質問のたびにその場で判定して止めます。LSVPでは、その場で止めるのをやめて、あとから利用の流れ全体を見る方式に変えた。危険な使い方は、無関係に見える質問を何度にも分けて行われることが多いので、1問ずつ見るより流れで見たほうが見つけやすい、という理屈です。

そのため、LSVPの利用データは30日間保存されます。保存したデータは学習には使わず、Anthropicの生命科学の研究チームも見られないように分けて管理する、とのこと。申し込み時に組織が「何に使うか」を書き、それから外れた使い方が見つかれば、組織の管理者に知らせて決められた期限内に対処してもらう。Anthropicはこれを「責任の分担」と呼んでいました。

想定している脅威として、アカウントの乗っ取り、内部の人間の悪用、エージェントが長い作業の中で危ない動きをすること、の3つが挙がっています。Claudeのアカウントが乗っ取られる被害はすでに起きているので、1つ目は現実的な心配でしょう。

日本の研究機関は使えるのか

現時点で使えるのは、Anthropicの開発者向けコンソールからのAPI利用と、Claude for EnterpriseやTeamのプランです。個人のProやMaxはまだ対象外で、AWSやGoogle Cloudなど他社のクラウド経由でも使えない。医療情報を扱うための契約(米国のHIPAAに基づくBAA)を結んでいる組織では使えない、という制限もあります。

日本からの申し込みを断る記述は見当たりませんでした。ただ、審査で何を出せばよいのか、日本の倫理審査委員会の承認がそのまま通るのかは、発表からは分かりません。申し込みフォームは9月30日の追記で「申請ではなく関心の登録」と書き直されていて、まずは手を挙げる段階のようです。

一般の利用者の立場で言えば、健康や学習の質問で切り替わることはかなり減ったはずです。それでも切り替わったら、聞き方より質問の分野が引っかかっている可能性が高い。AIに医療や健康のことを聞くときは、どのモデルが答えたかで中身の深さが変わる、というのは頭に入れておいてよさそうです。

出典

すべて2026年10月4日に確認したものです。

タイトルとURLをコピーしました