同じ質問なのに毎回答えが違うのはなぜか|ばらつきの正体と業務で揃える手順
「先週と同じことを聞いたのに、違う答えが返ってきた」。AIを業務で使い始めた方から、この戸惑いはよく生まれます。設定を変えた覚えはない。質問の文面も同じ。それなのに中身が違う。壊れたのか、それとも自分の使い方が悪いのか——と原因探しが始まります。
先に結論をお伝えします。これは故障ではありません。設定ミスでもありません。そして重要なのは、設定をどう変えても消せないということです。AnthropicもOpenAIも、公式のドキュメントにそう書いています。
原因探しをやめて、別の対処に切り替える。この記事はそのための整理です。
それは故障でも設定ミスでもない
まず、多くの方が最初に疑うことを片付けておきます。「自分の質問の書き方が毎回微妙に違うから、答えも変わるのだろう」。これは自然な推測ですが、原因の説明としては足りません。一字一句まったく同じ文章を送っても、答えは変わりえます。
この性質には名前があります。公式ドキュメントでは「非決定性」と呼ばれています。同じ入力を入れても、出てくるものが毎回ぴたりと同じにはならない、という意味です。
⚠️ ひとつ区別しておきます。これは「AIが事実と違うことを言う」現象とは別の話です。あちらは内容が正しいかどうかの問題で、こちらは内容が同じでも表現や構成が毎回変わるという問題です。混同すると対処を間違えます。事実の誤りは出典で確かめられますが、ばらつきは確かめても消えません。
いわば、腕のいい職人に同じ図面を渡すようなものです。仕上がりはどれも要求を満たしている。ただし、まったく同じ品が出てくるわけではありません。機械のプレス加工とは、そこが違います。AIに文章を書かせるのは、プレス加工ではなく職人仕事のほうに近い、と考えると腑に落ちます。
メーカー自身が「同じにならない」と書いている
推測ではありません。作っている会社が、公式のドキュメントにそう書いています。
Anthropicの公式用語集には、こう記載されています。
Users may encounter non-determinism in APIs. Even with temperature set to 0, the results will not be fully deterministic and identical inputs may produce different outputs across API calls.
日本語にすると「利用者はAPIで非決定性に遭遇することがあります。ばらつきを最小にする設定にしても、結果は完全に決まりきったものにはならず、同じ入力が呼び出しをまたいで違う出力を生むことがあります」となります。
同じ文の続きには、この現象がAnthropic自身のサービスでも、他社のクラウド経由で使う場合でも起きる、と書かれています。使う経路を変えても解決しないということです。
OpenAIの公式ガイドにも、同じ趣旨の記載があります。
Determinism is not guaranteed, and you should refer to the system_fingerprint response parameter to monitor changes in the backend.
前半は「決まりきった結果になることは保証されません」。後半は「裏側の変更を把握するために、応答に付いてくる識別子を参照してください」という意味です。つまり「変わることがあるので、変わったかどうかを見張る手段のほうを用意した」と書いているわけです。さらに、再現性を高める仕組みについても「best effort」——最善を尽くす、という表現にとどめています。約束ではなく努力目標だと明言しているのです。
| 会社 | 公式に書かれていること | 言い切り方 |
|---|---|---|
| Anthropic | ばらつきを最小にする設定でも完全には決まらない。自社経由でも他社クラウド経由でも同じ | 明確に否定 |
| OpenAI | 決まりきった結果は保証しない。再現性の仕組みは「最善を尽くす」もの。モデルに元から備わる性質 | 保証しないと明記 |
2026年8月29日時点の各社公式ドキュメントの記載にもとづく
設定でばらつきを消すことはできない
ここが実務上いちばん大事な点です。「設定を詰めれば揃うのではないか」という期待は、成立しません。
Anthropicの記述をもう一度見てください。「ばらつきを最小にする設定にしても」と書かれています。いちばん揺れを抑える設定にした状態で、なお同じにならないと言っているのです。ここを読み飛ばすと、設定画面を探し回る時間が生まれます。
言い換えれば、雨の日に傘を差しても足元が濡れるのと同じです。傘の性能を上げれば濡れ方は減りますが、ゼロにはなりません。ゼロにする方法を探すより、濡れてもいい靴を履くほうが早い。対策の方向を変える必要があります。
なお、AIの出力の質が落ちたように感じる現象については、設定で改善できる部分もあります。そちらはClaude 劣化の真相と effort 設定で性能を取り戻す完全ガイドで扱っています。「質が落ちた」と「毎回変わる」は別の問題なので、切り分けて考えてください。
業務で答えを揃える4つの手順
消せないものを消そうとするのをやめて、揺れ幅を狭めるほうに切り替えます。手順は4つです。
1つ目は、渡す材料をそろえること。同じ質問でも、添付した資料が違えば答えは変わります。「先週と同じ質問」のつもりでも、会話の途中で別の資料を見せていれば、条件が違います。毎回おなじ資料を、おなじ範囲で渡す。ここが揃っていないうちは、ばらつきの原因を切り分けられません。
2つ目は、条件を書き切ること。「よろしく整理して」では、何を含めるかの判断が毎回ゆだねられます。含めるもの、含めないもの、想定する読み手、文字数。これらを書いておくと、答えの幅が縮みます。
3つ目は、出力の形を指定すること。ここが効きます。自由な文章で返させると、構成そのものが毎回変わります。「この4項目を、この順番で、表にして」と決めておけば、変わるのは各項目の中身だけになります。揺れる範囲を、あらかじめ箱に入れてしまうやり方です。
4つ目は、確認する場所を決めること。3つ目とセットです。表の形が決まっていれば、目を走らせる場所も決まります。金額はここ、日付はここ、と固定できる。いわば、検品の治具のようなものです。毎回ちがう角度から現物を眺めるのではなく、決まった枠に当てて見る。全文を毎回読み直す運用は続きません。
揺れてよい場所と、揺れてはいけない場所
この記事でいちばんお伝えしたいのは、次の切り分けです。
言い回しが毎回違っても、実害はありません。しかし金額が違えば実害が出ます。この2つを同じ熱量で確認していると、確認そのものが続きません。
右側の項目だけを、人が必ず見る。そう決めてしまえば、確認は数十秒で終わります。判断の根拠を記録として残す考え方については、AIの判断に説明責任を持たせる設計|「なぜそうしたか」を残す記録の作り方も参考になります。
やってはいけない使い方
裏返して言えば、「毎回同じ答えが返ってくる」ことを前提にした組み方は危険です。具体的には次のような使い方です。
ひとつ目は、AIの出力をそのまま別のシステムに転記する仕組みです。書式が毎回同じである保証がないため、ある日から取り込みが崩れます。ふたつ目は、人の確認を挟まずに社外へ送る運用です。相手に届いてからでは直せません。
みっつ目は見落とされがちですが、一度うまくいった結果をもって「この使い方は安全だ」と結論づけることです。一度うまくいったことは、次もうまくいく保証になりません。ちょうど宝くじが一度当たったからといって、次も当たるわけではないのと同じです。
社内でどこまで任せてよいかの線引きについては、生成AIの社内ガイドライン作成ガイドで全体の設計を扱っています。また、入力した情報の扱いが契約によって変わる点はその設定、本当に学習に使われていませんかで整理しています。
まとめ|消そうとせず、確認する場所を決める
整理します。同じ質問に違う答えが返るのは、故障でも設定ミスでもありません。メーカー自身が公式ドキュメントで「同じにならないことがある」と明記しています。そして、ばらつきを最小にする設定にしても消えません。
私たちが実務で大事だと考えているのは、「揃えよう」とする方向をやめることです。揃わない前提で、出力の形を先に決め、確認する場所を絞る。この順序に変えると、確認の手間が一気に軽くなります。逆に、原因を探して設定をいじり続けると、時間だけが減っていきます。
ばらつきは欠陥ではなく、性質です。天候のようなもので、無くすことはできません。できるのは、傘を用意しておくことだけです。
自社の業務でどこまで任せてよいか迷われている場合は、無料相談でも承っています。
よくある質問
設定を変えればばらつきを消せますか?
消せません。Anthropicの公式用語集には「Even with temperature set to 0, the results will not be fully deterministic and identical inputs may produce different outputs across API calls.」と書かれています。ばらつきを最も小さくする設定にしても、同じ入力が違う出力を生むことがある、という意味です。OpenAIも公式のガイドで「Determinism is not guaranteed」と明記し、再現性を高める仕組みについても「best effort」、つまり最善を尽くすという表現にとどめています。設定でどうにかしようとするのではなく、ばらつきが出る前提で業務の手順を組むほうが確実です(2026年8月29日時点の公開情報)。
答えが毎回違うのは、AIが壊れているからですか?
壊れていません。メーカー自身が公式ドキュメントで「同じにならないことがある」と説明しています。Anthropicは、この現象が自社の推論サービスでも、第三者のクラウド経由で使う場合でも起きると書いています。OpenAIは自社モデルについて「inherent non-determinism」、つまりモデルに元から備わっている非決定性という言い方をしています。故障や設定ミスを疑って原因を探しても、探しているものが最初から存在しません。仕様として受け止めたうえで、業務側の手順で対処するのが正しい順序です(2026年8月29日時点の公開情報)。
業務で使うとき、どこを確認すればいいですか?
全文を毎回読み直すのではなく、確認する場所を先に決めておくのが現実的です。具体的には、金額・日付・固有名詞・数量のように「違っていたら実害が出るもの」を項目として決め、そこだけを見ます。出力の形をあらかじめ指定しておくと、この確認が楽になります。表の何行目に何が入るかが決まっていれば、目を走らせる場所が固定されるためです。逆に、毎回自由な文章で返させると、確認すべき場所も毎回変わってしまい、結果として全文を読むことになります。揺れてよい場所と、絶対に揺れてはいけない場所を分けることが要点です(2026年8月29日時点の公開情報)。
参考にした情報
- Anthropic 公式ドキュメント|Glossary(Temperature の項に非決定性の記載)
- OpenAI 公式 Cookbook|Reproducible outputs with the seed parameter
本記事は2026年8月29日時点で公開されている情報にもとづいています。各社の仕様や記載は変更される場合があるため、判断の前に公式ドキュメントで最新の記載をご確認ください。