正しい答えが、正しい応答とは限らない」、本文の先頭に置くサブタイトルには「――生成AIは『今、それを言う必要があるのか』を判断できるか」
生成AIは、以前よりずっと賢くなった。
難しい質問に答え、膨大な資料を要約し、複雑な問題について筋道を立てて説明できる。人間が知らない専門知識を、瞬時に提示することも珍しくない。
それでも、AIとの会話には、どこか奇妙な瞬間がある。
言っていることは正しい。説明にも間違いはない。それなのに、なぜか話がかみ合わない。
その原因は、AIが知識を持っていないことではなく、正しい知識を、いつ、何のために使うべきかという判断にあるのかもしれない。
「眠れなくてもいい」という言葉の意味
デール・カーネギーの著書『道は開ける』には、不眠症に悩む人への助言が登場する。
その趣旨は、眠れないことを必要以上に心配しないというものだ。眠ろうと努力するほど、眠れないことが気になり、不安が大きくなる。むしろ、眠れなければ眠れないで構わないと考えることで、その悪循環から抜け出そうというのである。
カーネギーは、睡眠不足への恐怖を取り除くために、かなり大胆な表現も用いている。
ここで重要なのは、カーネギーが睡眠医学の教科書を書いているわけではないということだ。
眠れないことに苦しむ人を安心させようとしているのである。
ところが、この考え方を生成AIに伝えると、次のような補足説明が返ってくることがある。
「ただし、医学的には睡眠不足が健康に悪影響を及ぼすことがわかっています」
もちろん、間違った説明ではない。
しかし、眠れないことへの不安をようやく手放しかけた人にとって、その一言は、再び不安を呼び起こす可能性がある。
カーネギーが取り除こうとしていたものを、AIがわざわざ戻してしまうのである。
この例は、生成AIの対話能力を考えるうえで興味深い問題を示している。
情報の正確さと、言葉の適切さは同じではない。
人間は言葉を、情報を伝えるためだけに使っていない
私たちは日常生活で、必ずしも厳密な事実を伝えるためだけに言葉を使っているわけではない。
試験を控えて緊張している学生に、教師が「失敗したって死ぬわけじゃない」と声をかける。
大きな仕事を前に不安を感じている同僚に、「何とかなるよ」と励ます。
落ち込んでいる友人に、「明日はきっといい日になる」と伝える。
どれも、将来についての正確な予測ではない。
それでも、こうした言葉には意味がある。相手の緊張を和らげ、気持ちを切り替え、次の行動へ向かわせる働きがあるからだ。
仮にAIが「明日がいい日になるという科学的根拠はありません」と返答したら、どうだろう。
事実に忠実であることと、会話を理解していることの違いが、はっきり見えてくる。
言語学には、この問題を扱う「語用論（Pragmatics）」という研究分野がある。
語用論では、言葉が何を意味するかだけでなく、その言葉が、どのような状況で、どのような意図を持って使われているかを考える。
例えば「寒いですね」という言葉は、気温についての感想かもしれない。しかし、窓が開いた部屋で発せられたなら、「窓を閉めてほしい」という依頼かもしれない。
人間は、こうした言葉の背後にある意図を、会話の状況から読み取っている。
生成AIも文脈を処理できるようになっているが、言葉の意味を理解することと、言葉が果たそうとしている役割を判断することは、必ずしも同じではない。
AIはどこまで「言葉の意図」を理解できるのか
この問題は、世界のAI研究でも取り上げられている。
2025年、国際計算言語学会（ACL）で発表された『Pragmatics in the Era of Large Language Models』というレビュー論文は、大規模言語モデルの語用論的能力を評価する研究を整理している。
研究対象には、直接言葉にされていない意味の推測や、文脈によって意味が変わる表現などが含まれる。
AIが文章を正しく処理できても、発言の意図まで正確に把握できるとは限らない。こうした能力をどのように測定するかが、研究上の課題となっている。
また、2025年に学術誌『Journal of Pragmatics』に掲載されたAnderssonとMcIntyreの研究では、ChatGPTが無礼な表現をどの程度認識できるかが検証された。
AIは、相手を侮辱する表現をある程度認識できた。一方で、親しい人同士の冗談など、言葉だけでは判断しにくい表現については、解釈に不正確さが見られた。
さらに、求められていない作業まで行う傾向も報告されている。
これは、AIが単に「空気を読めない」という話ではない。
人間同士の会話では、言葉の内容に加えて、相手との関係や会話の目的を考慮する必要がある。その複雑な判断を、AIがどこまで安定して行えるのかという問題なのである。
ただし、AIの語用論的能力が一律に低いというわけではない。研究によっては、特定の課題で人間と同等、あるいはそれ以上の成績を示す場合も報告されている。
問題は、能力の有無というよりも、実際の会話で、その能力を適切に発揮できるかどうかにある。
正確であろうとするほど、会話が不自然になる？
生成AIには、誤情報を広めないことが求められる。
特に健康、法律、金融などの分野では、誤った説明が重大な不利益につながることもある。
そのため、AIが慎重に説明し、必要な注意事項を付け加えることには合理的な理由がある。
しかし、注意事項は多ければ多いほどよいのだろうか。
例えば、登山を終えた人が「生きて帰れてよかった」と話したときに、AIが登山事故の統計を延々と説明したらどうだろう。
あるいは、子どもが「世界で一番おいしいケーキだった」と喜んでいるときに、「世界中のケーキを比較した客観的根拠はありません」と返したらどうだろう。
どちらも、事実の正確性を追求するあまり、会話の目的を見失っている。
もちろん、生成AIが常にこのような応答をするわけではない。
しかし、必要以上の補足説明や注意喚起が、利用者の求める支援と食い違う可能性はある。
ここで問われるのは、正確性を重視すべきかどうかではない。
正確性を確保するための説明が、どのような場面で必要なのかを判断できるかということである。
AIの開発側も、この問題を認識している
興味深いことに、AIの開発側も、単に正しい回答を返すだけでは十分ではないと認識している。
OpenAIが公開している『Model Spec』では、AIが指示の字面だけでなく、その背後にある意図や文脈を考慮することが求められている。
不必要な説明や留保を避けることも、望ましい応答の一要素とされている。
つまり、AIの開発方針そのものが、事実の正確性だけでは適切な対話を実現できないという前提に立っている。
それでも、実際の会話では問題が起きる。
ここには、もう一つ興味深い現象がある。
AIは、不適切な応答を指摘された後であれば、何が問題だったのかをかなり的確に説明できる場合がある。
例えば、眠れない人への応答について、「カーネギーの目的は睡眠不足の危険性を否定することではなく、不眠への恐怖を和らげることだった」と説明することはできる。
しかし、その理解が最初の応答に反映されるとは限らない。
後から説明できることと、最初から適切に判断できることには違いがある。
この違いは、今後のAI開発で検討すべき重要な論点といえるだろう。
AIの性能を何で測るのか
これまで生成AIの進歩は、主として知識量、推論能力、回答の正確性などによって語られてきた。
難しい問題を解けるか。専門家の試験に合格できるか。誤った情報をどれだけ減らせるか。
こうした評価は今後も重要である。
しかし、AIが人間の生活や仕事の中で日常的に利用されるようになると、それだけでは十分ではなくなる。
例えば、次のような能力も評価対象として考えられる。
- 相手が何を知りたいのかだけでなく、何を実現したいのかを理解できるか。
- 正しい情報であっても、不要な場合には追加しない判断ができるか。
- 相手が冗談や比喩を使っていることを理解できるか。
- 注意喚起が必要な場面と、不要な場面を適切に区別できるか。
- 一つの発言だけでなく、会話全体の目的に沿った応答を続けられるか。
ただし、これらの能力を評価することは簡単ではない。
利用者が喜ぶ回答が、必ずしも適切な回答とは限らないからだ。
誤った考えに同調したり、必要な警告を避けたりすれば、一時的な満足度は高まるかもしれない。しかし、それでは信頼できるAIにはならない。
求められるのは、利用者への迎合ではなく、状況に応じた判断である。
その評価には、正確性、安全性、文脈への適合性、利用者の目的達成度などを組み合わせる必要があると考えられる。
正しい答えの、その先へ
生成AIは、すでに多くの分野で人間の知的活動を支援している。
しかし、人間の会話は、質問に対して正しい答えを返すだけで成立しているわけではない。
励ますこと、安心させること、考えを整理すること、行動を促すこと。言葉には、情報の伝達を超えたさまざまな役割がある。
生成AIが、そうした言葉の役割をどこまで理解し、適切に使い分けられるようになるか。
これは、AIをより人間らしくするという問題とは少し異なる。
人間の感情を模倣することよりも、人間が言葉を使って何をしようとしているのかを、適切に判断することが重要なのである。
今後の研究では、正確な情報を提供する能力に加え、情報の必要性や提示のタイミングが、実際の対話にどのような影響を与えるかを検証していく必要がある。
AIの次の課題は、何が正しいかを知ることだけではない。その正しさを、いつ、何のために使うべきかを判断することにある。
主な参考文献・資料
- Ma, B. et al. (2025). “Pragmatics in the Era of Large Language Models: A Survey on Datasets, Evaluation, Opportunities and Challenges.” Proceedings of ACL 2025. 論文を読む
- Andersson, M. & McIntyre, D. (2025). “Can ChatGPT recognize impoliteness? An exploratory study of the pragmatic awareness of a large language model.” Journal of Pragmatics, 239, 16–36. 論文を読む
- Bojić, L. et al. (2025). “Does GPT-4 surpass human performance in linguistic pragmatics?” Humanities and Social Sciences Communications, 12. 論文を読む
- OpenAI. Model Spec. 公式資料
- Carnegie, D. (1948). How to Stop Worrying and Start Living. 邦訳『道は開ける』。
