AIの意外な着想が、事実の主張に変わるとき

公共図書館の新しいサービスを考えるAIには、まだ誰も実施していない案を期待してよい。しかし、同じAIが助成金の申請書を作る際、住民がすでにそのサービスを求めているという証拠を作り上げることは許されない。二つの仕事は一つの会話の中で進み、後の文書が前の内容を引き継ぐこともある。そこで見落とされやすいのが、可能性にすぎなかった案が、現実について述べる文章の権威を帯びていく変化だ。

2026年10月23日のMITのインタビューでは、歴史学者Benjamin Lindquistが、初期のAI研究者による意外な出力への関心を論じている。歴史研究の論文は10月19日に公表された。この歴史は、システムに何を求めるかを考え直すきっかけになる。ただし、現在の言語モデルが創造性を発揮するには事実の捏造が必要だと証明するものではない。過去の研究者が抱いた構想だけで、現代のモデルに関する技術的な因果関係は決められない。

本稿が考えるのは、モデルの周囲にある仕事の進め方だ。発想の有用性を残しながら、生成された一文が、責任を伴う主張に変わる時点をどう管理するか。意外な回答をすべて欠陥として扱えば探索は狭まり、魅力的な案を証拠として扱えば、その後の判断の土台が弱くなる。

案が移動すると、文章の位置づけも変わる

架空の図書館の企画会議を考えてみる。AIが、交通拠点の近くに夜間の移動読書室を設ける案を出したとする。これは新サービスの構想であり、実在する事業の報告ではない。通常の開館時間には来られない人に届くか、場所が利用のしやすさにどう影響するか、小さな試行で何を学べるかを検討できる。

ところが、後の原稿に「地域の交代勤務者がこのサービスを要望している」と書かれ、実際にはそれを裏づける聞き取りがないなら、文章は事実の境界を越えている。元の案には、なお試す価値があるかもしれない。根拠のない記述を削る際には、案まで捨てる必要はない。需要を調査すべき問いとして書き直せばよい。

一つの段落の中にも、この区別はある。現在の閉館時刻という事実、満たされていない需要についての仮説、その仮説に応える発想が同居する。それぞれの扱いは異なる。開館時間は最新の案内と照合できる。需要には観察や聞き取りが必要で、サービス設計には代替案との比較が必要だ。モデルに「創造的かつ正確に」と指示するだけでは、誰がどの確認を担うかは決まらない。

編集の途中でも問題は生じる。留保つきの文が短い要約になり、要約がスライドに入り、別の担当者が申請書へ転記する。新しい証拠が加わっていないのに、暫定的な前提からラベルだけが消える場合がある。滑らかな文章と繰り返しによって、確認済みのように見えてしまう。確認すべきなのは誤字や表現だけでなく、記述の根拠上の位置づけが変わっていないかという点だ。

提案の数が増えても、選択肢が広がるとは限らない

DoshiとHauserが2024年に公表した短編創作の実験では、AIの着想を利用すると個々の創造性評価が高まる一方、作品同士の類似性も増した。創作実験という条件は重要で、あらゆる公共サービスの会議にそのまま適用できる予測ではない。

架空の図書館にとって有益なのは、そこから検討すべき問いを作ることだ。案は本当に異なるのか、それとも同じ前提を整えて言い換えたものか。夜間の需要が満たされていないと仮定する十案より、参加の少なさについて異なる原因を調べる数案の方が、実質的な選択を与える場合がある。交通、言語、認知度、サービス内容の適合性では、必要な対応が変わる。これらは例の中で考えられる説明であり、実在の地域についての調査結果ではない。

チームはAIに案を求める前に、自分たちの観察を残し、生成された選択肢と比較できる。また、どのような証拠が出たら各案を取り下げるのかを問うこともできる。初期の提案すべてに完成した証明を要求せずに、案を選別する手がかりを得られる。新しさを調査の出発点にし、その代わりにはしないという進め方だ。

確信から証拠へ戻れるようにする

生成された主張を検査する技術もある。2023年3月15日に初めて投稿されたSelfCheckGPTは、複数回生成した回答の不一致から、生成された人物伝の裏づけのない記述を検出する方法を研究した。このような取り組みは確認を促すもので、検査を通った文章を無条件で承認する理由にはならない。

公開を判断する際、モデルが同じ答えを何度出しても、それは出力の反復として扱い、独立した記録の集まりとは区別したい。問うべきことは、参照できる資料が、該当する場所と時期の具体的な主張を支えているかどうかだ。別の都市の試行は方法の参考にはなるが、この図書館の周辺に需要がある証拠にはならない。

この区別を保てば、不確かさにも役割が生まれる。「まだ分からない」で計画を止める必要はなく、現地観察、利用者候補への聞き取り、限定的な試行という次の行動につなげられる。逆に、自信に満ちた申請書の末尾に曖昧な免責文を置くだけでは、どの前提が未確認なのか読み手には分からない。留保は、それが限定する具体的な主張のそばに残す必要がある。

判断を支える段階に編集の境界を置く

実務では、探索用の素材と外部に出す文書を分け、案そのものは行き来できるようにする方法が考えられる。意思決定の文書に入るときには、事実の前提に明示的な根拠を求め、仮定は見える状態に保ち、期待する効果は観察されるまで見込みとして記す。これは本稿が提案する編集上の設計であり、実験で実証済みの信頼性保証ではない。

境界を維持するにも費用はかかる。思いつきの段階で逐一確認すれば議論は遅くなり、有益な方向転換も難しくなる。完成稿だけを確認すると、数ページの論旨が架空の前提に依存していたことを、遅れて発見する恐れがある。より適切な介入点は、ある前提が選択や予算、対外的な説明の理由になり始めるときだ。その段階では、位置づけの違いが発想した本人以外にも影響する。

この手順で創造性の意味がすべて解明されるわけでも、試行の成功が保証されるわけでもない。しかし、どの回答にも想像力と正確さの同じ配分を求めるより、責任は具体的になる。図書館の例で次に提出すべきものは、未知の点を正直に示し、それを調べる実行可能な方法を備えた提案だ。意外な着想は残せる。それを支える証拠は、別途集めなければならない。