日
← すべての記事

指標が正しくても、AI が答えてよいとは限らない

意味の定義は計算をそろえるが、アクセス権は別問題だ。企業 AI には、本人性、時点、キャッシュ、実行権限を横断する検証が要る。

コラムAI最前線著者Open Market Notes種類記事
分岐するデータの線が赤い鍵穴のあるゲートを通る

管理職が「今四半期の自部門の一人当たり賞与はいくらか」と尋ねる。正しい式で最新データを読み、完全に再計算できる数値を返しても、システムは答えるべきではないかもしれない。その管理職が異動した直後かもしれず、絞り込んだ集団が一人だけかもしれないからだ。計算の正しさと、開示の許可は別の性質である。

Workday による Honeydew 買収計画は、この違いから見ると重要になる。11 月 18 日の発表は買収意向であり、条件充足を前提に 2027 年 1 月 31 日までの会計四半期中の完了を見込む。統合完了の証拠ではない。問うべきは AI 企業が一社増えることではなく、業務上の意味とクエリ権限を、どちらも機械が実行するルールにできるかである。

物差しは通行証ではない

セマンティック層は、指標についての実行可能な契約と考えられる。分子、分母、対象期間、レコードの結び付け方、定義のバージョンを定める。一人当たり賞与でも、四半期末の人数を使うか、四半期平均のフルタイム換算人数を使うかで意味は違う。目的が異なるため、モデルが回答中に勝手に置き換えてよいものではない。

意味の一貫性は、どの場面でも一つの数字を強いることではない。異なる定義に明確な名称、責任者、適用条件を与えることだ。「今四半期」が会計年度と暦年のどちらか曖昧なら、確認すべきである。安定した SQL で誤った解釈を固定しても正解にはならない。決定性は同じ入力で同じ計算をする保証であり、入力が正しい業務意図を表す保証ではない。

権限は別の問いに答える。誰が尋ね、エージェントは誰を代表し、どの行と項目を、何の目的で見られ、今も許可が有効なのか。式をコンパイラに移すだけでは解決しない。全要求を強い権限の共通サービスアカウントで実行するなら、チャット画面の名前が違っても、データベースが異なるアクセス範囲を認識するとは限らない。

美しいデモより役立つ三つの反例

以下はアーキテクチャの試験例であり、Workday などで問題が発生したという指摘ではない。

第一に、午前中は閲覧できた管理職が午後に異動したのに、アシスタントが午前の賞与結果をキャッシュから返す場合。式も元のクエリも正しかった可能性がある。問題は権限変更に応じてキャッシュを無効にできるかだ。キャッシュキーにはアクセス範囲やポリシー版も考慮すべきで、質問文だけで一致させると、一度許可された結果が再配布できるデータコピーになる。

第二に、部門全体の合計と、一人の社員を除いた合計の両方を閲覧できる場合。それぞれ許可された集計値でも、差を取れば個人の賞与が分かることがある。行フィルターや項目のマスキングだけでは、この組み合わせによる推測を自動的に防げない。機微な用途では最小集団サイズ、クエリの組み合わせ制限、人による審査などが必要になる。形式上許可された項目を返すより、回答を拒む方が実際の規則に忠実なこともある。

第三に、ライブクエリで今日の組織構造を取得し、前四半期の一人当たり費用を説明する場合。新しいことと適切なことは違う。過去分析には当時有効だった所属、指標の版、データの締め時点が必要だ。確定済み期間の報告なら、変わり続ける最新値より、承認済みで再現可能なスナップショットの方が役立つ場合がある。

三つの失敗は、権限の有効期間、結果の組み合わせ、業務上の時間に起因する。SQL を上手に書くモデルへの変更だけでは直接直せない。

実装の道は一つではない

Workday が提案するのは、意味の定義と自社の業務権限をより密接に統合する道だ。未提供の機能は、現時点の保証ではなく計画として扱う必要がある。既存データ基盤の中でポリシーを適用する道もある。Snowflake の文書は、行アクセスポリシーがクエリ実行時に返す行を決める仕組みを説明する。実行時の統制は一社だけの方法ではなく、データウェアハウスに置くことが統制の喪失を意味するわけでもない。

共通指標と明示的な認証情報の対応付けを組み合わせる方法もある。dbt の文書では、サービストークンを基盤側の認証情報に結び付ける。導入担当者が問うべきは、最終的に誰のアクセス範囲で動くかであり、セマンティック層の有無だけではない。チーム別の認証情報にもユーザー別の本人性にも運用負担がある。入口を統一しても、その選択は消えない。

少数の高リスク業務なら、承認済みクエリテンプレートが適する場合もある。自由度を減らす代わりに、実行可能な範囲を狭め、監査しやすくする。複数システムの経営分析には、更新遅延、権限同期、過去バージョン管理の費用を認識すれば、ウェアハウスは依然実用的だ。ネイティブなライブデータ方式にも、単一アプリ内の成功例だけでなく、システムをまたいだ本人性と業務定義の接続を示す責任がある。

検収すべきは証拠の連鎖

導入試験を「ダッシュボードと同じ答えだった」で終えてはいけない。同じ質問を異なる利用者、異動の前後、異なる締め日、キャッシュが使われる条件で再実行する。選んだ指標の版、権限主体、データ範囲、ポリシー判断、結果の時刻を記録する。拒否の場合も、機微情報を漏らさず監査できる理由が必要だ。

さらに行動は別に試験する。賞与予算を見られても、賞与を変更できるとは限らない。買掛金を理解できても、支払いを実行してよいとは限らない。読み取り、書き込み、承認責任は別々に検証すべきだ。意味の契約は数値の理解を助けても、その数値が表す資源を処分する権限までは与えない。

注目すべき事業価値は、プロンプトが何文字短くなるかだけではない。重複する指標管理を減らしながら、権限変更、過去の再計算、複数ツールからの呼び出しでも境界を維持できるかである。Workday の発表は方向を示した。実際の提供を裏付ける証拠は、計算方法だけでなく、なぜこの人が今この答えを受け取ってよいかを説明できることになる。

情報提供を目的とした内容です。投資・法律・税務・財務上の助言には該当しません。