← SURPLUS / 記事一覧へ ADAPTIVE INCENTIVE DESIGN FOR AI ADOPTION ・ 見えない豊かさの経済学

「月200件、AIに質問すること」というノルマを課したら、社員は質問の"水増し"を覚えた。

大手医療機器企業が、約5,000人の従業員にAIアシスタントの利用ノルマを課した。月200件以上。利用件数は増えた。だがその数字をよく見ると、増えたのは「使った実感」だけで、会社が本当に欲しかった行動ではなかった。

この記事で手に入るもの

クエリの31%が重複または業務外だったという内訳、ノルマを200件から100件へ下げたら何が起きたかという逆説的な実験結果、そして「測定が目標になった瞬間、測定は意味を失う」というGoodhartの法則が、AI導入という最新の現場でそのまま再現されていたという話を確認する。

01 — 問い

「使わせる」ために、数を目標にした

AIアシスタントを社員に使ってほしい会社は多い。だが「便利だから自然に使われる」は、たいてい期待通りには進まない。そこで多くの企業が取る手段が、利用件数そのものをノルマにすることだ。Gong, Hou, Li, Pu & Yao(2026)が調査した大手医療機器企業も、その一つだった。

対象は従業員約5,000人。会社はまず、月に最低200件のAIアシスタント利用を義務とする方針を導入した。狙いはシンプルだ——使われなければ投資は回収できない。数字で縛れば、使用率は上がるはずだった。

実際、利用は増えた。だがクエリの中身を精査すると、会社が期待していた「業務でAIに相談する」という行動とは違う何かが起きていた。件数が、ちょうど200件のところに不自然に集中していたのだ。

ノルマを達成した社員が、本当に業務でAIを使っていたとは限らない。件数という目標は、件数を満たす行動だけを引き出す——中身が伴っているかどうかとは無関係に。


02 — 検証 ノルマは、何を増やしたのか

クエリの31%が、重複または業務外だった

研究チームがクエリの内容を分析すると、31%が重複または業務に関係のないクエリだったと判明した。「今日の天気」「適当な一言を書いて」といった、ノルマの数字を埋めるためだけの質問、あるいは同じ質問の使い回しが、全体の3分の1近くを占めていたことになる。

これ自体は、目標管理の現場ではよく知られた現象だ。測定された数字が評価や処遇に結びつくと、人はその数字を最も低コストで満たす方法を見つける。200件という閾値ちょうどへのクエリ数の集中は、その最も分かりやすい証拠だった——「199件でやめた社員」はほとんどおらず、多くが律儀に200件という一線を越えてから止まっていた。


03 — 転 ノルマを下げたら、クエリの質が上がった

目標を半分にしたら、減った分の9割が「水増し」だった

ここからが、この論文がただの「AIノルマの失敗談」で終わらない理由だ。会社は次に、ノルマを月200件から月100件へ引き下げた。普通に考えれば、目標を緩めれば利用は減るだけに見える。

実際、クエリの総量は約30%減少した。だがその中身を分解すると、減少分のおよそ90%は、重複または業務外のクエリだった。業務に関連するクエリの量はほとんど変わらず、統計的に意味のある減少は確認されなかった。

ノルマを緩めたのに、「本物」のAI利用はほぼ減らなかった。消えたのは、数字を埋めるためだけに存在していた水増しクエリだった。目標の数字を動かしただけで、同じ母集団の中身の比率が入れ替わったということだ。

さらに、営業部門の従業員に限ると、ノルマ引き下げ後に月間売上が7%増加したという結果も報告されている。無理な件数ノルマを外されたことで、AIに向き合う時間が「数を埋める作業」から「実際に使える場面で使う」方向へシフトした、という解釈が成り立つ。


04 — 両論併記 これはAIだけの話ではない

「測定が目標になると、測定は機能しなくなる」

この現象には、半世紀前から名前が付いている。英国の経済学者Charles Goodhartが1975年に述べたGoodhartの法則——「ある指標が目標として使われるようになった瞬間、それは良い指標ではなくなる」。学校のテストスコアを目標にすれば教師はテスト対策だけを教え、コールセンターの応答件数を目標にすれば早口の無意味な通話が増える。AI利用件数も、例外ではなかった。

01

強化学習でも、同じ構造が確認されている

Karwowski, Hayman, Bai, Kiendlhofer, Harris & Skalse(2024, ICLR)は、幅広い環境・報酬関数を使った実験で、「不完全な代理報酬を最適化すると、Goodhartの法則が予測する劣化パターンがほぼ必ず現れる」ことを定量的に確認した。人間組織のノルマだけでなく、AIを訓練する側のアルゴリズムの中でも、同じ力学が働く。

02

「賢くなれば騙されなくなる」わけでもない

AIエージェントは、賢くなるほど騙されなくなるのかで扱った21,600回のシミュレーションでは、推論能力を強化してもAIエージェント自身がナッジに騙される脆弱性は消えず、効くナッジの種類が入れ替わるだけだった。測定・評価の仕組みを相手に合わせて強化しても、ゲーム可能な隙間は形を変えて残り続ける——これも同じ系譜の教訓だ。


05 — 結論

目標の数字を下げる方が、測定の質を上げることがある

この研究が提案する「適応的インセンティブ設計」の核心は単純だ——固定の高い目標を一度決めて動かさないのではなく、実際の利用データを見ながら閾値そのものを調整し続けるという発想。200件という数字に固執せず、クエリの中身が水増しだらけだと分かれば、目標を下げてでも「本物」の比率を上げる方を選ぶ。

これは、"社員の幸せ"を謳う会社ほど、休みが増えていたという記事で見た構図とも重なる。発信された指標(ウェルビーイングへの言及度)が、実際の行動(休暇取得)を動かしたが、それが健康そのものを動かしたとは限らなかった——指標と、指標が本来測ろうとしていた実体との間には、常にすき間がある。AI利用ノルマも同じで、「使った件数」は「AIで業務が改善したかどうか」の代理変数に過ぎない。代理変数を目標にすれば、人はいつでも代理変数だけを満たす近道を見つける。

「もっと使え」と命じるより、「使われている中身」を見ている、という事実を社員に伝える方が効く。この企業が証明したのは、ノルマを厳しくすることではなく、測り方そのものを疑い続けることが、結局は一番安上がりな解決策だったということだ。


06 — 出典

参考文献

本記事の要約・引用元。

01
Gong, J., Hou, J., Li, J., Pu, F. & Yao, X.(2026)When Less Is More: Managing AI Adoption with Adaptive Incentive Design.arXiv:2609.32859 [econ.GN]. 本記事の中心データ(月200件ノルマ・重複/業務外クエリ31%・100件への引き下げ後のクエリ量30%減少とその内訳・営業従業員の売上7%増加)の出典。
02
Goodhart, C. A. E.(1975)"Problems of Monetary Management: The U.K. Experience." 講演録。「測定が目標になると、測定は良い指標でなくなる」というGoodhartの法則の原典(後にStrathern 1997が現在広く使われる定式化に要約)。
03
Karwowski, J., Hayman, O., Bai, X., Kiendlhofer, K., Harris, C. & Skalse, J.(2024)"Goodhart's Law in Reinforcement Learning." International Conference on Learning Representations (ICLR) 2024. 機械学習の報酬最適化においてもGoodhartの法則の劣化パターンが広範な環境で再現されることを定量的に確認した2020年代の追試として引用。
SURPLUS BOOKS VOL.1

この連載が1冊の本になりました

連載の主要記事を1冊に再構成し、書き下ろしを加えたKindle本です。数字では測りにくい豊かさを、所得・時間・関係・自由の視点から読み直します。

『幸福の物差し──あなたの豊かさが数字に映らない理由』
¥630 / Kindle Unlimited 対象
Amazonで読む 読者特典ワークシート(無料)

Amazonのアソシエイトとして、meclGGは適格販売により収入を得ています。