レビュー／AIに、どこまで『決めさせる』のか
文章をAIに書かせる。会議を要約させる。売上データを分析させる。問い合わせへの回答案を作らせる。
企業の生成AI活用は、すでに「使うか、使わないか」を議論する段階から、「どの業務に使うか」を考える段階へ移っている。
しかし、その先にはもう一つ重要な問いがある。
AIに、どこまで「決めさせて」よいのか。
売上予測をAIに任せることと、従業員の評価をAIに任せることは同じではない。
採用候補者を整理することと、誰を不採用にするかを決めることも違う。
AIが人間の仕事を支援する段階から、人間について判断する段階へ入ったとき、企業のAIガバナンスは大きく性格を変える。
2026年9月30日、米カリフォルニア州で「No Robo Bosses Act」と呼ばれる法律が州知事の署名を受け成立した。職場における自動意思決定システムの利用について、人間による監督を求めるものである。
この動きが問いかけているのは、AIを禁止すべきかどうかではない。
企業の意思決定権限のうち、どこまでを機械へ委ねてよいのか。
日本企業にとっても、そろそろこの線を明示的に決める段階に来ている。
「AIを使ったか」ではなく「AIに何を決めさせたか」
企業のAI利用については、「社員の何％が生成AIを使っているか」「何部署へ導入したか」「何時間の業務を削減したか」といった数字が注目されやすい。
しかしガバナンスの観点では、それだけでは不十分である。
同じAI利用でも、リスクは大きく違う。
例えば、会議の議事録を作る。
メールの文章案を作る。
大量の資料を要約する。
こうした用途では、AIは主に作業を支援している。
一方、
誰を採用するか。
誰を昇進させるか。
誰の評価を下げるか。
誰を懲戒するか。
誰を解雇するか。
となれば、AIが扱っているのは「仕事」ではなく「人」である。
企業のAI利用を考えるときには、導入率より先に、この違いを区別する必要がある。
カリフォルニアが「ロボット上司」に線を引いた
2026年9月30日に成立したカリフォルニア州の「No Robo Bosses Act」は、この問題を象徴する動きである。
同法は、職場で利用される自動意思決定システムについて、人間による監督なしに労働者の重要な雇用上の判断を行うことへ制限を設ける。
ポイントは、企業がAIを利用すること自体を禁止しているわけではないことである。
AIを判断材料として利用することと、AIに最終判断を委ねることを区別している。
例えばAIが従業員の業績データを分析し、「この従業員の生産性が低下している」と示すことは、一つの情報提供である。
しかし、そのスコアだけを理由に自動的に懲戒や解雇を決めれば、AIが事実上の上司になる。
ここに「No Robo Bosses」という名称の意味がある。
AIには「助言」と「決裁」がある
この問題を企業実務へ落とすなら、AIの利用を「使う・使わない」で分類するより、意思決定への関与度で分類した方が分かりやすい。
例えば四つの段階を考えることができる。
第1段階は作業。
翻訳、要約、文字起こし、資料作成、データ整理などをAIが行う。
第2段階は分析。
売上予測、顧客分類、異常検知、応募者情報の整理など、人間の判断に必要な情報をAIが提供する。
第3段階は推薦。
「この応募者を面接すべき」「この社員は昇進候補」「この取引はリスクが高い」など、AIが具体的な選択肢を提示する。
第4段階は決定。
AIの判定によって採用、不採用、評価、配置、懲戒、解雇などが実質的に決まる。
AIガバナンスで重要なのは、第1段階と第4段階を同じ「AI利用」として扱わないことである。
「人間が確認しました」だけでは人間の判断とは限らない
では最終的に人間が承認ボタンを押せば問題は解決するのだろうか。
必ずしもそうではない。
AIが100人の応募者を採点し、上位10人だけを人事担当者へ表示したとする。
人事担当者はその10人を自分で確認して採用者を決めた。
形式的には人間が最終判断している。
しかし残り90人を誰が落としたのか。
実質的にはAIである。
同様に、AIが従業員をAからEまで評価し、管理職がその結果をほぼそのまま承認しているなら、最終承認者が人間でも意思決定の中心はAIに移っている可能性がある。
Human in the loopは「人間が最後にクリックすること」ではない。
AIの判断を覆せるだけの情報、権限、時間を人間が持っているかが重要になる。
AIの問題は「間違えること」だけではない
AIによる人事判断について、「精度が十分に高くなればAIへ任せてもよいのではないか」という考え方もあり得る。
しかし問題は誤判定だけではない。
例えばAIが「過去に昇進した社員」のデータから昇進候補者を選ぶとする。
過去の人事に偏りが存在すれば、その傾向を学習する可能性がある。
勤務時間、休職歴、居住地、職歴など、一見中立的に見えるデータが別の属性と関連していることもある。
さらにAIが複雑になるほど、「なぜこの人の評価が低かったのか」を本人へ説明することが難しくなる場合がある。
人間が判断しても不公平は起こる。
しかしAIを利用すると、一つの判断方法を数千人へ高速で適用できる。
AIのリスクは間違えることだけではなく、同じ間違いを大規模に実行できることである。
2026年9月の研究が示す「AIと働くこと」の別の側面
AIと職場の関係は、人事判断だけではない。
2026年9月30日に公表された研究では、従業員と生成AIの協働と、仕事と家庭の関係についても検討されている。
生成AIは仕事を効率化し、時間的な余裕を生む可能性がある。
一方で、AIとの協働が従業員にとって脅威として認識されれば、雇用への不安などを通じて仕事外の生活にも影響する可能性がある。
つまりAI導入の効果を「一人当たり作業時間が20％減った」といった生産性指標だけで評価すると、別の変化を見落とす。
AIによって仕事が楽になったのか。
仕事の裁量は増えたのか。
自分の仕事がなくなる不安が増えたのか。
勤務時間外にもAIによって仕事を続けるようになったのか。
こうした側面も、企業のAI導入を評価する対象になる。
AIで効率化したのに、人間の仕事が増えることもある
AI導入にはもう一つ逆説がある。
AIが文章を10倍速く作れるようになれば、文章作成時間は減る。
しかし企業が「では10倍作ろう」と考えれば、仕事量は減らない。
営業資料を月10本作っていた社員が、AIによって月100本作れるようになる。
会議資料が簡単に作れるため、会議自体が増える。
メールへの返信が速くなり、コミュニケーション量が増える。
AIによる効率化が、そのまま余暇や仕事の余裕になるとは限らない。
生産性向上によって生まれた時間を企業が何に使うかまで含めて、AI導入を設計する必要がある。
企業は「AI権限表」を作る段階に来ている
企業には職務権限規程がある。
100万円までなら部長決裁、1000万円を超えれば役員決裁といった形で、誰が何を決められるかを定めている。
AIにも同じ発想が必要ではないか。
例えば、
文章作成――AI単独で可。
市場分析――AI利用可、人間確認。
融資候補の評価――AI推薦可、人間決定。
採用候補者の選別――AI利用条件を限定。
人事評価――AIは参考情報のみ。
懲戒・解雇――AI単独判断不可。
というように、業務ごとにAIへ与える権限を決める。
これを仮に「AI権限表」と呼ぶことができる。
企業のAIガイドラインを「機密情報を入力しない」「個人情報に注意する」といった利用上の注意だけで終わらせず、どの意思決定権限をAIへ渡してよいかまで規定するのである。
AI権限表には「影響の大きさ」を入れる
すべてのAI判断を同じ厳しさで管理する必要はない。
誤った商品説明文を作った場合は、人間が修正すれば済むことが多い。
しかしAIの判断によって人が解雇された場合、後から訂正しても完全には元に戻らない。
そこでAI利用を、判断が人へ与える影響によって分類することもできる。
低影響――文章作成、要約、アイデア出し。
中影響――顧客対応、価格提案、営業予測。
高影響――採用、昇進、融資、保険、医療など。
重大影響――懲戒、解雇など、本人の権利や生活へ直接大きな影響を与える判断。
影響が大きくなるほど、人間による確認、説明可能性、異議申立て、ログ保存などを強くする。
こうすればAIガバナンスを抽象的な倫理規程ではなく、実務のワークフローとして設計できる。
AI判断には「異議申立て」が必要になる
AIが人について判断する場合、もう一つ重要になるのが、判断された側から見た仕組みである。
なぜ自分は採用されなかったのか。
なぜ評価が下がったのか。
どの情報が使われたのか。
間違ったデータが使われていないか。
人間に再評価してもらえるのか。
企業側がAIの精度だけを管理しても、本人が判断を訂正できなければガバナンスとして十分ではない。
AIによる重要判断では、
①AIが使われたことを知らせる。
②判断理由を確認できる。
③使用データの誤りを訂正できる。
④人間による再判断を求められる。
という仕組みをセットで考える必要がある。
AI導入率より「AI決定率」を測る
企業のAI活用を評価するとき、「生成AI利用率80％」という数字だけでは実態が分からない。
むしろガバナンスでは、別の数字を見る必要がある。
重要な意思決定のうち、AIが関与している割合。
AIの推薦を人間がそのまま採用した割合。
人間がAI判断を覆した割合。
AI判断について異議申立てがあった件数。
誤ったデータによって判断された件数。
部署によるAI利用の差。
こうした指標を追えば、AIが組織の意思決定へどこまで入り込んでいるかが見える。
「社員の何％がAIを使っているか」より、「会社の何％の判断をAIが動かしているか」。
AIガバナンスでは、後者の方が重要になる。
「AIを使わない企業」が安全なのでもない
ここまで読むと、AI利用を制限すればよいようにも見える。
しかし、それも単純ではない。
人間だけで行ってきた採用や評価にも、思い込み、好き嫌い、経験則、無意識の偏りは存在する。
AIによって判断基準を一定にし、過去の判断を検証可能な形で記録できるなら、人間だけの判断より透明になる可能性もある。
重要なのは「人間かAIか」という二択ではない。
どの情報をAIが分析し、どこで人間が判断し、判断の根拠をどう残し、間違った場合に誰が訂正するのか。
人間とAIの意思決定工程を設計することである。
AIガバナンスの中心は「禁止事項」から「権限設計」へ
これまで企業の生成AIガイドラインでは、機密情報を入力しない、個人情報を扱わない、著作権に注意するといった禁止事項が中心になりやすかった。
もちろん、それらは必要である。
しかしAIが企業活動の中へ深く入るほど、次に必要になるのは権限設計である。
AIは何を作ってよいのか。
何を分析してよいのか。
何を推薦してよいのか。
そして、何を決めてよいのか。
この最後の問いを曖昧にしたままAI活用だけを進めれば、気付かないうちに重要な意思決定が人間から機械へ移っていく可能性がある。
2026年9月30日に成立したカリフォルニア州の「No Robo Bosses Act」は、一つの地域の労働法制である。
しかし、その背景にある問いは世界中の企業に共通する。
AIを導入するかではなく、AIにどこまで権限を渡すのか。
企業のAI戦略は、「何人が使ったか」を競う段階から、「どの判断を人間に残すか」を設計する段階へ入りつつある。
参考資料・原典
- Newsom Signs McNerney’s “No Robo Bosses Act” Requiring Human Oversight of AI in the Workplace（California State Senate、2026-09-30）
- 研究論文：従業員と生成AIの協働、仕事・家庭関係に関する研究（2026-09-30公表）
