ビジネスにおける生成AI利用のリスク

先日、巨人の阿部監督が辞任したというニュースは記憶に新しいところです。
その原因にはどうやら生成AIが絡んでいたようです。
最近は生成AIに関連したご相談が増えていますが、生成AI活用に関する問題点についてコラムを作成しました。

事案の概略

報道によれば、娘さんが生成AIに相談したところ、生成AIが児童相談所への相談を助言し、それが最終的に警察沙汰へと発展、辞任に至ったとのことです。
（毎日新聞）2026/5/26 09:54（最終更新 5/26 20:06）
　暴行容疑の巨人・阿部監督　娘がチャットGPTに相談し児相通報
（毎日新聞）2026/5/26 14:17（最終更新 5/26 20:05）
　「父が連行され泣き崩れた」　巨人・阿部前監督の長女がコメント

報道を見る限り、娘さんに父親を陥れようなどといった意図はなかったように思います。
日常的に使っている生成AIに相談し、助言どおりに動いた。
たったそれだけのことが、推定年俸1憶5000万円の父親の職を奪う悲しい結果となってしまいました。

生成AIは間違えたのか？

生成AIを日常的に活用していますが、その進歩は本当に目を見張るものがあります。
１年前は精緻なプロンプト（指示）を組まなければまともに活用が難しかったですし、致命的なミス（幻視）も非常に多く散見していました。
しかし、執筆時点（2026年5月）では一般ユーザーですら簡単に利用が可能な状況で、しかもその回答精度も目を見張るものがあります。
本件事案について考えれば「間違ったとまではいえない」というのが私の所感です。
では何故そのような事態になってしまうのでしょうか。

生成AIの性能が低いせいでも、生成AIへの指示の出し方が悪いわけでもありません。
問題の所在は「判断に必要な個別具体的な情報」を生成AIに与えていないことにあります。

生成AIは事前に学習済みの情報、インターネットで取得可能な情報、そしてご自身が入力した情報から最適解を導きます。
本件事案も、家族の背景、相談者の真の気持ちなどを把握しないまま、与えられた情報だけを処理して「児相への相談」という助言を出したと推察されます。
そして、その結果予測を行わないまま助言を鵜呑みにして実行、悲しい結末を迎えてしまいました。

対岸の火事ではない

本件の問題は「子供の生成AI活用」といったカテゴリにとどまりません。
最近では、例えば「遺言書をAIに作らせた」、「事業計画書をAIに作らせた」、「必要な手続をAIで調べた」といったお客様のご相談をよく受けています。
共通項は「生成AIの回答の妥当性」を評価して欲しいというものです。
体感ですが「完璧なこと」・「不十分なこと」が多く、「完全に間違っている」は少ないという所感でしょうか。
「間違ったとまではいえない」類型が本事案のような悲しい状況に繋がるような気がしてなりません。

繰り返しになりますが、生成AIが判断できることは「学習していること」のみです。
ビジネスでいえば、事業沿革、業界慣行、ビジネスモデル、収益性、人事、関連する法令（条例を含む。）など経営判断に必要な情報というのは多岐にわたります。

経営者が生成AIの回答を鵜呑みにするケースを考えれば、許認可の判断、契約や規約の確認、資金繰りの判断、営業戦略の判断など多岐に渡る項目が容易に想定できます。
「生成AIが助言した」という、たったそれだけの判断基準で進めた結果、本事案のように取り返しのつかない事態を招きかねません。
例えば「許認可を取得しなくて良い」という判断にしたがって無許可のままビジネスを継続した結果、仮に必要だった場合に下記のような連鎖リスクが存在します。

近年では多岐に渡る制度・法規が交錯している状況にあり、単なる１つのアクションだと安易に考えていると大きな問題へと発展する可能性があります。
例えば、北海道の動物園が近年閉園となりましたが、主要な原因は都市計画法違反によるものでした。
（読売新聞）2025/10/01 07:53
　「日本一危険な動物園」だったノースサファリ、２０年間にわたる“違法営業”ついに終了…動物たちの行き先は
（朝日新聞）2026年3月26日 13時00分
　動物園「ノースサファリサッポロ」を違法建築　運営会社を書類送検

文脈に即して換言すれば「生成AIが指摘してくれなかった都市計画法」に起因して、ビジネスが頓挫するということになります。
何度も申し上げますが「生成AIの回答を鵜呑みにする」というのは多大なリスクに繋がる可能性があります。

生成AIを武器とすること

私自身、生成AIに関して記事執筆や講義登壇を行ったり、日常業務でも生成AIをフル活用したりしており明確に推進派であるといえます。
正しく使えば、調査・起案・分析など多岐にわたる業務で圧倒的な労働生産性を生み出すことができています。
問題は「使うこと」ではなく、AIに意思決定を委ねてしまうことにあります。
生成AIが身近になった時代ほど、「意思決定権」は絶対に手放してはなりません。

あくまでも判断材料の１つとして考える

この姿勢が非常に重要であると強く感じます。

生成AI時代の専門家の価値

最近はあまり見ませんが、「生成AIによって行政書士業務がなくなる」というご意見をたまに耳にします。
この点、最前線の専門家と日常的に議論を交わしており、結論は出ていますが決してそんなことはありません。

単純な作業や単純な知識提供であれば、いずれ生成AIが完全なものを提供してくれるでしょう。
むしろこれからの時代、専門家が生成AIを使いこなすことは、もはや大前提となる「必須要件」です。

その一方で、クライアントの状況全体を俯瞰し、生成AIが見落としているリスクや前提を見抜き、「本当にその方針で大丈夫なのか？」と問い直すこと。
これは生成AIの限界を熟知し、専門分野について絶え間ない研鑽し続けている者にしかできません。

「問いを問う力」
これこそが、これからの生成AI時代における専門家の真の価値となる。
そう私は強く感じています。