ITプラットフォーム事業部
データイノベーション本部
担当本部長
山田 裕子
データ利活用およびAI事業の責任者として、多数のプロジェクトを推進。豊富なプロジェクトマネジメント経験と業務変革の知見を活かし、生成AIやAIエージェントの活用とデータ・AIガバナンスを両輪とした業務変革や新たな価値創出に取り組んでいる。
セキュリティソリューション事業部
シニアセキュリティエバンジェリスト
セキュリティデジタルソリューション本部 担当本部長
扇 健一
セキュリティソフトウェア開発やインフラ構築業務を経て、ゼロトラストやOTセキュリティをはじめとするソリューションの拡販、コンサルティング、講演・執筆活動に従事。並行して特定非営利活動法人日本ネットワークセキュリティ協会（JNSA）での社会貢献や早稲田大学 非常勤講師としての活動を行っている。
AIを使わないことが、 最大のリスクとなる時代に
今企業におけるAI活用は、どの程度まで進んでいると感じていますか？
山田：多くの中小企業はPoCを通じて、どのようにAIを活用するのかを模索する段階にあると感じています。一方で、AIの業務適用が進んでいる大手企業において懸念されはじめているのが、ガバナンスの問題です。
誰がどのAIを利用できるのかを、いかに管理するのか。AIの過剰な利用によるコストの増大を、どう防ぐのか。AIの入力と出力を監視・制御する、いわゆる「AI ガードレール」の構築が急がれています。
扇：セキュリティの専門家として悩ましいのは、「何をしたいのか」が明確にならないと、「どのようなリスクに備えるべきなのか」にもはっきりと答えられないということです。
ただ、「Security for AI」や「AI for Security」といった基本的な考え方自体は、この1年で着実に浸透してきた印象です。その上で、現在は「AI活用の構想段階からリスクアセスメントを行いたい」といったニーズが増えているように感じています。
AIの利用が進んでいくなかで、具体的にはどのようなリスクが考えられるのでしょうか？
扇：まず挙げられるのは、「オーバーシェアリング」の問題です。AIに社内文書などを検索、参照させながら回答を生成させる「RAG（検索拡張生成）」を導入したことで、本来は限られた人しかアクセスできなかった情報が、広く社内に共有されてしまう、といったトラブルが既に現実のものとなっています。
さらに身近なのは、「ハルシネーション」の問題でしょう。AIによる誤った回答をユーザーが鵜呑みにしてしまうケースは少なくありません。
山田：ハルシネーションについては、別の観点からのリスクも考えられるはずです。つまり、AIによってユーザーが誤った行動をとってしまった場合に、その責任を誰が負うのか、という問題です。企業経営に重大な影響をもたらすようなトラブルに発展した場合に、サービスの提供側はまったく責任を負わずにいられるのか。利用者と提供者とで、責任の境界線をはっきりと定めておくことも重要です。
また、企業内で正式に承認していないAIツールを、従業員が独断で業務に利用してしまう「シャドーAI」の問題も、情報漏えいやコンプライアンス違反につながる身近なリスクと言えるでしょう。
扇：将来的にAIエージェントが増加していけば、ID管理もさらに大きな問題となるはずです。ID管理でさえ難しいのに、人以外のマシンやアプリケーションなどに割り当てられる、いわゆる「ノンヒューマンID」がどんどん増えていけば、その複雑さは桁違いに跳ね上がり、管理しきれない世の中になる恐れがあります。
山田：自律型のエージェントが普及すれば、AIエージェント同士が企業間のやり取りを担うことも、当たり前になっていくでしょう。その場合、人が気付かない間にAIが何かしらの問題を起こしてしまう可能性があり、責任の所在が問題になるはずです。このように、AIをめぐるリスクは数え上げればきりがありません。
扇：同感です。AIがロボットや機械と結びつく「フィジカルAI」の世界まで見据えれば、リスクは無数に存在し、広がっていくと言えるでしょう。
しかしながら、今企業にとって最大のリスクは「リスクを恐れすぎてAI活用に出遅れることだ」ということは強調しておきたいですね。セキュリティの強化と、AIの活用を同時並行で進めていくことが、最も大切だと感じています。
「なぜ？」を問い続ける力が、 AI時代のリテラシーになる
セキュリティの強化とAI活用の加速を両立させるために、いま何が必要だとお考えですか？
山田：やはりまずはスピード感だと思います。導入実績ができてから、ようやく本格的に販売開始だと、お客さまへの提供のタイミングが遅くなり、ビジネス機会の損失を招いてしまう恐れがあります。だからこそ私たちも「カスタマーゼロ」を合言葉に、社内でのAI活用を急ピッチで進めてきました。
そうした取り組みを通じて実感しているのは、AI活用には「ルールによる抑止」と「システムによる保護」の両輪が欠かせないということです。私たちもSIerとして、ガイドラインの作成といったルール面での支援に加えて、利用状況や権限、コストを一元管理する「AIコントロールプレーン」のような仕組みの実装までを含めて、より実践的な提案をしていきたいと考えています。
扇：より大きな視点でいうと、セキュリティについての意識そのものを変えていくことも重要だと感じています。たとえば、グローバルに事業を展開したり、DXを推進したりしていくためには、セキュリティ対策は必要不可欠です。また、投資家や求職者にとっては、セキュリティ面に不安がある企業というのは、それだけで信頼性が低下してしまいかねません。
つまり、今やセキュリティは「守りのためのコスト」ではなく、「競争力の源泉」そのものなのです。AI活用を推進するためにも、まずはこうした意識の転換が必要になるのではないでしょうか。
AIによるリスクを軽減するためには、個々人のリテラシーも重要になってきそうですね。
山田：そうですね。特に若年層は、入社時点からAIが身近にある世代です。その分、AIの回答をそのまま受け止めてしまう危うさもあります。AIを正しく活用していくためには、前提となる業務知識やリテラシーに加え、自社の業務ルールやデータの意味、背景といった「企業文脈」を理解したうえで活用することが不可欠だと考えています。
扇：AIリテラシーの基本は、「なぜそうなるのか」「その根拠はどこにあるのか」を、AIに対して問いかけ続けることだと思っています。若い世代がそうした姿勢を身につけるためには、評価の基準そのものを見直すべきなのかもしれません。たとえば、上司が部下を評価する際には、成果物の質だけではなく、「なぜそう考えたのか」というプロセスを評価することが、より重要になると感じています。
今後ますますAIが身近になっていくことを考えると、社会全体でリテラシー教育に取り組んでいければ理想的ですね。だからこそ、私自身も小中学生を対象にしたセキュリティに関する「出前授業」のようなことをやっていたりします。ボランティアとしての活動なので限界はありますが、こうした取り組みを広げていくことも、社会全体で安全なAI活用を進めていくために大切なのではないでしょうか。
山田：素晴らしい取り組みだと思います。その一方で、中堅やベテラン世代の皆さんには、まずはより積極的にAIを使ってみてほしいですね。もっと言えば、ご自身の成功体験をしっかりとAIに学習させてほしい。そうすれば、AI活用の幅はさらに広がっていくはずです。
扇：「AIは若い世代に任せておけばよい」という考え方は、今後見直すべきだと思います。中堅・ベテラン層を含めたすべての世代が主体的に新しいテクノロジーを学び、活用することが重要です。生産性向上や企業のアジリティ強化を実現するためには、世代を問わず継続的に知識とスキルをアップデートしていく姿勢が求められています。
企業のAI活用を、 SXの実践へとつなげていくために
AIを安全・安心に利用できることは、社会全体のSXとどのようにつながっていると感じていますか？
扇：建築業や製造業においては、「QCDSE」という言葉がよく使われています。Quality（品質）、Cost（原価）、Delivery（納期）、Safety（安全）、Environment（環境）の頭文字を取った言葉ですが、従来はそれぞれの要素がトレードオフの関係にあると考えられがちでした。少なくとも、いずれかに優先順位をつけることが大切だと考えられていたはずです。
ところがAIは、そのすべてを同時に底上げできる可能性を秘めたソリューションです。言い換えるならば、AI活用は社会全体のQCDSEを高めることにつながっているのではないでしょうか。
山田：そういう意味では、今後AIは社会インフラのひとつとして位置付けられていくはずです。特に日本においては、エネルギー利用の効率化や少子高齢化による人手不足といった社会課題を解決するソリューションにもなり得ると考えています。だからこそ、安全性やガバナンスもより一層問われてくるわけです。
AIを活用して持続可能な社会を実現するために、日立ソリューションズはどのような役割を果たしていくべきだとお考えですか？
山田：当社に求められるのは、お客さまの課題解決を一緒に考え、システムの導入から運用ガバナンスの定着までを一気通貫で伴走支援することだと考えています。そのためにも、まずはAI時代のセキュリティのあり方をお客さまにしっかりと理解していただき、AIを安全・安心に活用するための土台を一緒につくっていきたいですね。
扇：それと同時に、「AIを使って、どう社会を良くしていきたいのか」をお客さまと一緒になって考えることも、これからの私たちの役割だと感じています。当社にはセキュリティに関する技術的な知見だけではなく、SX活動を通じて培ってきた実践的なノウハウがあります。それを積極的に提供しながら、お客さまのAI活用とSXを橋渡ししていくことも、私たちだからこそできる取り組みだと考えています。
