AIエージェント時代に直面する「新たなセキュリティと内部統制」 日立ら大手はどう考えるのか：AIニュースピックアップ

生成AIやAIエージェントの普及で、企業は説明責任やデータの偏り、情報漏えいといった新たな統制課題に直面している。博報堂DYホールディングスや日立製作所など4社は「人間中心のAI」を掲げる新団体を設立した。

[松林沙来，ITmedia]

　2026年7月21日、GMOペパボ、スマートガバナンス、Human-Centered AI Institute（博報堂DYホールディングスのAIに関する先端研究や技術開発に取り組む組織）、日立製作所は、一般社団法人「人間中心のAIコンソーシアム（Human-Centered AI Consortium）」の設立を発表した。同法人は、「人間中心のAI」の研究、開発、社会実装、政策提言などの活動を通じて社会における健全なAIの活用推進を目的としている。

　共同代表理事には、博報堂ＤＹホールディングスの森正弥氏（執行役員 CAIO《最高AI責任者》）と、慶應義塾大学法科大学院の山本龍彦氏（教授、同大学X Dignityセンター共同代表）が就任した。

コンソーシアムの理事、監事（前列中左が森氏、前列中右が山本氏）（筆者撮影）

AIエージェント時代に企業が直面する「新たなセキュリティと内部統制」

　企業のAI活用が本格化する中で、ガバナンスの在り方も変化していると、AIガバナンス分科会副座長で日立製作所の安立大介氏（ITデジタル統括本部長兼DX戦略本部長）は指摘する。「従来のAIガバナンスは、学習データの偏りや、処理過程がブラックボックス化することによる説明困難性への対応が主だった。しかし、これからは自律的に動く『AIエージェント』が引き起こす新たな脅威に備えなければならない」と安立氏は警鐘を鳴らす。

　AIエージェントが従業員のIDを使用して自律的に社内データや外部システムにアクセスする「Agentic Enterprise」時代においては、人間側がAIの挙動を完全に把握できないまま機密情報や個人情報が流出する危険性があるという。企業は今後、AIエージェントの処理の正確性、権限付与の妥当性、そして監査可能性をどのように担保し説明責任を果たすのかという、新たな内部統制の課題に直面することになると安立氏は説明している。

産学連携で社会実装を推進する「4つの分科会」

　同コンソーシアムは、企業のアクションや社会実装に直結する4つの分科会を設置し、相互に連携しながら課題解決に取り組む。

生活者調査分科会

　 AIに対する期待や不安、利用実態の変化を定量的に把握する。開発者視点では気付けない生活者の潜在的な不安を浮き彫りにし、生活者本位のサービス設計や制度設計に向けた示唆を提供する。

HCAI概念分科会

　「人間の尊厳」を中心に据え、法学や倫理学、情報科学などの領域を横断して基礎研究を進める。また、AIによる情報最適化が人間の認知に与える影響を分析し、実際のシステム設計に応用可能なフレームワークとして提示する。

創造性ユースケース分科会

　AIエージェントを用いてクリエイターや従業員の創造性をどのように拡張できるか、実践的なPoC（概念実証）を企画、実施する。自律型AIエージェントを業務に常駐させた際の影響などを検証し、「人とAIの協働による価値創出」のユースケースを可視化する。

AIガバナンス分科会

　自律型AIエージェントの普及を見据え、企業や行政が日常業務の中で参照できる実践的な「AI利用ガイダンス」の策定を目指す。最先端の事例を収集し、ルール作りと社会実装を主導する。

　今後の具体的なロードマップについて森氏は、各分科会での活動を本格化させ、初年度末（2027年3月末）や次年度（2027年度）にかけて順次具体的にアウトプットするという方針を明らかにしている。生活者の調査結果や、創造性を高めるユースケースのカタログ化などを進め、社会に向けて論点を提示していくという。