AI活用の推進だけでは危険 生成AI時代に必須な「セット型ガバナンス」とは？（2/2 ページ）

[ITmedia]

AIガバナンスに必要な「セット」

　では、企業におけるAIガバナンスの現状はどうなっているのか。AIガバナンス協会が4月に実施した調査によると、「ルール・プロセスの明文化」「組織体制の整備」は進んでいる一方、具体的なリスク対策手法の確立や、AIの活用状況を対外的に説明し、透明性を確保する体制が整っていないことが分かった。

　こうした現状を受けて、佐久間氏は「AIガバナンス構築には、技術に基づく直接的なアライメント（調整）と、コミュニケーションに基づく社会的なアライメントという2つの要素を意識することが重要です」と話す。

　AIを開発、もしくは活用する主体には、生成AIに自分たちの業務に必要な情報を出させる、必要な文章を作らせるといった、AIを自分たちの思い通りに動かそうとする考えが根底にある。この考えが直接的なアライメントであり、実現するためには技術的な対策が必要だ。

　AI活用では技術面、つまり直接的なアライメントが着目されがちだが、「そこで終わってはいけません」と佐久間氏。AIの影響を受ける人は社内だけでなく、社会全体に存在する。そのため、自社が使っているAIが社外のステークホルダーにも影響を与えることを認識し、広い視点で考えること＝社会的なアライメントが欠かせないという。

提供：ゲッティイメージズ

　直接的なアライメントしては、安全な技術環境の設計、データ収集・加工時のプライバシー保護がある。実務では情報部門やIT部門が担当するケースが多いだろう。社会的なアライメントは、国内外の法制度に従ったリスク評価や、ステークホルダーへの適切な情報開示による透明性の確保、責任者が明確かつ体系的なアカウンタビリティを確保することがある。実務に落とし込むと、担当するのは法務やコンプライアンス部門が該当する。

　佐久間氏は「直接的なアライメントと社会的なアライメントは、セットで考える必要があります。分かりやすくいえば、文系的な部門と理系的な部門が連携しなければ、AIガバナンスはうまくいきません」と説明する。

　その上で佐久間氏は現場と経営が連携することの大切さも強調する。「企業はAIにどんなリスクがあるのかを分析して、組織全体のルールを作ることを重視しがちです。ですが、生成AIは、活用する現場で突然新しいリスクが生まれるケースもあります。こうした現場から声を吸い上げ、必要なものは全体のルールに反映・アップデートしていく姿勢や仕組みが必要です」

　日々進化を続ける生成AIに対し、多くの企業では業務でどう活用するかということに目が向きがちだ。しかし、企業の事業活動や社会的信用を守るためにも、文系と理系、現場と経営という「セット」で成り立つAIガバナンスの重要性を、あらためて認識する必要がある。