警察や公的機関でも広まる生成AI 安全性を保つために必要なこととは？：CFO Dive

生成AIが活用され始めているのは民間企業だけではない。警察をはじめとした公共安全の分野でも広まりつつあるが、こうした機密性の高い情報を扱う分野ではより一層慎重なアプローチが求められる。

[Grace Noto，CFO Dive]

　業界リーダーや規制当局は年初から、法務や裁判制度、警察業務、公共安全といったデリケートな分野における生成AIの利点と欠点について慎重に検討している。

　公共安全ソフトウェアを提供するMark43のクリス・マーウィン氏（CFO《最高財務責任者》）は「公共安全の分野は技術革新のペースが加速し、AI技術がアプリケーションに組み込まれ始めている実にエキサイティングな局面にある」と話す。

　ニューヨークを拠点とする同社はクラウドネイティブな記録管理システム（RMS）などを提供しており、法執行機関や連邦政府、その他の公共安全機関を対象に事務処理などのプロセスの効率化を支援する会社だ。

　マーウィン氏はAI活用において重要な観点について、インタビューで次のように話している。

　「AI機能を顧客に提供するために投資することは非常に重要であり、2025年のロードマップにはとても期待している。こうした取り組みに十分な資金を確保することに何よりも重点を置いている。これはわれわれの財務戦略上、重要な観点だ」

　「LinkedIn」のプロフィールによると、マーウィン氏は2024年11月に財務責任者としてMark43に入社した。同社のプレスリリースでは、Mark43に入社する前は大企業向けAIプロバイダーのDataRobotでCFOを務めていた（注1）。また、The Goldman Sachs GroupやBarclays、Deutsche Bankなどの銀行でさまざまな幹部職を務めてきた。

　マーウィン氏はMark43の財務責任者として効果的な顧客サービスの提供に注力しており、これには「顧客へのサービス向上につながる新機能を提供するための投資と研究開発の最大化に向けて、どのように資本を配分するのか」といった重要な課題を解決することも含まれると話す。

　これは、まず第一に顧客向けサービスに使われる生成AIや同様の技術への投資資金をどのように調達しているかを慎重に見直す必要があることを意味する。

　「2番目に重要なのは、自社のシステムやインフラ、プロセスに必要な内部投資を行い、次の成長段階に入るための体制を整えることだ」

　公共安全分野の内外を問わず、生成AIの可能性に対する関心と注目は2025年初頭にも高まり続ける中、Mark43の従業員や財務チームが自動化技術を活用できる環境を整えることが将来的な成長を促進する鍵となっている。

　「マクロ的に見ると、当社の顧客が求める最新技術への需要に大きな構造的変化が起きていることが分かる。私の予想では、公共安全機関は基幹技術ツールのモダナイゼーションのための予算を増加し、当社が提供するAI機能のようなこれまで資金が割り当てられていなかった新しい機能のための予算も追加されるだろう」

　Mark43はレガシーシステムや老朽化したシステムを改善するためにAIを統合することを目的として、2024年にThe Port Authority of New York and New Jersey（ニューヨーク・ニュージャージー港湾公社）やNew Orleans Police Department（ニューオーリンズ警察署）などの機関とパートナーシップを結んだとプレスリリースでは述べられている（注2）（注3）。

　「われわれはこれまでオンプレミスのシステムでは対処できなかった問題をAIによって解決する支援を行っている」とマーウィン氏は語った。これには、同社のRMSや指令システムから自動的にデータを入力した上でボディーカメラ映像のような非構造化データと組み合わせて報告書を作成し、警察官が後からその内容が適切かどうかを確認できるようにする機能も含まれると同氏は述べている。

データの安全性を確保するために必要なこととは

　マーウィン氏は「顧客サービスと財務戦略に続いて、データを非常に重視している」と話す。

　「会社として、われわれが望む結果を確実に得るための適切なインプット指標に集中できるようにしたい」

　データの集計やアクセス、セキュリティやプライバシーといった問題は、生成AI技術を警察や同様の機関で使用する場合にも密接に関わってくる。

　ここ数年、顔認識やその他の自動化・AI技術の使用は警察組織の間で一般的になってきているが、生成AIツールの登場により、それらが利用するデータ、データの倫理的な使用、そして誰がアクセスを許可されるべきかについて新たな議論を巻き起こしている（注4）。英国新聞「The Guardian」の2024年10月の報道によると、法執行における生成AIツールの使用はまだ始まったばかりで、潜在的なバイアスやエラーも含む活用事例は研究中だという。

　「データガバナンスとデータプライバシーが重要なのは言うまでもない。もちろん、生成AI技術が導入されたとしても全ての警官は提出された報告書を常に確認し、承認するのは変わらない」

　特に生成AIモデルが扱うデータの種類は非常にセンシティブなものであるため、Mark43が生成AIを自社のサービスや内部プロセスに取り入れる際はセキュリティレビューが最初の不可欠なステップであると同氏は述べる。

　「生成AIの可能性は非常に大きいが、それを展開する際にはデータのプライバシーとセキュリティの懸念を考慮して、慎重かつ思慮深く実行することが重要だ」

（注1）Mark43 Appoints Chris Merwin as Chief Financial Officer（Mark43）
（注2）Mark43 Partners with the Port Authority of New York and New Jersey to Revolutionize Public Safety Technology（Business Wire）
（注3）New Orleans Police Department partners with Mark43 for modern public safety tech upgrade（Business Wire）
（注4）How artificial intelligence is changing the reports US police write（Support the Guardian）

原文へのリンク