AIは魔法の杖ではなく“子ども”だ 「ずる賢く」育つのを阻止するための3つのポイント：SIerはどこから来て、どこへ行くのか

AIも子どもと同じで、適切な学習を繰り返して初めて育つ――。筆者が学生時代に携わった脳科学の実験を手掛かりに、AIを育てる条件と、IT負債の分析をAIに任せることの危うさ、AI向けデータセンター投資の落とし穴を論じる。

[室脇慶彦，SCSK株式会社]

この連載について

　ユーザー企業にとって、SIerはITシステムの導入から運用、故障時の対応や更新などに欠かせない存在です。

　しかし、その関係性はと言うと、対等なパートナーと言うよりも、ユーザー企業はSIerに対して丸投げしがちで、SIerも「お客さまであるユーザー企業の要望は断りづらい」ために、ユーザー企業のITシステム全体の最適化よりも、その場その場のニーズへの対応を重視しがちな「御用聞き体質」が指摘されてきました。

　こうした中、DX案件の増加やIT人材の慢性的な不足、ユーザー企業の内製化志向などのさまざまな環境変化によって、ユーザー企業とSIerとの関係は変わらざるを得なくなりつつあります。

　この連載を通じて、SIビジネスを取り巻く構造的な問題を掘り下げ、ユーザー企業とSIerが目指すべき関係の在り方を探っていきます。

　前回は、AIによるCOBOLからJavaへの単純な変換がなぜ危険なのかを、あるコンバージョンプロジェクトの結末から論じた上で、概要設計フェーズの4つの表現方法のうち業務フローを取り上げた。今回はその続きとして、画面遷移図を取り上げる。

　その前に、AI技術について述べておきたい。前回、記事の末尾で、AI適用を巡る最近の過熱ぶりは少々違った方向に向かっていると述べた。AIは社会の制度や仕組み、さらには宗教や思想といった社会通念まで変える一大変革だと筆者は考えている。

　ただし、AIを「魔法の杖」のように扱う昨今の風潮に、筆者は強い危機感を抱いている。AIをまともに働かせるには、外してはならない条件がある。それは何か。今回は筆者が学生時代に立ち会った、ある「猫の実験」を手掛かりに考えてみたい。

AIは人類の技術を「身体の拡張」から「知性の拡張」に広げる

　AIに対してある種の恐怖を感じているのは、筆者だけではないと思う。AI技術の適用は、人間の知性そのものへの技術の適用であり、漠然とした不安を皆が感じているからだ。

　これまでの人類の進歩は、生物の物理的な能力を圧倒してきた歴史だった。蒸気機関の発明に始まる第一次産業革命は、ハードウェア技術の革命だった。ハードウェアは進歩を重ね、徐々にマイクロプロセッサ（CPU）が搭載されソフトウェアが組み込まれることで、極めて自律性の高いハードウェアになった。「脳」で例えるなら、この自律性の高いハードウェアは「無意識をつかさどる中脳・小脳などの脳幹部」に当たるだろうか。これらの技術を活用して、人類は陸海空を支配し、宇宙空間あるいは深海、そしてミクロの世界にも支配を広げつつある。

　そして、AI技術の登場によって、人類の技術が及ぶ範囲は脳で言えば「知性をつかさどる大脳の新皮質系」まで広がってきている。AIはデータから学び、自らの能力をより高度にすることが可能になった。これは、脳に備わる可塑性と極めて類似している。

脳の「可塑性」と同じ仕組みで、AIは自ら変化する

　筆者が学生だった頃、所属していた研究室では、恩師である塚原仲晃先生（故人）が中心となって、世界に先駆けて学習によって脳の神経回路が変わることを実験で証明した。猫の大脳から出る神経線維に電気刺激を与えた直後に前肢の皮膚を刺激して、前肢を曲げる反射（屈曲反射）を起こさせる。これを繰り返すと、最初の電気刺激だけで前肢が曲がるようになる。こうして猫に学習をさせたのだ。いわゆる「パブロフの犬」（ベルを鳴らしてから餌を与えることを繰り返すと、ベルの音だけで犬が唾液を出すようになる実験）に代表される「古典的条件付け」といわれる手法だ。その結果、学習の前後で神経の伝達時間に差異が生まれ、神経回路が変化したことを実験で証明した。この脳の柔軟性を可塑性という。

　AIは、脳のように自ら柔軟に変化できるソフトウェア技術だ。筆者はAIの登場によって起こるこの革命を「ソフトウェア革命」と呼んでいる。AI技術は、人間の最後の砦（とりで）である「知性をつかさどる大脳の新皮質系」の領域を主な技術領域としているのだ。

将棋では既にAIが人間を超えた――どの分野でも同じことが起きるのか

　では、AIは今どこまで来ているのか。既に一部の領域では、AIは人間を凌駕（りょうが）している。AIの適用が特に進んでいる分野に将棋と囲碁がある。将棋界で8大タイトルのうち6つを保持する藤井聡太六冠（2026年の名人戦では、筆者の大学の後輩である糸谷哲郎九段が挑戦したが、藤井六冠が4連勝で防衛した）の一手一手を評価しているのは、AIだ。

　ある時、AIの読みを上回る一手を藤井六冠が指して話題になったことがある。ただし、結果的にはAIも藤井六冠の指した手を導き出している。AIが読み切るより早く答えを出したことが称賛されたのだ。ハードウェアはムーアの法則のごとく進化している。さらに、藤井六冠の指す手もすぐにAIに学習されていく。人間とAIとの差は、ますます大きくなる一方だ。

　では、どんな分野でもAIは、人間をはるかに凌駕できるのだろうか。その答えは「Yes」だと筆者は考える。ただし、重要な条件があることを忘れてはいけない。

　先ほどの猫の実験の話に戻ろう。神経回路の可塑性の実験の肝は、「古典的条件付け」という極めてシンプルで分かりやすい学習を猫に行わせたことだ。つまり、質の高い学習をさせない限り、想定される結果は生まれないのだ。

　可塑性の実験では、猫の脳の特定の神経細胞間の伝達時間を測定すると同時に、脳に継続的に刺激を与える機器を手術で猫の頭に直結させた。

　われわれが「電極猫」と呼ぶこの猫は、個別のケージで飼育された。毎日何度か学習させ、その結果が自動的に記録された。約2週間で、脳への電気刺激だけで前肢の屈曲反射が起きる状態になった。この時点で再度、特定の神経細胞間の伝達時間を測定した。これを複数の猫に実施し、測定を続けて、学習前と比べて、中脳にある赤核という神経細胞の集まりで伝達時間が短くなることを証明したのだ。伝達時間が短くなるのは、学習によって新しい神経のつながり（シナプス）ができた証拠だ。

現状のAIは「東大医学部の首席よりも、はるかに優秀な小学1年生」

　つまり、AIも適切な学習を繰り返し、学習できたかを常に確認することを十分に繰り返して、初めて適用可能なAIに育つのだ。まさにAIは子どもと同じだ。だから筆者は、現状のAIを「東大医学部を首席で卒業できる人よりはるかに優秀な小学1年生」と考えている。そのうちAIに向けた「学習要領」（文部科学省が学校に対して定める学習指導要領に当たるもの）が整備され、東大医学部に首席で入学できる人より優秀なAIが誕生することになるだろう。もしかすると大学の教養課程ぐらいまでは、一般的な学習方法が確立し、効率的に学習できるようになるかもしれない。その上で各専門分野の学習を積むことで、特定分野のエキスパートとして存在を示すことになると思う。

　将来的には、AI向けの学習要領と達成度を確認するテストが技術的に可能になると筆者はみている。そのような学習要領と達成度テストを備えた大規模言語モデル（LLM）が登場するようになるのではないか。そして、学習要領を実現する具体的な教科書と指導方法のモデルがいくつか確立され、そのモデルの妥当性が確認、認定されることになると筆者は考える。

　その中には、倫理的な学習も当然含まれる。AIが正しい教育を受けたかどうかが極めて重要なのだ。間違った教育を受ければ、悪くてずる賢い人間ができるのと同じだ。将来的には、異なるモデルで学習した複数のAIに合議させることを前提とした活用が必要なのではないかと筆者は考えている。

AIを育てるのは「質の高いデータ」「適切な課題設定」「答えの検証」の3つ

　それでは、AIにおける教科書や指導方法のモデルとはいかなるものだろうか。筆者は、まずは極めて質の高いデータと、そこから導かれる答えを明示することが第一優先だと考える。

　AI活用が特にうまくいっている将棋と囲碁を考えてみよう。まず、データだ。筆者のようなへぼ将棋、へぼ囲碁のデータは「使えないデータ」だ。将棋、囲碁ともにトップ棋士たちの棋譜という珠玉のデータが極めて大量に保存されている。しかも、将棋と囲碁は勝ち負けが明確に定義されており、ルールも明快で整備されている。棋士たちが直感的に読まなかった手に関しても、AIはしらみつぶしに読むことが可能だ。新たに棋士が開発した手も、すぐさま学習する。AIは常に学習を継続し、進化を続けるのだ。

　筆者が言いたいのは、AIを育てる適切なデータとAIをどう活用するかという課題設定ができているかどうかが極めて重要だということだ。これはAIが該当領域に適用可能な状態であるかを測定できているかということだ。豊富で適切なデータと適切な課題によって、AIは精度を上げ、成長するものだと思う。そして、間違った答えを出した場合はすぐさま訂正することが重要だ。

　つまりAIに学習させるためのデータと課題設定を用意し、AIが出した答えの妥当性を評価するといったことを繰り返すことで初めてAIがその領域に適用可能かどうかを判断できるのだ。訳の分からないデータと、答えがはっきりしない課題設定を与えても、まともな答えは出てこない。

　昨今の生成AIは、曖昧（あいまい）な問いに対してもそれなりに答えるケースが増えている。ただし、これは相当な学習をAIが積み重ねた結果だ。不適切な活用を続けると、AIが間違った学習を重ねることになり、精度が劣化することも想定される。

　AIが適切な回答をできるように、十分な適切なデータと課題を与え続けているかが極めて重要だと肝に銘じることが、AI活用の要諦（ようてい）だと筆者は考える。

現状が分からないからAIに聞く――IT負債の分析は「本末転倒」

　例えば、既存ITシステムの分析にAIを活用するとしたら、対象業務分野の「あるべき姿」のITシステムをAIに学習させる必要がある。しかし、そもそも「あるべきITシステム」自体が存在していないケースが多い。

　現状のITシステムには、使われていない機能が山のように存在し、部分最適を繰り返して構造も複雑怪奇になっている。だから負債化しているのだ。その負債化したITシステムを学習させた場合、正しく判断できるAIが作れるだろうか。AIの分析結果に対して中身の妥当性をAIにフィードバックする必要があるが、それが正しくできるかどうかは大いに疑問だ。

　適切な答え合わせをすることで、AIは活用できるレベルに学習するのだ。「現状がよく分からないからAIに聞く」のは、本末転倒だ。

　「AIが技術的にあらゆる分野に適用可能か」と問われれば、筆者は「適用可能だ」と考える。ただし、繰り返しになるが、これはAIに適切に学習できるデータと課題設定が十分に与えられて、AIが適用可能な状況になったことを検証できることが前提だ。適切なデータがないのにAI活用を考えるなど愚の骨頂だ。AIは魔法の杖ではない。データと課題設定と検証を多く経験し、学習してきたAIが活用できるのだということを肝に銘ずるべきだろう。

仏教の「五蘊」で読み解く――AIがITシステムに加える「識」の機能

　AIがITシステムに何を加えるのかを、別の角度から整理しておこう。仏教に五蘊（ごうん）という言葉がある。これは人間を「色・受・想・行・識」という5つの要素に分けて説明するものだと筆者は理解している。

　「色」は物理的な存在であり、体そのものだ。ITで言えばハードウェアに相当する。「受」とは、物理的な刺激を脳に伝えることであり、ITで言えばネットワークだ。その刺激を脳が痛いとか熱いとか気持ちいいとか感じることを「想」という。ITで言えば、どのようなデータが来たかを認識することだと思う。その刺激を受けて回避するなどの行動を取ることが「行」だ。ITで言えば、そのデータに基づいて処理をすることになる。その結果、刺激に対して適切な行動を知識経験として体系化し、学習することを「識」という。このサイクルを繰り返す中で人間は成長するのだ。ITで言えば、AIによる学習機能ということになるかと思う。これは仏教の教義上の厳密な定義とは異なる、筆者なりのたとえだ。

　こうした意味では、これまでのITシステムは、対象のデータに決まった対応を実行する「行」までの機能だったと考えられる。データに対してどのように処理するかを明確に定義し、プログラムすることでITシステムは開発されてきた。「識」は、経験を知識化・体系化し、「行」を最適化することを繰り返すことであり、ITではAI技術が担当する技術領域なのだと思う。まさに、AIと人は極めて類似性が高いのだ。

　人間は、一般的な知識の教育に加えてさまざまな経験をすることで、人としての人格を形成し、一般教養を身に付けられる。さらに深い専門知識を学習することで、技術者をはじめとする優秀な専門家が育つ。これと同等の教育がAIにも必要なのだ。AIにとっての教育は教科書ではなく、たくさんの質の高いデータと適切な課題設定と検証結果なのだ。

AI向けデータセンターは「無用の長物」にならないか？

　AIを支える基盤の側にも、筆者には気になることがある。昨今気になるのが、AIのためのデータセンターの建築ラッシュだ。かつて、メインフレームが跋扈（ばっこ）していた時代、さまざまな企業がデータセンターを構築していた。ところが今はどうだろうか。ほとんど使われないデータセンターになっていないだろうか。

　2000年代初頭、米国の世界最大級の金融機関のデータセンターを見学したことがあった。その時、データセンターがガラガラであることに驚いた。メインフレームがサーバに置き換わったためにガラガラになっていたのだ。さらに機器の小型化と高性能化が進んだため、たくさんの機器を導入できるようになった。その結果、データセンターの消費電力はうなぎのぼりに上昇し、ガラガラなのに機器の追加が困難になっていた。データセンターに引き込む電力量を増強するには電源系統を一から再構築することが必要となり、建物を建て替えるのに近いコストが発生する。これは日本のデータセンターでも同じことが言える。

　データセンターは、長期的な視野に立って投資を検討する代物だ。建物の法定耐用年数が50年（鉄筋コンクリート造の事務所用）に及ぶなど、どうしても長期的にコストがかかるため、30〜50年のスパンでの投資回収計画が必要になる。

　筆者の入社3年目に完成したデータセンターは、筆者が会社を退職する年に取り壊された。そのデータセンターで実施された最後の式典に出席した時は、隔世の感があった。この数十年、データセンターがもうかっていたのかどうかは分からないが、地価は高騰しており、不動産投資として十分な成果があったことは間違いないだろう。建設当時は最新の設備を備えていたデータセンターも、すっかり時代遅れの無用の長物になっていた。今は再開発によって学校が作られたとのことだ。

　AIを支える技術は、日進月歩だ。現状の消費電力の問題も、ムーアの法則の通り着実に改善していくと筆者はみている。20年のスパンで考えると、誤り訂正を備えた実用規模の量子コンピュータが登場し、絶対零度近くとは言わないまでも、それなりの低温冷却（それなりの低温で稼働できる技術開発は必須と考える）のニーズが新たにデータセンターの要件に加わる可能性がある。ネットワークも、データセンター内のサーバ間、さらにはサーバ内の基板間といった短い距離の配線まで光通信に置き換わっていくと考えられる。データセンターに求められる要件は大きく変わることになる。このような状況で、短期的な課題解決のためにデータセンター投資に走るのが正しいのか。かつて、メインフレームのためのデータセンターが無用の長物になったことを、また繰り返さないことを祈るばかりだ。

本題――画面遷移図は「B2CのWebシステム」の業務要件を整理する手法

　ここまで、AIを育てるにはデータと課題設定と検証が欠かせないこと、そしてAIを支える基盤への投資も長期的な視野で考えるべきことを述べてきた。本題に割く分量がまた少なくなったが、画面遷移図に話を進める。前回、Webサイトでの会員登録のように操作の順番が一定しないITシステムには、業務フローではなく画面遷移図を作成すべきだと述べた。画面遷移図は、一般消費者向け（B2C）のWebシステムの業務要件を整理するには極めて重要な表現方法だ。

　業務フローの場合は、業務処理が順次流れていくことを前提にしている。業務が何らかの問題で継続困難になった場合も、どの業務からやり直すべきかが明確だ。ところが、B2Cの場合は、顧客が入力をする途中で他の画面の情報を参照するケースもある。また、最悪の場合、途中でやめてしまうケースもある。そういう意味では、一つの画面単位にどういう画面に遷移するかを定義することが、業務要件を表現する手法として有効だ。

　また、画面遷移を意図する方向（例えば会員登録をしてもらうなど）に、ストレスなくどう導くかが極めて重要な技術になる。従って、目的を達成するためのストーリーを持って画面遷移を設計する必要がある。

　先ほど述べたように、一つの画面からさまざまな画面に遷移するため、二次元で設計するというよりは、Web空間での空間設計を意識する必要がある。

UI設計はなぜ軽視されてきたのか？

　また、目的に応じて利用者が安心して利用できる色合い、利用者に訴求すべき情報の優先順位に基づいた画面上の位置設計、利用者に注意を促す色の使い方、さらには色の識別が難しい人などに配慮したユニバーサルデザインを適用させる必要がある。いわゆるユーザーインタフェース（UI）の設計が極めて重要だ。

　歴史的に、ユーザーインタフェース設計は軽視されてきた。それは、多少にくくても1週間もすれば利用者が慣れてくれると作り手が見込んできたからだ。

　ところが、B2Cでの会員登録は、利用者にとって一生に一回しかしない操作であり、慣れることはない。マニュアルを見ることなくスムーズに操作してもらうことが極めて重要なのだ。そこで、どういう画面、どういうアクションで利用者が離脱したかなどを分析して改善できるようなデータの取得も、あらかじめ仕込む必要がある。利用者が想定通りに動くことはなかなかない。ユーザーインタフェースの改善は、継続的に取り組むことが重要だ。

　そのためには、これらに特化したデザインができる人材の確保と、IT側との連携と役割分担を明確化し、標準化することが極めて重要だ。IT技術者は、顧客とデザイナーだけに設計を任せることなく、デザイナーの重要性を尊重しつつ、常に状況を確認しながら設計をリードしていくことが求められる。

マイクロサービスでは「画面と複数サービスの接続設計」がSEの腕の見せ所

　また、マイクロサービス（MS）化によってデータがMSごとに分割されるため、一つの画面でさまざまな情報を取得・更新するには、複数のMSとの接続が必要になる。この辺りは、実装方法も含めたデザイン方式を確立し、標準化し、部品化する必要がある。

　このデザイン方式によって、仕様などに影響が出る可能性がある。入力画面の各項目が別々のMSで更新されるため、項目間の整合性を取る必要が出てくるからだ。これを解決するには、前述したSAGA（複数のMSにまたがる処理を各MSの更新の連鎖として進め、途中で失敗した場合は打ち消し処理で元に戻すデザインパターン）などのデザインパターンの活用も考えられるが、処理が複雑化する。そのため、入力画面を項目単位、あるいは少数の項目ごとに分割し、確認と更新を順次進めるといった工夫が必要になる。この辺りも早く、実際の適用事例から方式を確立する必要がある。当然、利用者に負担を感じさせず、MSの利点を最大限に引き出すことを念頭に設計方法を確立することが、SEの腕の見せ所だ。

個人情報の画面表示ルールは顧客を含めて作る

　また、個人情報保護の観点から、画面に表示する個人情報は最低限にするか、画面を分割して提供する必要がある。この辺りのルールは今後非常に重要であり、顧客（ユーザー企業）を含めたルールの作成が必要になる。

次回予告

　今回は、AIを育てる条件と、概要設計フェーズの表現方法の一つである画面遷移図について述べた。次回は、残る2つの表現方法である状態遷移図とデータフローダイアグラム（DFD）に話を進める予定だ。

著者紹介：室脇慶彦（SCSK顧問）

むろわき　よしひこ：大阪大学基礎工学部卒。野村コンピュータシステム（現野村総合研究所）執行役員金融システム事業本部副本部長等を経て常務執行役員品質・生産革新本部長、理事。独立行政法人　情報処理推進機構　参与。2019年より現職。専門はITプロジェクトマネジメント、IT生産技術、年金制度など。総務省・経産省・内閣府の各種委員等、情報サービス産業協会理事等歴任。著書に『SIer企業の進む道』（日経BP）、『プロフェッショナルPMの神髄』（日経BP）など。