ITmedia NEWS >

危険でまぬけな強制自動保護システム

» 2005年05月06日 18時12分 公開
[Peter Coffee,eWEEK]
eWEEK

 先日、高い信頼を集めるあるソフト開発ツールセットのユーザーから、こんな話を聞いた。職場でこのツールの.exeファイルの1つが、誤って「ウイルス混入ファイル」と判定され、ワークステーションから自動的に削除されてしまったという。

 これは問題だった。その職場では、ローカルサイトポリシーとして、極秘扱いの神格にも等しいスーパーユーザーの権限がなければ、サイトライセンスを受けたウイルス対策システムに除外すべきファイルを指示できない決まりになっていたからだ。開発ツールセットのベンダーのヘルプデスク担当は、どうしていいか分からないという状態だったため、私が何通か電子メールを送って連絡したのだが、幸い、問題のウイルス対策ソフトのメーカーは迅速に対応してくれた。

 関係者全員、胸をなで下ろした。

 この出来事はしかし、ネットワークに接続されたITシステムの強制自動保護(とでも呼ぶべきもの)を支持する人たちへの警鐘と受け止めるべきだ。まぬけなコードのせいで、どんなに優秀な社員にも解決できないような問題が、今、いかに簡単に起きてしまうものか。強制自動更新などのハンズフリーの措置が幅を利かせると、状況はどれほど悪化しかねないか。

 自動保護システムが過剰な親切心を発揮したとき、私はいつも、FLYING誌で昔読んだコラムを思い出す。そのコラムの著者は、飛行機が離陸時にエンジン出力を失う場面を目撃した。そのときパイロットは、安全な不時着の機会をうかがいつつ、あらゆる手段を講じて高度と対気速度を保とうとしていた。

 不幸なことに、胴体着陸を避けるための自動化システムがまだ作動していた。この自動化システムは、その場の状況(エンジンが低速で、かつ低空を降下中)を「着陸装置を出すべき状況」と判断した。車輪が出て、抗力が上がった。確か、コラムの著者はこう表現していた。機械が人間を殺そうとするのを目撃した日として決して忘れないだろう、と。

 ここでいえるのは、危機的状況というものは、ほぼすべての点で、日々の状況とうり二つであることがしばしばだという点。相関計算に余剰変数を加えると、適合度は上がるものの予測力が損なわれるのと同じように、システムをよりインテリジェントなものにしようとする試みはすべからく、実際には、システムの意思決定力を低下させてしまいかねないのだ。

 もしも、あらゆる脅威について、そのシナリオを決定づける小さいが重大な差異を予想できる力が私たちにあるなら、貴重な人手をかけずとも、脅威を未然に防ぐことができるだろう。だが悲しいことに、私たちはそれほど賢くない。システムに(あらゆる状況で)正しい判断をさせようと、システムを賢いものにしようとすればするほど、停止させる時間もないほどの素早さでシステムが過ちを犯してしまう可能性が高まっていく。

 ウイルス対策(が主題ではないが)のソフトをめぐるこの話が私のレーダースクリーンを横切った今月のある晴れた日、偶然にも、Green Hills Softwareから、「自動車業界における一大構想」なるものの発表があった。同社は「パワートレイン、ボディー/セーフティー、インフォテインメント用の電子制御装置(ECU)でソフトウェアが複雑化している問題」への対処を約束した。これは、まったくそのとおりだ――つまりそれほど、自動車技術環境におけるソフトの役割は高まっている。

 6カ月前からトヨタのプリウスに乗っている私は、いつになくこの話題に共感した。プリウスは、米空軍やNASAの人間でない一般人でも買うことのできる、これまでで最もコンピュータ制御の進んだ乗り物に違いない。「プリウスの運転は、ガソリンと電気のハイブリッド・パワートレインを操っている感じがしない」という第二世代プリウスのレビューに私も同感だ。「速く」のペダルを踏めば進み、「遅く」のペダルで止まるといった感じでしかない。

 これは、マニュアル車育ちの人間として、かなりの賛辞のつもりだ。大したことじゃないと思うなら、ハイブリッド車を自ら開発する代わりにトヨタから特許ライセンスを受ける大手自動車メーカーのリストを眺めるといい。

 私には、エンタープライズシステムも、トヨタとGreen Hillsが取り組もうとしているような、ハイブリッドの複雑さという課題に直面しているように思える。これからのITサービスモデルは、最新情報をリアルタイムで提供する機能と、保管してあるデータを効率的に取り出す機能とを兼ね備えている必要がある。そしていずれの機能も、どう質問するかよりも、得られた回答を基に何をするか考える時間を、より長くユーザーに与えられるようになっているべきだ。

 ユーザーは「進め」と言いたいだけだ――そこで「ノー」と言ってしまう賢過ぎるシステムを手に入れることが望みではない。

Editorial items that were originally published in the U.S. Edition of “eWEEK” are the copyrighted property of Ziff Davis Enterprise Inc. Copyright (c) 2011. All Rights Reserved.