ITmedia エンタープライズ

　テクノロジーはいつの時代ももろ刃の剣として、人々の創造的な側面と破壊的な側面の両方に力を与えてきた。テクノロジーは長寿と健康な生活、肉体的・精神的苦痛からの解放、多くの創造的な可能性を人々に与えてきた。しかしその一方で、新しい深刻な危険も生み出したのである。

　スターリンの戦車やヒトラーの列車を作り出したのはテクノロジーである。そしてわれわれは今日、地球上のすべての哺乳類を絶滅させるのに十分な核兵器（存在理由が分からないのも少なくない）が存在する世界に生きているのだ。

　バイオテクノロジーは、病気と老化のプロセスを逆転させるという目標に向けて大きく前進しようとしている。しかし、核兵器よりも危険で恐ろしい病原体を作り出すための手段と知識はもうすぐ、多くの大学のバイオテクノロジー研究所で利用できるようになるだろう。遺伝子工学、ナノテクノロジー、そしてロボット工学（これらの3つの技術は総称的にGNRと呼ばれる）の本格的実用化に向けてテクノロジーの発展が加速するのに伴い、これまでと同様に、功罪が入り交じった可能性がわれわれの前に開かれるだろう。功罪とは、人類の英知の飛躍的拡大がもたらす創造の饗宴と、それに伴う新しい深刻な危険である。われわれは今日、テクノロジーの成果を収穫すると同時に、危険を管理するための戦略を編み出すことが求められているのだ。

　例えば、ナノボットの複製が制御不能になった状況を想像していただきたい。ナノボット技術では、何億個あるいは何兆個もの微小なインテリジェントデバイスが協調して動作する必要がある。このような多数のデバイスを作るのに最も費用効果に優れた方法が自己複製である。これは基本的に、生物の世界で用いられているのと同じ手段である。しかし生物的自己複製が生物的破壊（ガンなど）という想定外の結果をもたらすのと同様、ナノボットの複製を安全にコントロールするメカニズムに欠陥があると、生物、非生物を問わず、すべての物理的存在を危険にさらす可能性がある。

　ナノテクノロジーの脅威はそれだけにとどまらない。コントロールとアクセスという面でも不安がある。企業、政府、過激派グループ、あるいは単に頭の良い個人が、この技術を使って大混乱を引き起こす可能性もある。例えば、何兆個もの目に見えないナノボットを、個人あるいは地域で使用する飲料水や食糧に忍び込ませることもできる。これらの「スパイ」ナノボットは、われわれの思考と行動を監視し、それらに影響を与え、さらにはそれらをコントロールするかもしれない。既存の「善良な」ナノボットでも、ソフトウェアウイルスなどのハッキングテクニックによって影響を受ける恐れがある。われわれの頭脳の内部でソフトウェアが動作するようになれば、プライバシーとセキュリティの問題が新たな緊急性を帯びてくるだろう。

　人々が将来のテクノロジーの影響を考えるとき、3つの段階を経過するのが一般的だ。第1段階は、長年の問題が克服される可能性に対する畏怖と驚異の念だ。次に、新しいテクノロジーに伴う新たな危険に対する恐怖感である。そして最後に（望むらくは）、新しいテクノロジーの恩恵を実現すると同時にリスクを管理するために注意深い針路を設定することが、唯一の現実的な選択肢であるという認識に至るのだ。

　多くの分野において多様なGNRテクノロジーが発展しており、その過程における個々の小さな前進は、それぞれ本来的に有益なものである。筆者は過去四半世紀にわたり、これらの技術の底流を研究してきた結果、GNRの全面的開花は不可避であるとの結論に至った。

　Sun Microsystemsのビル・ジョイ氏は、突然変異を利用するバイオテクノロジーが病原体を作り出したり、ナノボットが制御不能になったりする危険性を指摘し、新しい自己複製技術は、人類が忘れ去って久しい何世紀も昔の疫病の悪夢を呼び戻す可能性があると述べている。しかしジョイ氏も認めているように、これらの疫病の流行から人類を救ったのは、抗生物質の発見や公衆衛生の改善といった技術の進歩であることも事実である。世界の人々の苦悩は続いており、目をそむけるわけにはいかない。ガンに侵された人々や、悲惨な状況の中で苦しむ何百万人もの人々に対して、「いつかバイオテクノロジーが悪い目的で利用される恐れがあるので、バイオエンジニアリングを応用したすべての医療技術の開発を中止しなければならない」などと言えるだろうか。このような考え方を支持する動きも見られるが、ほとんどの人々は、開発を全面的に断念することが解決策ではないという考えに同意するものと思う。

　適正なレベルで開発を断念するというのが、21世紀のテクノロジーの危険性に対するわれわれの倫理的反応であるべきだと筆者は考えている。その建設的な例の1つが、Foresight Instituteが提唱する倫理ガイドラインである。Foresight Instituteは、K・エリック・ドレクスラー氏（1980年代に分子機械工学の概念的基礎を確立）とクリスティーン・ピーターソン氏によって設立された組織であり、同ガイドラインには「ナノテク技術者たちは、自然環境の中で自己複製できる物理的実体の開発を断念することに合意する」と記されている。もう1つの提案は、ナノテク技術者ラルフ・マークル氏の言う「ブロードキャストアーキテクチャ」を構築するというものだ。これは、物理的実体は自己複製のためのコードを、一元的に管理されたセキュアなサーバから取得しなければならないというシステムで、そうすることで望ましくない自己複製を防止する。

　技術者の責任感を促す倫理的・職業的ガイドラインには、このように詳細な禁止事項を盛り込むべきである。政府機関による監督、各技術固有の「免疫」反応の開発、司法当局によるコンピュータを活用した調査といった対策も必要とされる。

　先例となる事例として、最近の技術的チャレンジにわれわれがどう対処したかを見れば、そこに小さな光明を見いだすことができる。ほんの数十年前には存在しなかった完全に非生物的な自己複製実体が今日存在する。コンピュータウイルスである。この破壊的な侵入者が最初に現れたとき、ソフトウェアの病原体が進化するのに伴い、彼らが寄生するコンピュータネットワークを破壊する可能性があるという不安が叫ばれた。しかしこのチャレンジを受けて進歩した免疫システムは、大きな効果を発揮した。確かに、破壊的な自己複製型ソフトウェアは時折被害をもたらすが、彼らが宿るコンピュータおよび通信回線からわれわれが受けている恩恵と比較すれば、その被害は極めて小さなものだと言える。ソフトウェアウイルスが存在するからといって、コンピュータやLAN、インターネットを廃止すべきだと主張する人は誰もいないだろう。

　ソフトウェアの病原体に対して、われわれは効果的な対策を講じてきたと筆者は考えている。これらの病原体は依然として懸念すべき問題だが、その危険は迷惑という程度のレベルに過ぎない。特に注目に値するのは、この成功は、規制もなければ開業資格も存在しない業界での出来事だということだ。この業界は、人類の歴史上のほかのどの事業よりも、社会の技術的・経済的進歩に大きく貢献したと言えるかもしれない。

　もちろん、ソフトウェアウイルス（およびそのほかの多くのソフトウェア病原体）に対する戦いが終わったわけではなく、今後も終わることはないだろう。われわれの社会は、ミッションクリティカルなソフトウェアシステム（緊急通報システム、交通システム、原子力発電所、病院などのシステムや施設を稼動するためのソフトウェア）にますます大きく依存するようになっている。一方、自己複製型ソフトウェア兵器の高度化と潜在的破壊能力の拡大が続くだろう。このような状況にもかかわらず、われわれは大きな被害もなしに数々の重大な試練をどうにか克服してきたのだ。

　新しいテクノロジーがもたらす新たな危険は、その準備ができていない今日の世界の状況を考えると、深刻な脅威のように思えるかもしれない。だが実際には、新たな危険と共に防御の技術と知識も発達するのだ。「グレー・グー」（灰色のヌルヌルしたもの――ナノボットの複製が制御不能になった状態を言う）が出現すれば、「ブルー・グー」（「悪い」ナノボットと戦う「警官」ナノボット）が登場するだろう。21世紀のストーリーはまだ書かれていないので、テクノロジーの悪用をすべて阻止するのに成功するだろうと断言することはできない。しかし、今日に至るまで悪質なソフトウェアウイルスの増殖をほぼ阻止することができている。それは、対処する上で不可欠な知識が現場の責任者に幅広く提供されているからだ。この知識を制限していれば、今日よりもはるかに不安定な状況が生まれていただろう。新たな試練に対する応答もはるかに遅くなっていただろう。より破壊的なアプリケーションの方にバランスがシフトしていた可能性もある。防御技術の開発を妨げる最も確実な方法は、広範な分野における知識の追求を放棄してしまうことなのだから。

　同様に、GNRテクノロジーの進歩も止めることはできず、開発を広範に放棄するという方針は、われわれの前にある重要な任務から目をそらすことにほかならない。その任務とは、われわれのセキュリティにとって不可欠な倫理的・法的基準および防御技術を早急に確立することである。これは競争であり、ほかに選択肢はないのだ。

　人工的に作り出されたソフトウェアウイルスをコントロールするのに成功した事実と、人工的に作り出される生物学的ウイルスをコントロールするという来るべきチャレンジを比較した場合、1つの大きな違いがあるのに気付く。上述したように、ソフトウェア業界にはほとんど規制が存在しないのだ。バイオテクノロジーの分野がそうでないのは明らかだ。バイオテロリストは、自分の「発明」を世に送り出すのにFDA（食品医薬品局）に申請する必要はない。しかし防御技術を開発する科学者は、さまざまな規制に従わねばならず、それがあらゆる段階で革新プロセスにブレーキをかけるのだ。それだけでなく、既存の規制および倫理基準の下では、バイオテロリストが作った病原体に対する防御物質をテストするのは不可能だ。こういった規制を修正し、人体実験が行えない場合には動物実験やシミュレーションを許可すべきだという広範な議論が既に起きている。そのような規制緩和も必要だろうが、それだけでは不十分だ。防御技術への直接的投資を大幅に拡大しなければならないのだ。テクノロジーの悪用と戦うための手段はいろいろあるが、その中で最も重要な方策が防衛技術への投資の拡大だ。バイオテクノロジー分野では、これは汎用抗ウイルス薬の早急な開発を意味する。次々と登場する個々の新たなチャレンジへの対抗手段を個別に開発する時間はないだろう。

　われわれは今、ナノテクノロジー分野でのチャレンジにも直面しようとしている。ナノテクノロジーの実用化が近付くのに伴い、ナノテクノロジーベースの免疫システムなど、防御技術の開発に投資する必要があるだろう。ビル・ジョイ氏は、こういった免疫システムそのものに危険性があると指摘する。「自己免疫」反応（免疫システムの攻撃能力が本来防御すべき対象に向けて用いられること）の可能性があるからだという。

　しかし、これは免疫システムの開発を断念すべき理由としては説得力に欠ける。自己免疫疾患の可能性があるからといって、人間には免疫システムがない方がいいと主張する人はいないだろう。免疫システムはそれ自体に危険な要素をはらんでいるが、免疫システムなしには人間は（徹底的に隔離しない限り）数週間も生きることができないだろう。ナノテクノロジーの免疫システムの開発は、具体的なプロジェクトがなくとも自然発生的な形で進むだろう。ソフトウェアウイルスについては、このパターンが効果的に機能した。この成功は、壮大な開発構想ではなく、個々の新しいチャレンジへの対策を積み重ね、早期検出のためのヒューリスティック（発見的）アルゴリズムを開発することによって達成されたのだ。ナノテクノロジーがもたらす危険というチャレンジが出現したときも、これと同じことが起きるものと期待できる。公共政策として求められるのは、これらの防御技術に対して個別に投資することだ。

　GNRテクノロジーの開発を制限すべきだという主張の1つに、防御よりも攻撃の方がはるかに容易で安上がりであるため、悪意を持ったグループや個人が優位に立てるという議論がある。この主張を支える有力な例証として、カッターナイフで武装した少数のテロリスト集団によって数千人もの命が奪われた2001年9月11日のテロ事件が挙げられる。もし恩恵を受ける側と危険をもたらす側の人間の数とリソースの量が同じであれば、筆者もこの主張に賛成するだろう。だが、両者が同じではいのは明らかだ。われわれはテロリズムと戦うために膨大なリソースを投入してきたが、それと比べると破壊側のリソースははるかに少ない。9月11日が何度も繰り返されることがないのも、それが理由だ。何万人もの研究者が「G」（遺伝子）技術を開発しているのに対し、破壊側の人数はその数千分の1に過ぎないのだ。その例として原子力の分野を挙げると、1945年当時、今後半世紀の間に（日本に投下された2発を除けば）、怒りに任せて核兵器が使用されることは一度もないなどと誰が予想しただろうか。建設的・防御的用途に投入されるリソースと悪意に満ちた用途に投入されるリソースとの圧倒的な差は、防御技術に対する破壊技術の本質的優位性を相殺する要素である。

　科学技術の進歩の各段階が市場の評価を受けるオープンなシステムを維持することで、テクノロジーが広範な人的価値を統合する上で最も建設的な環境が提供されると筆者は考える。厳しい規制や政府の不可解な施策を通じてテクノロジーをコントロールしようという試みは、必然的にアンダーグラウンド的な開発を伴い、技術の危険な利用法が支配的になる可能性が高い不安定な環境をもたらすだろう。

　安定した環境の実現に向けた1つの大きなトレンドとして、集中型技術から分散型技術へ、現実世界から仮想世界へ移行する動きが見られる。集中型技術とは、人々（都市、建物）、エネルギー（原子力発電所、液化天然ガス／石油タンカー、エネルギーパイプライン）、輸送（飛行機、列車）などのリソースを集中するという方式であり、破壊や災害を招きやすい。しかもこういった集中方式は、非効率的で無駄が多く、環境にも悪影響を及ぼす傾向が強い。

　一方、分散型技術は、柔軟で効率性に優れ、環境にも優しいことが多い。分散型技術の最たるものがインターネットである。ウイルスに対する不安はあるが、既に指摘したように、こういった情報ベースの病原体は迷惑というレベルの存在に過ぎない。インターネットは比較的壊れにくい。一部のハブ（ネットワークの拠点）やチャネルがダウンしても、情報は別のルートを通ればいいのだ。インターネットは驚異的な復元力を備えており、この能力はインターネットの指数関数的成長とともに発展し続けている。

　先に述べたように、テクノロジーの広範な放棄を求める声がある。地球温暖化に対していち早く警告を発した環境保護主義者、ビル・マッキベン氏は、「環境保護主義者は今、世界には十分な富と十分な技術があり、これ以上追求すべきではないというアイデアを真剣に検討しなければならない」という立場を取っている。筆者の考えでは、この立場は、この世界にまだ多くの苦しみが残されているという事実を無視している。これらの苦しみは、テクノロジーの継続的な発展を通じて緩和することができるのだ。最も重要な点は、多様なテクノロジーが何百もの分野で発展しているため、技術開発の放棄というアイデアは戦略として全く効果がないということだ。決して楽しいことではないかもしれないが、われわれには防衛策を準備する以外に選択肢はないのだ。（レイ・カーツワイル）

[IDG Japan]