ニュース
» 2018年04月24日 12時59分 公開

マイクロソフトが考える、AI開発に必要な「6つの倫理的条件」とは

日本マイクロソフトは、AIの開発と活用において重視すべき6つの倫理的用件を発表した。

[ITmedia]

 日本マイクロソフトは4月24日、AIの開発と活用において重視すべき6つの倫理的用件を発表した。

photo

 AIの可能性を最大化するためには大量のデータの収集、集約と共有が不可欠になるが、同時にこれらはユニバーサルアクセスやプライバシー、透明性などに関する倫理上の議論を引き起こしうると警告。最終的にAIが信頼できる存在であるためには、透明性や安全性、多様性に加えて最高水準のプライバシー保護を維持することが必要だ、としている。

 これらを実現するため、同社ではAIによるソリューションの開発と展開の中核に以下の6つの基準を設定した。


  1. プライバシーとセキュリティ:
    • 他のクラウドテクノロジーと同様に、AIシステムは、データの収集・使用・保存を規制するプライバシー法に準拠し、個人情報がプライバシーの基準に合致して使用され、悪用や盗難から保護されるよう保証しなければなりません。
  2. 透明性:
    • AIの人々の生活への影響が増すにつれ、どのようにしてAIが判断したかを人々が理解できるようAIシステムの機能に関する背景情報を提供し、潜在的な偏見、エラー、予期せぬ結果を容易に特定できるようにしなければなりません。
  3. 公平性:
    • AIシステムが、例えば、病気の治療や雇用に関する判断を行う時には、同様の症状または技能の者であれば誰に対してでも同じ判断を行うべきです。公平性を保証するためには、バイアスがAIシステムにどのように影響を与えるかを理解しなければなりません。
  4. 信頼性:
    • AIシステムは、明確な条件の下で動作し、予期せぬ状況においても安全に応答し、想定と異なる形で進化していかないように設計されなければなりません。AIシステムをどう展開して、いつ展開するかの意思決定においては、人間が重要な役割を果たさなければなりません。
  5. 多様性:
    • AIソリューションは、不用意に人々を排除することになる製品や環境の潜在的障壁を予期した多様性のある設計規範によって、広範な人間のニーズと体験に対応しなければなりません。
  6. 説明責任:
    • AIシステムを設計し、展開する人々はシステムの動作について説明責任を負います。AIの説明責任の基準は、ヘルスケアにおけるプライバシーなどの他の分野での体験と実務に基づくべきです。そして、システム設計段階だけでなく、世界での運営されている中でも、継続的に順守されなければなりません。

 これら6つの基準は同社のAI製品とサービス設計の規範となっており、製品がこれらの基準に準拠するか制度的に確認する社内委員会を設置しているという。

Copyright © ITmedia, Inc. All Rights Reserved.

この記事が気に入ったら
ITmedia PC USER に「いいね!」しよう