注目度が高まるAI倫理と個人情報保護の関係 - カメラ画像の利活用を題材に

はじめに

　技術の進歩によりカメラ画像における顔認識・認証技術の利活用の有用性はより一層増しています。たとえば、カメラ画像を解析・顔認証することであらかじめ設定しているVIPを瞬時に判別し、特別なサービスを提供すること、セキュリティゲートを顔認証で通過することや、指名手配犯など要注意人物・危険人物をマークすることも可能です。また、近年のコロナパンデミック対応において、中国では個人の行動監視に顔認証技術が用いられたとの報道もあります。

　加えて、AIにおけるディープラーニングで画像を解析し、たとえば性別や体格、年齢などの情報を推定することも可能となり、対象者の属性に合わせた広告を表示する取組みなどもすでに行われています。さらに、AIによるスコアリングも可能となり、たとえば、カメラ画像にSNSの情報・端末位置情報等も合わせることで行動パターンを分析し、不審な動きなどの特徴を早期に発見しマークすることもできます。

　これらは一見すると便利に映るものの、視点を変えると我々の行動が「カメラの目」と「AIの脳」を通して常に監視されている状態となり、漠然とした不安に起因する行動に対する萎縮効果が働いたり、AIにより誤った認識に基づく負のレッテルを貼られてしまうといった様々な問題点が浮き彫りになりつつあります。このため世界的にAIの意思決定にどこまで委ねるのか、どのような制約をかけるべきなのかなどという点で、AIのルール（AI倫理）が議論されているところです。以下では、AI倫理とは何かという全体像を確認し、そのなかで特に、情報倫理にあたるプライバシーに関する問題（個人情報保護を含む）やプライバシーガバナンスについて紹介します。

AI倫理

倫理とは

　通常「倫理」とは、道徳・社会慣習として成立している行為規範などとされます。専門職の倫理としては医療倫理や法曹倫理 ¹ なども存在します。他方で、AI倫理（Artificial Intelligence Ethics）とは何か。その概念自体も議論し始めると難しい問題があるところですが、概ね、人間中心であること、公平性、透明性、説明可能性などが主たるテーマとして取り扱われています。また、個人情報の取扱いに係るデータ漏えいやプライバシー侵害の問題なども安全性の確保、プライバシーの確保やセキュリティ確保の問題としてAI倫理に含み考えられています。

　AI倫理が、早い段階から国際的な議論になりITテック企業の関心事となっている理由は、一度技術開発が進行してからでは対処することが難しい問題がAIによって生じてしまう前に、この問題を回避しようというというところに議論動機があると考えられます。

　日本では、AI倫理については人工知能学会「人工知能学会　倫理指針」（2017年2月）、内閣府「「人工知能と人間社会に関する懇談会」報告書」（2017年3月）、AIネットワーク社会推進会議「報告書2017―AIネットワーク化に関する国際的な議論の推進に向けて」（2017年7月）があり、「人間中心のAI社会原則」、「AI開発原則」、「AI利活用原則」が公表されています。このように、これまでも国際的な議論の場でも積極的な発信を行ってきたと言えます。人間中心のAI社会原則の考え方を踏まえ、関係省庁にてAI関連の指針・原則・ガイドライン等の策定が進捗しています ²。

人工知能学会　倫理指針 ³

人間中心のAI社会原則 ⁴

AI開発原則 ⁵

AI利活用原則 ⁶

　こうした議論は世界的に行われ ⁷ ており、AI倫理と言われる内容の大きな枠組みについては、概ね共通理解が形成されてきていると言えます。もっとも、そのルール化について、日本では、AIに関する技術がその発展途上にあることも考慮し、法規制化を目指すものではなく、「非規制的で非拘束的なソフトローとして国際的に共有される指針」などとされている一方で、欧州では、法規制化に向けた動きがなされているなど、国際的な議論動向には依然として注視が必要です。

原則策定のフェーズから実装のフェーズへ

　民間企業においてもAI倫理については検討・公表する企業が増えています。たとえば、マイクロソフト ⁸、IBM ⁹、NTTデータ ¹⁰、SONY ¹¹、富士通 ¹²、日立 ¹³、NEC ¹⁴ などの各企業では、AI倫理の指針をそれぞれ定めており、国際的な大企業を中心にAI倫理に対する問題意識は高く醸成されていると言えます。そして、その内容は、概ね各社共通で固まってきており、前述の「人間中心のAI社会原則」、「AI開発原則」、「AI利活用原則」を受けた内容になっています。今後の社会においては、各企業はプライバシーポリシーやセキュリティーポリシーと同様にAI倫理に関するポリシーを策定・公表する流れにあると言えます。プライバシーについては企業コンプライアンスの問題としてプライバシーガバナンス ¹⁵ の議論がありますが、AI倫理もガバナンスとして体制を構築し企業レベルでの対応がすでに求められています。

　そして民間企業では現在、AI倫理を策定・公表することから、実際に個別のサービスについて、AI倫理に照らして各社のAI技術を実装し、開発段階からデザインすることが求められているフェーズに移行しつつあるとも捉えられます。

AI倫理とプライバシー原則・個人情報保護の関係

　これらの倫理指針やAI原則を確認するといずれにおいても「プライバシー原則」が求められています。プライバシーの問題はAIに限定された問題ではありませんが、AIにおいても非常に大切なポイントとして捉えられています。通常のプライバシーの議論では、データの収集、処理（解析・利用）などにおいて、個人がその利用目的などを知る権利、データにアクセスする権利、データの収集、処理に対して異議を唱える権利などの形でその侵害へのリスクが議論されています。AIの場面では、さらに、ビックデータを活用したプロファイリングの問題やフェイクニュース（ディープフェイクを含む）など偽の情報の流通の問題もこの文脈で議論されています。

（参考）AIの利用におけるプライバシー侵害のリスク

　そして、AI技術の開発においては、①学習済みモデルの生成段階（学習段階）と生成された②学習済みモデルの利用段階（利用段階）の2つの段階でそれぞれ問題になります。たとえば、カメラ画像の認証AIの場合、大量の画像を学習させる段階と、完成したカメラ画像認証AIを実装して街のカメラを通して、そこに映る人々に対して分析等を加える段階があります。

　明確にAI倫理の問題として議論されたものではないですが、特徴量データ（取得した画像から人物の目、鼻、口の位置関係等の特徴を抽出し、数値化したデータ）の活用やプロファイリングを意識して議論したものとして、「カメラ画像利活用ガイドブックver2.0」¹⁶ があります。そこでは、カメラ画像の利活用の場面おいては、法を遵守する必要があるが、通常の「個人情報」の取扱いに加えて、以下のような特徴があるとしプライバシーの問題などとして捉えています。

個人情報保護の問題

　個人情報保護法は、AIにおける利活用やカメラ画像の利活用に特化して規律されているものではありませんが、そこで扱われるカメラ画像や顔認証のデータ（特徴量データ）が「個人情報」に該当するかなどの形で問題となり、上記のプライバシーの問題とは別に個人情報保護法の遵守が必要となります。

　個人情報該当性については、本人を特定・識別が可能な防犯カメラ画像および顔認証データについては「個人情報」（体系的に構成して個人情報データベース等を構築した場合は「個人データ」、加えて利用停止等を行うことのできる権限を有するものなどは「保有個人データ」（個人情報保護法2条6項、7項））に該当するため、その取扱いについては個人情報保護法を遵守する必要があります ¹⁷。

　このため、取得・利用時の対応として、本人を判別可能なカメラ画像を撮影録画する場合は、個人情報の取得となりますので、個人情報の利用目的をあらかじめ公表しておくか、または個人情報の取得後速やかに本人に通知もしくは公表することが必要です（個人情報保護法15条、16条、18条）。もっとも、防犯カメラにより、防犯目的のみのために撮影する場合、「取得の状況からみて利用目的が明らか」（個人情報保護法18条4項4号）であることから、利用目的の通知・公表は不要と解されますが、防犯カメラが作動中であることを店舗の入口や設置場所等に掲示するなど、本人に対して自身の個人情報が取得されていることを認識させるための措置を講ずることが望ましいと考えられています。

　また、利用停止などの対応も必要となります。個人情報保護法の令和2年改正では、本人関与を強化する目的で「本人の権利又は正当な利益が害されるおそれがある場合」に利用停止・消去等の請求ができることが新たに定められています（令和2年改正個人情報保護法30条5項）。このため、カメラ画像が「保有個人データ」として管理されている場合については、被撮影者からの利用停止などに対応する必要が生じる場合があります。もっとも、「当該保有個人データの利用停止等又は第三者への提供の停止に多額の費用を要する場合その他の利用停止等又は第三者への提供の停止を行うことが困難な場合であって、本人の権利利益を保護するため必要なこれに代わるべき措置をとるときは、この限りでない」（令和2年改正個人情報保護法第30条6項）とされているため、特に特徴量データやそこから生じる派生データに対する削除についてはどこまで応じる必要があるのかといった疑問が生じ得ます。