生成AIサービスの提供者（事業者）が注意すべき法的ポイント

　昨今、大規模言語モデル（LLM）や拡散モデル（Diffusion Model）等を活用した生成AI（Generative AI）が大きな注目を集めています。その一方、生成AIによる著作権やプライバシー侵害等、生成AIをビジネス利用する際の法的問題が議論されています。

　本記事では、生成AIを用いたサービス（以下「生成AIサービス」といいます）の利用段階（生成・利用段階）で検討すべき法的注意点について、同サービスの提供事業者（AIプロバイダ）の視点から解説します ¹。

生成AI利活用のフロー

（※）関連する技術内容によって異なり得るものの、一般的には、①大規模な学習用データセット（事前学習用データセット）を用いて基盤モデルを開発する、②基盤モデル生成用データセットとは別の再学習用データセットを用いて、基盤モデルの再学習（転移学習やファインチューニング等）をし、個別の適用事例に応じた調整をすることで、生成AI（生成モデル）を開発する、③ユーザが、生成モデルに対して、プロンプト等の指示やデータ（インプット）を入力して、AI生成物を出力する、④ユーザが、出力されたAI生成物を利用する、との流れを経ることが多いと思われます。

生成・利用段階における検討ポイント

　生成AIサービスの利用段階（生成・利用段階）では、同サービスの利用者（以下「ユーザ」といいます）と提供者（以下「AIプロバイダ」といいます）のそれぞれについて検討事項が生じます。
　ユーザの観点からの主な検討事項は、インプットや生成されたAI生成物が誰に帰属するのか、そして、いかなる範囲で適法に利用できるのか、という点です。他方、AIプロバイダの観点からの主な検討事項は、生成AIが出力するAI生成物の生成過程等の不確実性に起因したリスクをいかに契約により低減するのか、という点でしょう。
　以下では、AIプロバイダから見た生成・利用段階の注意点について詳しく解説していきます。

　なお、生成AIの概要や、生成AIを用いたサービスのAI開発・学習段階における検討ポイントやユーザから見た生成・利用段階の検討ポイントについては、下記の記事をご覧ください。

利用規約等によるリスク軽減

　AIプロバイダとしては、生成AIの利活用に伴うリスクや不確実性を契約または利用規約の形で整理することになるでしょう。その際に、一般的に留意が望ましい事項として、次のものが考えられます。

AIプロバイダの責任を制限する（保証条項、免責・責任制限条項）

　契約上、AIプロバイダの責任を制限するための方法としては、大まかには、債務の範囲を限定する、あるいは、免責・責任限定条項を定める方法があります。

（1）保証条項で債務の範囲を限定する

　当然のことながら、債務を負わない場合には債務不履行責任は生じません。また、不法行為責任についても、契約当事者間では、その成否の判断に際して、契約内容が重要な要素になるでしょう。債務の範囲は、多くの場合サービス内容あるいは保証条項で規律されます。もっとも、後者は、積極的な保証をするというよりも、保証をしない範囲を明示するために用いられることが一般的でしょう。AIプロバイダが生成AIサービスに関して以下の点を保証することにはリスクを伴いますので、ビジネス上保証の必要がある場合を除いて、非保証の明示が望ましいといえます。

（2）免責・責任限定条項を定める

　免責・責任限定条項は、債務不履行または不法行為に基づく損害賠償責任の全部を免責する条項と、その一部免責する条項（たとえば、損害額の上限を定める、あるいは損害賠償の対象から逸失利益を除外する等）とがあります。多くの場合には、故意・重過失の場合に免責を定める条項は公序良俗（民法90条）に反し、無効になるでしょう。定型約款を用いる場合には、不当条項規制（同法548条の2第2項）の観点からの検討が必要な場合も想定されます。

　なお、一般消費者を相手方とする契約を締結する際には、消費者契約法の適用を受け、債務不履行・不法行為責任の全部免責条項は無効となり、一部免責条項も故意・重過失の場合に免責する条項は無効とされています（同法8条1項）。
　また、2023年6月1日に施行された改正消費者契約法では、免責が軽過失の場合に限ることを明示していない条項は無効とされました（同法8条3項）。そのため、たとえば「法令に反しない限り、〇〇万円を上限として賠償します」との文言は無効となる点に注意が必要です。

AI生成物による第三者の権利・利益侵害等への備え（補償条項、禁止条項）

　生成AIサービスを利用したコンテンツ生成は、予期せぬ他者の権利・利益の侵害（著作権・肖像権・パブリシティ権等）やその他の法令違反（個人情報保護法等）を生じさせる可能性があります。

（1）AIプロバイダが法的責任を問われる可能性

　ユーザが生成AIサービスを利用することにより、第三者の権利・利益を侵害した場合、サービスを提供するAIプロバイダは、当該第三者の損害について単独または共同不法行為責任等を負うのでしょうか。具体的な判断基準は、実際に侵害が問題になる権利・利益次第のところがあるものの、対象サービスが他者の権利・利益侵害を意図しておらず、価値中立的なサービスならば、一般論としては、単独行為および共同行為性の認定のハードルは低くなく、また、何らかの作為義務の存在を前提とした故意・過失も否定されることは少なくないでしょう。そのため、その責任範囲は限定的であると思われます。これに対して、侵害発生の可能性が類型的に高いようなサービスならば、AIプロバイダが直接または間接的な侵害主体としての責任を問われる可能性もあるでしょう。

　生成AIとの関連では、AI生成物による著作権侵害の可能性が特に注目を集めていますが、問題となる救済が差止請求なのか、それとも、損害賠償請求なのかによって、取り得る法的構成が異なります。

　AIプロバイダに対する著作権法に基づく差止請求の可否が問題になる場合には、著作権法112条に基づく幇助者に対する差止請求の可否は議論があるところですので、AIプロバイダ自身に同条の侵害主体性が認められるかが問題になります。
　この場合には、複製権侵害に関するものではあるものの、侵害主体性について、ロクラクII事件（最高裁（一小）平成23年1月20日判決・民集65巻1号399頁）が定立した「複製の対象、方法、複製への関与の内容、程度等の諸要素を考慮して、誰が当該著作物の複製をしているといえるかを判断する」との基準を参考に検討することになるでしょう。一般論としては、ユーザの関与の程度を問わず、生成AIサービスが他者の著作物と類似するような表現を出力するような場合には、規範的侵害主体性を認める余地が出てくると思われます。他方で、出力内容がユーザの関与の程度に左右されるような価値中立的なサービスであれば、規範的主体性が認められない場合が少なくないとは思われますが、AIプロバイダがユーザによる利用態様や権利侵害の可能性をどの程度把握しているか等の具体的な事情に左右されるでしょう。

　他方、主に損害賠償責任が問題になる場合には、少なくとも、AIプロバイダ自身に著作権侵害の幇助責任が認められれば共同不法行為としての責任追及が可能です（民法709条、719条）²。具体的な事実関係によりますが、価値中立的なサービスならば、AIプロバイダ側で特定のユーザによるAI生成物の具体的な利用態様を把握していない限り、故意の認定のハードルは低くなく、過失の有無が問題になり得るでしょう。
　この点、刑事事件、しかも幇助の故意の有無が直接の争点となったため、民事事件に直ちに当てはまるわけではありませんが、Winny事件（最高裁（三小）平成23年12月19日決定・刑集65巻9号1380頁）が以下のとおり述べていることは、価値中立的な生成AIサービスを展開する際の著作権侵害幇助の成否に関して、どのような価値判断がなされ得るかを検討する際に参考になるでしょう。

（2）補償条項、禁止条項を定める

　ユーザが被った責任が自らの行為に起因する場合であっても、生成AIに関するサービスを提供したとして、AIプロバイダが紛争に巻き込まれる可能性は否定できません。そこで、ユーザの行動によりAIプロバイダが損害を被った場合の補償条項を設けることも検討に値するでしょう。

　なお、仮に自社の生成AIサービスが価値中立的であったとしても、そのようなサービスが他者の権利・利益侵害に用いられる可能性は否定できません。この場合に権利・利益侵害を知りながら漫然と放置したならば、当該不作為をもって、権利・利益侵害に関する法的責任を問われる可能性があります。そのようなリスクを避けるためには、他者の権利・利益侵害や公序良俗に違反する取扱いその他の懸念される利用態様等を禁止事項として定めたうえで、その違反を解除やサービスの提供停止原因とし、侵害状態を早期に是正できるようにすることが望ましいでしょう。

インプットその他入力情報の取扱い

（1）インプットの適法性の確保

　プロンプト等のインプットについては、まず、その入力それ自体に法的な問題がないことの確保が重要です。その端的な手段は、疑義のあるデータの入力自体を禁止することです。たとえば、インプットとして画像等を求める生成AIサービスであれば、他者の著作権侵害等のリスクを防ぐために、著作物データの入力の禁止が考えられるでしょう。
　生成AIサービスの性質上、上記の対応が難しいならば、法的な問題がないことの表明保証（およびその不真実性に対する契約上の制裁）条項を設けることも一案です。たとえば、個人データがインプットとして想定されるのであれば、その取得や提供にあたり、個人情報保護法上の手続を適切に履践していること（場合によっては本人から必要な同意を取得していること）の保証を求めることも考えられます。

（2）インプットの利用可能性の確保

　加えて、インプットについては、創作的な表現が入力されれば著作物に該当するおそれがあるため、その権利の帰属関係が問題になり得ます。特に、プロンプトについては、昨今では、プロンプトエンジニアリングの重要性が説かれることもあり、その取扱いに実務上の関心が集まる事態も想定されます。したがって、その著作物性の如何は別としても（むしろ、発明に近い部分があるとは思われます）、AIプロバイダおよびユーザのいずれがどのような範囲で利用可能か規約上の明示が望ましいといえます。
　さらに、AIプロバイダがインプット（あるいはそれに対応するAI生成物）をさらなる学習に用いたい場合にはその旨の明示が重要です。ただし、インプット等の再利用はユーザに生成AIサービス利用を躊躇させる一因となりますので、この観点からの検討も重要でしょう。有償の場合には再利用はしないものの、無償の場合には再利用する等の区分をすることも一案です。

　なお、AIプロバイダの立場に立てば、インプットに関する権利または利用可能性を確保することは、たとえば、権利・利益の侵害が問題になる等の場面で、インプットを用いたAI生成物の出力にAIプロバイダが関与しているとの評価を基礎づける事実になり得るおそれも想定されます。加えて、インプットに個人データが含まれるならば、AIプロバイダ側が、契約上、インプットを自由に利用可能なケースでは、受託者によるデータの利用が委託の範囲を超えるとして、委託として取り扱えない可能性も生じます（詳細は、別稿「個人情報の収集やAI分析を外部事業者に依頼する場合の『委託』の考え方と注意点」をご参照ください）。そのため、自社事業の継続可能性を踏まえた場合、インプットに関する権利等の確保が必要であるかは一考に値するでしょう。

AI生成物の取扱い

　AI生成物についても、AIプロバイダに帰属するのか、それともユーザに帰属するのかという権利帰属の問題と、その利用可能範囲の問題が想定されます。

（1）AI生成物の権利帰属

　AI生成物の帰属に関する議論の前提として、そもそもAI生成物に権利性があるのかが問題になるでしょう。たとえば、著作権法上、著作物は「思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するもの」（同法2条1項）と定義されていますが、ユーザが入力したインプットを用いて得られたAI生成物は、ユーザの思想または感情の創作的表現と評価できるかは議論の余地があります。これは結局のところ、AI生成物の著作者が誰であるかとの問題と実質的には等価です。
　一般論としては、生成AIを道具として使用したにすぎない場合には、プロンプトを入力したユーザが著作者となり、逆に生成AIが自律的にAI生成物を出力したと評価される場合には、著作者たる自然人・法人が存在せず、したがって、AI生成物も著作物としては保護を受けないことになります。現状明確な評価基準は存在せず、そのため、リスク管理の観点からは、一応は著作物への該当を前提にした契約上の手当てが無難な対応と思われます。
　以上は、著作物に関する説明ではありますが、基本的な考え方は、特許を受ける権利等の他の創作的な知的財産にも同様に妥当します。なお、特許については、AIの発明者性を認めなかった近時の裁判例として、東京地裁令和6年5月16日判決があります。

（2）AI生成物の利用可能範囲、利用条件

　そのうえで、AI生成物をユーザ帰属とするのか、AIプロバイダ帰属とするのか、あるいは両者の共有とすることのいずれが望ましいかは、ケースバイケースの判断にならざるを得ないでしょう。実務上は、AI生成物をAIプロバイダが自社事業にどの程度利用したいかが主な考慮要素になりますが、著作権による法的な独占を確保することまでは必要ではないとのことであれば、権利はユーザに帰属させつつも、一定範囲のライセンスを確保するとの対応もあり得るでしょう ³。
　また、AI生成物の利用条件については、たとえば、商業利用を可能とするか、あるいは、ユーザがAI生成物を対外的に公表等する場合に、生成AIサービスを用いていることを明示する義務を負わせるか等、関連する生成AIの技術的な特性やサービス内容も踏まえた制約の要否も検討事項になり得るでしょう。
　加えて、生成AI（あるいはAI全般）に特有な禁止事項として、生成AIサービスの出力結果（多くの場合、AI生成物）の機械学習目的（あるいは自社と競合するビジネス）への利用があります。たとえば、生成AIサービスへの入力と出力の組合せを学習用データセットとして学習を行う「蒸留」と呼ばれる技術があるためです。このような行為を禁止するためには、少なくとも、出力結果の利活用の制限が重要になるでしょう。

他の事業者が提供する生成AIサービスを利用する場合

　生成AIサービスを提供する場合には、自社ではユーザ・インターフェース等のフロントエンドや補助的なアプリケーションを作成したうえで、AI生成物の出力に関して、API連携等により、他の生成AIサービスを用いるパターンも想定されます。このようなケースでは、自社提供部分と他社提供部分の関係を意識したうえでの関連するプライバシーポリシーや利用規約の作成が重要です。
　このような生成AIサービスを実装するパターンはいくつかあり得るところですが、たとえば、生成AI部分も含めて、自社サービスの一環として提供する場合、他の生成AIサービスと自社サービスの利用規約との間に齟齬が生じないようにする必要があります。他の生成AIサービスで免責事由とされている事項について、自社サービスの利用規約で十分な手当がされていない場合、自社はユーザから責任追及を受ける一方、他社に対しては責任追及できないような事態に陥る可能性もあるためです。
　他方、生成AIサービスを自社サービスの外部サービスとして位置づける場合には生成AIサービスに関する契約はAIプロバイダとユーザとの間で成立する、と整理できることもあります。このようなケースでは、自社から当該提供事業者へのデータ提供についてユーザから同意または許諾等を得ておくなどの対応が必要になる場合もあります。