対話型AIが相談に応じるサービスの利用規約：医療との線、緊急時、誤回答、未成年

結論：「医療ではない」「監視しない」「間違うことがある」を、機能の説明と一緒に書く

悩みや体調について、対話型のAIが相談に乗るサービスは、利用者が不安や弱さを抱えた状態で入力することが多く、一般のAIサービスより、規約の書き方が結果を左右します。相手は、気軽な話し相手のつもりで使っていても、AIの返事を医師や専門家の助言のように受け止めてしまうことがあります。また、深刻な内容が入力されたとき、提供者が気づいて対処してくれると思い込む人もいます。これらの思い込みを、規約の条文で打ち消すだけでなく、サービスの機能の説明と画面の表示で、利用者に伝わる形にしておく必要があります。

• 「医療ではない」は、規約の免責の一行ではなく、サービスが何をして何をしないのかの説明として書く。広告や画面の表示も、同じ線に揃える。
• 緊急時に、提供者が入力を監視・検知・通報する義務を負わないことは、責任の免除としてではなく、提供するサービスの内容の定めとして書く。実際に検知の仕組みがあるなら、記載と合わせる。
• 誤回答や不適切な表現の責任は、全部免責にしない。故意・重大な過失を除く上限の形にし、人が確認する範囲があるなら、その範囲を書く。
• 未成年や制限行為能力者の利用は、法定代理人の同意を前提にし、同意がなかった場合の取扱いを決める。
• 会話の履歴は、病歴などの要配慮個人情報を含み得る。取得の同意、保存期間、削除、研究や改善への利用を、個別に決める。
• AIであることを表示し、キャラクターの応答が人の応対と誤認されないようにする。

一般的なAIサービスの免責や責任の上限は個人向けと法人向けのページで、会話データの保存と削除は録音・通話AIのページで整理しています。このページは、悩みや健康の相談という場面に特有の論点に絞ります。

「医療ではない」を、機能の説明と一緒に書く

医師法17条は、「医師でなければ、医業をなしてはならない」と定めています。AIの相談サービスの規約に「医療行為ではありません」と書かれることが多いのは、この規定を意識してのことです。ただし、規約に書いたから医療ではなくなるわけではありません。実際の機能、画面上の表現、広告の文言が、診断や治療に近いものであれば、規約の一行で打ち消すことはできません。医業に当たるかどうかは、機能の内容や運用ごとに、条文と所管官庁の資料で確認が必要です。

そのため、規約では、サービスが何をするのかを肯定的に説明し、そのうえで、しないことを書きます。何をするかは、情報の提供、気づきの支援、記録の整理、一般的なセルフケアの紹介などです。しないことは、診断、治療方針の決定、薬の指示、専門家の判断の代替です。この説明を、規約だけでなく、最初の画面、入力画面の近く、応答の中の定型の注意書きに繰り返し置くことが、実際の利用者への伝わり方として重要です。

緊急時：監視・検知・通報の義務を負わないことと、案内の置き方

悩みを打ち明ける対話型のサービスでは、利用者が、自分を傷つける内容や、差し迫った危険を入力する場面が想定されます。このとき、提供者が気づいて何かしてくれると期待されることがあります。規約では、提供者が入力内容を常時監視せず、危険を検知する義務も、本人や関係機関へ通報する義務も負わないことを書くのが一般的です。

この書き方は、法的には、提供者の責任を免除する条項というより、サービスの内容を定める条項です。提供するサービスは、AIとの対話であり、緊急対応の体制を持たない、という範囲を最初に明らかにしています。ただし、実際には検知の仕組みを持っているのに、規約で「検知しない」と書くと、事実と合いません。サービスの設計と規約の記載が一致しているかが、最も重要な点です。

案内する窓口の書き方も、決めておく項目です。特定の機関名や電話番号を載せると、変更があったときに更新が必要です。更新を怠ると、誤った情報を案内したことになります。「救急の場合は119番」「お住まいの地域の公的な相談窓口」のような、変わりにくい書き方にとどめるか、機関名を載せて更新の担当を決めるかを、運用の体制とあわせて選びます。

提供者が義務を負わないと書く場合でも、故意または重大な過失による場合の責任を免除することはできません。消費者が利用するサービスでは、消費者契約法8条1項が、債務不履行による責任の全部を免除する条項や、故意・重過失の場合の責任の一部を免除する条項を、無効としています。緊急時の条項でも、「一切の責任を負わない」という書き方は避けます。

誤回答・不適切な表現：責任の書き方と、人の確認が入る範囲

AIの回答は、誤ることがあります。相談の場面で誤回答が深刻なのは、利用者がその内容を、自分の状況に当てはめて受け取るためです。不適切な表現（差別的な言葉、否定的な決めつけ、危険を助長するような応答）も、起こり得ます。

規約には、回答の正確性・適合性を保証しないこと、最終的な判断は利用者が行うこと、を書きます。しかし、これだけでは、相談の場面では足りません。次の三つを加えて考えます。第一に、責任の上限を置くときは、故意・重大な過失を除くことを明記します。第二に、不適切な表現を減らす取組（フィルタ、禁止ワードの設定、報告窓口）があるなら、その取組を書き、不適切な表現が出ない保証はしないことを書きます。第三に、人が確認する範囲があるなら、その範囲を書きます。たとえば、運営者が回答のテンプレートを事前に確認している、通報があった応答を人が見直す、といった工程です。

人の確認を書く場合は、その範囲を過大に読まれないようにします。「当社が確認している」とだけ書くと、利用者は、すべての応答を人が見ていると受け止めます。確認の対象は、事前に設計した部分だけで、リアルタイムの応答は含まれないなら、その旨を明記します。

誤回答や不適切な表現について、利用者から申出があったときの受け方も、規約の外側で決めておきます。申出の窓口、受け付けた応答の確認、再発防止の対応、利用者への返答の方針です。申出に対して、提供者が事実と異なる説明をすると、問題が大きくなります。受け方の整理はトラブル・FAQのページで扱います。有料の継続課金で提供している場合は、解約の導線が分かりにくいと、心身の状態が不安定な利用者との間で争いになりやすいため、解約の方法を画面で分かりやすく示します。課金の単位や更新の書き方は課金設計のページで扱います。

未成年・制限行為能力者の利用：法定代理人の同意と、その限界

悩みを相談するサービスは、若年層の利用が想定されます。民法5条1項は、未成年者が法律行為をするには、その法定代理人（親権者など）の同意を得なければならないと定め、2項は、同意を得ない法律行為を取り消すことができると定めています。サービスの利用契約も、法律行為です。有料のプランに未成年者が自分で申し込んだ場合、法定代理人の同意がなければ、取り消される可能性があります。

規約には、未成年者は法定代理人の同意を得て利用すること、同意の取得は利用者の責任であることを書くのが一般的です。しかし、画面上でのクリックだけでは、同意の有無を確認できません。確認の程度は、サービスの性質に応じて決めます。年齢の入力を求める、有料プランの申込みで法定代理人の同意の確認を取る、一定の年齢未満は利用不可とする、といった選択肢があります。

また、規約に「未成年者が同意なく利用した場合、その未成年者と法定代理人が連帯して責任を負う」と書く例があります。法定代理人は、利用契約の当事者ではないため、規約で当然に義務を課すことはできません。契約の当事者でない人に義務を負わせる書き方は、効力に疑問があります。法定代理人の同意を得たことを表明させる、同意を得ていなかった場合には提供者が契約を解約できる、といった形に改めます。

成年に達していても、判断能力が十分でない人（制限行為能力者）の利用もあり得ます。相談型のサービスでは、利用者の心身の状態が不安定な場合があるため、利用の条件に、利用者が自分の意思で利用を判断できる状態にあることを求める記載を入れるかどうかも、検討する点です。

会話の履歴：要配慮個人情報を含み得ることを前提に決める

相談の内容には、病歴、心身の不調、服薬、家族の事情など、本人が他人に知られたくない情報が含まれます。個人情報保護法2条3項は、要配慮個人情報を、本人の人種、信条、社会的身分、病歴、犯罪の経歴などが含まれる個人情報と定めています。20条2項により、あらかじめ本人の同意を得ないで要配慮個人情報を取得してはならないのが原則です。

入力された内容に病歴が含まれるかどうかは、利用者が何を書くかによるため、提供者が事前に判別することはできません。しかし、相談型のサービスは、要配慮個人情報が含まれることを、あらかじめ想定できます。そのため、入力画面か最初の同意の画面で、要配慮個人情報が含まれ得る旨を示して、取得に同意を得る設計にするのが現実的です。

AIであることの表示と、キャラクターによる誤認

相談型のサービスでは、AIの応答に、人の名前や性格を持たせたキャラクターを使うことがあります。親しみやすさは利用の継続につながりますが、利用者が、人が応対していると受け止める可能性や、特定の専門家が助言していると受け止める可能性が生じます。

規約と画面では、応答がAIによって自動的に生成されることを、利用者が見て分かる形で示します。キャラクターの名前や設定は、実在の人物や専門家を意味しないことも明記します。「先生」「カウンセラー」「専門家」といった呼称をキャラクターに付ける場合は、実在の資格や専門性があると誤認されないよう、特に慎重に扱います。

広告の表示も同じです。景品表示法5条は、事業者が、自己の供給する商品や役務の取引について、品質、規格その他の内容について、一般消費者に対し実際のものよりも著しく優良であると示す表示などをしてはならないと定めています。AIの応答を人が行っているかのように示す広告や、特定の専門家の監修があるかのような表示は、実際と異なる場合、この規定の点検の対象になり得ます。

外部のAIに応答の生成を任せている場合は、キャラクターの応答が外部の事業者のモデルの出力であること、その変更によって応答の性格が変わることがあることも、利用者に伝えておく事項です。外部のAIに依存するサービスの規約は外部AI依存のページで扱います。

起きがちなこと：規約は整っているのに、画面と運用が追いついていない

よくあるご質問

あわせて読みたいページ

本ページは一般的な情報提供です。個別の取引への当てはめは、サービスの仕組みや契約の内容によって異なることがあります。条文は e-Gov法令検索（法令API）で確認しています（最終確認日：2026年10月21日）。参考: e-Gov法令検索 / 個人情報保護委員会 / 消費者庁 / 経済産業省 / 総務省 / 内閣府