全国消費者団体連絡会 第14回定時総会記念講演会

生成AIの利用とAI法
〜消費者として知っておきたいポイント〜　講演会報告

　近年、私たちの生活のさまざまな場面でAI（人工知能）、とりわけ生成AIが利用されるようになり、文章作成や調べものなど、日常生活を支える便利な道具として広がっています。一方で、個人情報の取り扱いやAIによる判断の仕組み、偽・誤情報への活用や安全性などに対する不安の声も聞かれるようになっています。

　こうした状況の中、日本では2025年に「人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）」が制定され、あわせて、AIの適正な利用を確保するための指針や、国としてのAI政策の方向性を示す「AI基本計画」も策定されました。法律の名前の通り、これらは、国産の生成AIの発展と社会での活用促進をどのように進めるのかに主眼を置いています。

　学習会では、生成AIの基本的な考え方と利用する際の注意点とともに、消費者として知っておきたい知識についてご講演いただきました。そして生成AI使用の実体験や事例紹介を交えた、リアルな説明をいただきました。

【日時】5月21日（木）14時00分〜15時30分
〔実会場とウェブ会議室ステムを使用したハイブリッド講演会〕

【講師】伊本　貴士さん（メディアスケッチ株式会社 代表取締役）

【参加】82人

概要（事務局による要約）

◆生成AIの利用とAI法〜消費者として知っておきたいポイント〜

AIによって消費者に広がる主なリスクとしては、「偽情報・なりすまし」「プライバシー侵害」「契約・表示の不透明化」「偽レビュー・評価操作」「AIによる攻撃」「権利侵害」「悪のAI利用」などがあります。

1．くらしにおける生成AI活用

　世界経済フォーラム年次総会（ダボス会議）では、AIを活用できる者とそうでない者との間で格差社会が起こると問題意識が論議されていました。
　AIが担う機能としては、「予測・分析系（売上予測や未来予測など）」「制御（ロボット制御など）」「認識・検知（危険の検知など）」「生成・創造（文章・画像・動画の作成など）」「意思決定支援（戦略立案の支援など）」「エージェント（人間に代わって計画立案や業務遂行を行うもの）」などがあります。
　現在は、あらゆる活動においてAIの活用を前提とする時代となりつつあります。仕事の現場では、当初は事務作業の補助にとどまっていたAIが、次第に業務の一部を担うようになり、将来的にはAIが作業主体となって、人はその管理・確認を行う役割へ移行していくと考えられます。
　「生成AI」は、インターネット上の膨大なデータを学習し、「文章の次に続く適切な単語」を高い確率で予測することで文章を作成します。利用者の質問（プロンプト）の仕方によって、回答は大きく変化します。
　例えば、生成AIにするプロンプト術の一つに、提供する情報を限定する、あるいは引用先としてドメインの指定を行うことで、より適切で利用者の意図に沿った回答を得ることが可能です。また、条件設定によっては、感情を含んだ文章の生成も可能です。一方で、AI自体が発展途上の技術であり、何をAIに任せて、何を人間がすべきかの明確な線引きは現時点では確立されていません。活用事例として、セミナータイトルアイデア出し、広報メッセージの作成、文書の評価（顧客の感情分析など）、画像の分析などに使用されています。ただし、生成AIの回答は必ずしも正確とは限らず、誤りを含む可能性もあるため、人による確認が不可欠です。

2．生成AI利用におけるプライバシー保護

　一般に広く活用されている正規の「生成AI」サービスでは、データの取り扱いについては関係法令や各事業者の利用規約に基づき運用されています。しかしながら、意図的に不正利用をしなくても、運用上の不備等により情報漏えいが発生する可能性を完全に排除することはできず、100％安全であるとは言えません。
　また、生成AIは入力データを基に回答を生成する仕組みのため、利用状況によっては、過去の入力内容を踏まえて回答が生成される場合があります。こうした影響を避けるためには、履歴を記録・利用させない設定（データコントロールで「すべての人のためにモデルを改善する」をオフにして学習に利用させないに設定にしてシークレットモードで利用する）を活用することが有効です。
　さらに、生成AIサービスの利用にあたっては、「個人情報は入力しない」「他社との秘密保持契約（NDA）等の範囲に含まれる情報は絶対に入力しない」など、基本的な注意事項を徹底することが、プライバシー保護の観点から重要です。

3．生成AIを利用した個人への権利侵害

　今後、増加が懸念される被害として、「AIによる印象操作（口コミサイトなどの偽レビューなど）」「AIフェイク詐欺（有名人の成りすまし音声や動画など）」「AIによる大量プライバシー侵害（AIサイバー攻撃による個人情報の漏えいなど）」が挙げられます。生成AIでは、一般に不正行為や違法行為への利用を防ぐために制御が設けられていますが、すべての悪用を防ぐことは困難です。
　また、生成AIを用いたサイバー攻撃の高度化に対しては、企業側もAI技術を活用した防御対策を講じる必要があります。企業におけるデータ管理の観点では、個人情報、機密情報、一般業務データなどを重要度に応じて分類して適切に管理することが重要です。政府、企業が一体になってセキュリティ水準を高めていく必要があります。さらに、消費者の安心確保から、安全性の高いサービスを提供する事業者を認証する仕組みを整備し、消費者にわかりやすく提示することも一つの有効な方策として考えられます。
　一方で、AIの高度なデータ分析能力により、個人情報が特定されるリスクも指摘されます。特に、匿名化されたデータであっても、他の情報と組み合わせることで個人が識別される（再識別）可能性があります。例えば、アプリの利用では匿名化されている情報であっても、GPS情報や位置情報などを組み合わせることで、個人の行動や属性が推定される可能性があります。このように、複数のデータを統合・分析することで個人を特定し得る点については、十分な注意が必要です。

4．日本のAI法と各国の動向

　日本のAI法は利用推進を基本にしつつ、AIに起因する様々なトラブルに対しては、既存の法制度やガイドラインを組み合わせて対応できるとのことから、個別に詳細な規則は具体的に記載していません。これは新しい技術であるAIに対して柔軟に対応していく必要があるとの考え方に基づくものです。
　これに対し、海外（EU、米国、中国）では、規制を明確に定め、罰則を伴う法制度が整備され、日本と比較して規制の明確性や拘束力が高い傾向が見られます。日本の法律に、事業者負担があまりないことは、文化的背景があるのではないかと考えています。AIを悪用した新たな詐欺や不正行為が出現している状況を踏まえると、個別事例に迅速に対応できる体制整備が必要であると考えます。
　課題としては、ルールの所在や内容がわかりにくいこと、何が違法かの判断が難しいことなどが指摘されています。またAIに対する規制のみでは被害の防止効果に限界があるとの見方もあります。消費者の立場から、生成AIを通じて提供される情報の真偽を見極めることは難しく、一定の抑止力として罰則の在り方についても検討が必要であると考えられます。

まとめ

　AI時代の消費者保護として、消費者のリテラシー向上が必要です。また困った時に初期の相談先として消費者ホットライン188の周知も重要です。
「AIを止めるのではなく、AIを前提に、だまされにくい社会を作ること」が重要です。

◇質疑応答から、特徴的なやり取り

Q：AIに依存して人の能力が退化してしまうおそれがあると考えます。それを防ぐための手段・方法を教えてください。

A：AI依存で退化のおそれはありますが、方法として「脳トレ」があります。また、普段から何にでも疑問を持つ人は防止につながると考えます。

Q：例えば、生成AIに自分の知らない、学術的なことを聞いた場合に、出てきた生成物が正しいかどうかは、どのように調べたらよいでしょうか。信頼できる専門書を、ひも解くのでしょうか。最近のAIは、優秀なので、確認はしなくてもよいでしょうか。手軽な正否の確認の仕方はありますか。

A：基本的に専門的な内容になる程、AIは嘘をつく傾向がありますので、信じてはだめです。真偽を確認するのは人間にしかできないことなので、専門書で確認することです。正しい回答であるかもしれませんが、大事なことは、人間が自分の頭で考えて、自分の頭で判断することです。AIが優秀になれば、人間も優秀でなければならないと考えます。一緒に成長していく必要があります。

◆参加者アンケート　（回収の36件から）

○記念講演会の内容の評価
　5段階評価で平均4.56でした。
　コメントとして、

• 生成AIで出来ること、使い方、注意点、今後の展望、課題など、大変わかりやすく解説いただき、理解が深まりました。
• 生成AIによる利便性が増すことにより、その反動として消費者被害の問題が浮き彫りになる事の説明がわかりやすかった。
• AIに対して漠然と持っていた印象がしっかりと言語化された時間だった。注意点もありつつ前向きに付き合っていこうと思えた。
• 生成AIを使って生活に即してどのようなことができるのか、悪質な事業者が使ったらどのようなことが起こっているのか起こり得るのかの一端を分かりやすく知ることができました。
• AIの実際を知りさらに規制強化の必要を強く感じた。

などがありました。

●今回、参加者の皆さんと生成AIとの関りについて、伺ってみたところ、以下の通りの状況でした。

〇生成AIをお使いですか

〇使用経験のある方に伺います。生成AIをどんなことに使用していますか（複数回答可）

〇生成AIを使ったことのない方と、使うのをやめた方に伺います。使用しない理由、やめた理由をお聞かせください（複数回答可）

以上

≫ 開催案内はこちら