日時: 2026年6月18日
主催: 一般社団法人AIガバナンス協会（AIGA）・一般社団法人トラスト&セーフティ協会（JTSA）
研究会趣旨
「AI生成コンテンツの安全性研究会」（以下、「本研究会」）は、AIの利活用の広がりの中で誤情報・偽情報の拡散、権利侵害、有害・不適切なコンテンツの生成や流通、真正性の確認の難しさなど、社会的な信頼と安全に関わる新たな課題が生じていることを踏まえ、マルチステークホルダーでそうした課題への対応策の議論・研究を行う場として、一般社団法人AIガバナンス協会（AIGA）・一般社団法人トラスト&セーフティ協会（JTSA）の共同イニシアチブとして設立したものです。
AI生成コンテンツの問題は、AIの開発・利用だけでなく、SNSや広告、メッセージサービスを通じた流通・拡散にも関わります。そこで本研究会では、AIガバナンスの観点を持つAIGAと、オンラインサービスの安全・安心に取り組む実務家コミュニティであるJTSAが連携し、生成から流通、被害防止までを一体的に検討します。
2026年6月18日、研究会委員と両協会の会員、その他のステークホルダーの参加のもと、第1回研究会を実施いたしました。
（関連リンク）本研究会設立に関するリリース
出席者・運営（敬称略）
- 座長：
- 成原 慧 九州大学 法学研究院・法学部 准教授
- 委員：
- 上田正基 神奈川大学 法学部 法律学科 教授
- 笹原和俊 東京科学大学 環境・社会理工学院 イノベーション科学系 教授
- 野口祐子 弁護士、東京大学 法・政治デザインセンター客員教授
- 水谷瑛嗣郎 慶應義塾大学 メディア・コミュニケーション研究所 准教授
- 一般社団法人AIガバナンス協会：
- 業務執行理事兼事務局長 佐久間弘明
- 事務局リサーチフェロー 野中瑛里子
- 事務局次長 森開汰
- 事務局インターン 井上実咲
- 一般社団法人トラスト&セーフティ協会：
- 代表理事 金谷武明
- 理事・事務局長 田中清隆
- 事務局 高野雄典
- 事務局 園川慶
アジェンダ
- 開会挨拶、趣旨説明（AIGA佐久間）
- 座長、委員挨拶（成原座長）
- AI生成コンテンツならびにDeepfakeにまつわる状況
- AI生成コンテンツの現状とリスクの概要（AIGA野中）
- AI生成に関する詐欺に対する対策の論点（JTSA田中）
- 委員によるディスカッション（各委員）
- 参加者を交えたフリーディスカッション
- 閉会挨拶（JTSA金谷、成原座長）
イベント概要
AIGAからは、ディープフェイクを含むAI生成コンテンツの現状やリスク、バリューチェーン全体での対策の必要性が示されました。JTSAからは、オンライン詐欺の実務を踏まえ、生成AIによる詐欺の高度化・大量化と、広告・SNS・メッセージング・決済をまたぐ業界連携の重要性が紹介されました。その後、検知技術の限界や責任分担などについて議論が行われました。
（議論内容一部抜粋）
- ディープフェイクの問題は、知的財産権・人格権・民主主義・情報空間の信頼性など複数の法分野と価値に横断的に関わるものである
- 議論で登場したトピックを踏まえると、①AI生成コンテンツがどのようなステークホルダーの権利・利益に関わるか（例: 性的被害、詐欺、政治的操作等）という社会的影響に準拠した軸と、②バリューチェーン上のどの関係者（例: AI開発者、AI利用者、プラットフォーム運営者等）がどのように問題と関わるかという技術スタックに準拠した軸の双方があり、それらの掛け算で問題をマッピングしていくことも一案ではないか
- コンテンツの自動検知は確率論的な性質を帯びており、判別精度の可視化と閾値設計のあり方が重要な実装課題として指摘しうる
- AI生成であることと、有害・違法であることは同じではなく、利用目的や文脈を踏まえた判断が必要である
- 検知技術だけに頼らず、被害者保護やモデレーション、人による判断を含めた実務的な対策が必要である
- AIそのものには意図が存在せず、コンテンツの「作成者」「流通者」「再拡散者」でそれぞれ問題の性質が異なること、さらに無意図的な誤情報（misinformation）と意図的な偽情報（disinformation）の区別といったアプローチが、規制設計上の重要論点である
- オンライン詐欺は複数のサービスを横断して行われるため、プラットフォーム、通信、金融・決済などの業界連携が重要である
- EU AI法のようなリスクベースアプローチは基本権への影響評価と組み合わせることで有効に機能しうる一方、分野によって適不適がある
- オープンソースAIを介した悪用については、大手プラットフォームを前提とした既存の議論の枠組みを見直す必要がある
- 「AI出力の責任は人間が担う」という原則の実務的な実装方法、および誠実に対応する事業者が不利益を被らないインセンティブ設計の必要性がある
- AI自体を処罰するという発想は現行の（人間中心の）刑罰観念からは無理があるものの、開発者個人に過剰に責任を追及すると萎縮効果で技術開発が止まってしまう。故意のものでなければ「AIのせい」として誰にも個人的責任を帰さない形で社会全体として受容する、という選択肢も検討に値するのではないか
- 故意かどうかの判断、すなわち「偽情報」と「誤情報」の区別が重要になる。ただ、ユーザー側の意図が確実に生成コンテンツに反映されるとは限らず、人間の意図に着目するというアプローチが万能というわけではない
今後の活動予定
以降は、第一回で得られた論点を改めて整理した上で、研究会を継続開催しながら取りまとめを実施していくことを予定しております。
