EU AI法：第50条で画面の何が変わるのか

AIの画面を監査すると、決まって同じ場面に出会います。法務チームは規則を読み、プロダクトチームは機能をリリースした。しかし、両者が交わるまさにその場所、つまりチャットボットの吹き出し、画像の下のラベル、通話の最初のメッセージを誰も確認していないのです。そして第50条が義務を課しているのは、まさにその場所です。

本記事では、条文が実際に何を求めているのか、それをどう画面に落とし込むか、そしてよく見かける誤りについて整理します。法律の専門家による助言に代わるものではありませんが、相談の際に適切な問いを持って臨めるようになるはずです。

スケジュールの現状

人工知能に関する欧州規則（規則2024/1689）は2024年8月1^日 に発効し、段階的に適用されています。

• 2025年2月2日 ：一部の行為（ソーシャルスコアリング、操作など）の禁止と、これらのシステムを利用するチームに対するAIリテラシーの義務。
• 2025年8月2日 ：汎用AIモデルの提供者、つまり大規模モデルを開発する事業者に対する義務。
• 2026年8月2日 ：透明性に関する第50条を含む、規則の全面適用。
• 2027年8月2日 ：すでに規制対象となっている製品（医療機器、機械、玩具など）に組み込まれた高リスクAIに対する義務。

2025年末、欧州委員会は「デジタル・オムニバス」と呼ばれる簡素化パッケージを提案しました。高リスクAIに関する義務の一部を延期し、一部の技術的なマーキングについて猶予期間を設けることなどが盛り込まれています。これらの調整は現在も議論中のため、本記事をお読みの時点での最新状況をご確認ください。とはいえ、どのような現実的なシナリオでも、第50条の原則が消えることはありません。その原則とは、 人々はAIとやり取りしているときに、そのことを知らされなければならない.

第50条が実際に定めていること

第50条には4つの義務があります。すべてが同じ主体に課されるわけではなく、まずこの点をチーム内で明確にすることが重要です。規則は、 提供者 （システムを開発し、自社名で市場に投入する者）と 導入者 （事業活動の中でそのシステムを利用する者）を区別しています。大規模モデルのAPIを自社アプリケーションに組み込み、自社ブランドで提供する企業は、機能によっては両方に該当することが少なくありません。

1. AIと対話していることを伝える。 人と直接やり取りするよう設計されたシステムは、AIとやり取りしていることを相手に知らせなければなりません。ただし、状況から見て、合理的に注意を払う人にとって明らかな場合は除きます。チャットボット、音声アシスタント、メールで返信するエージェントなどが対象となる義務です。
2. 生成コンテンツにマーキングする。 テキスト、画像、音声、動画を生成するシステムは、生成物が人工的なものとして検出できるよう、機械可読な形式でマーキングしなければなりません。この義務は主に生成システムの提供者が対象です。ユーザーのテキストを実質的に変更しない文章作成支援機能には適用されません。
3. 感情や生体的特徴を分析する前に知らせる。 感情認識システムや生体分類システムを導入する場合、その対象となる人々に通知しなければなりません。
4. ディープフェイクと一部のテキストを明示する。 実在の人物、場所、出来事を欺くような形で模倣した画像、音声、動画は、生成されたものであることを明示しなければなりません。公共の利益に関わる事項について一般の人々に情報を提供するために公開される生成テキストも同様です。ただし、編集上の責任を負う人が確認したものは除きます。

見落とされがちなのが第50条の第5項ですが、プロダクトチームにとっては最も具体的な内容です。情報は 明確かつ認識可能な形で、遅くとも最初のやり取りまたは接触の時点までに提供されなければならず、さらにアクセシビリティ要件を満たす必要があります。

画面ごとに見た具体的な意味

サポート用チャットボット

最もよくあるケースであり、最も対応が不十分なケースでもあります。原則はシンプルです。最初のメッセージの前、またはその時点で、相手は担当者と話しているのではないことを知っている必要があります。具体的には、ボットの最初のメッセージに一文（「私は〜の自動アシスタントです」）を入れること、人間の名前に見えない名称にすること、そして会話のヘッダーに常時表示されるラベルを置くことです。

不十分な例：利用規約内の記載、テキストのないキラキラアイコン、「Julie」という名前の笑顔の人物アバター。ボットの名前がJulieなら、それはもはや法律の問題ではなく、誠実さの問題です。

音声アシスタントと電話自動応答

リアルな合成音声の場合、「明らか」という例外はほぼ使えません。通話の冒頭、質問の前に、AIであることを音声で伝える必要があります。また、通話が人間に切り替わるタイミングも想定し、それを伝えましょう。人は相手が機械か人間かによって話し方を変えます。条文が守ろうとしているのは、まさにその点です。

プロダクト内の生成コンテンツ

アプリケーションで画像、商品ビジュアル、音声を生成する場合、技術的なマーキング（不可視の透かし、来歴メタデータ）は通常、モデルの提供者の責任です。しかし、あなた自身がその提供者である場合や、モデルの出力を加工してから届けている場合は、その責任があなたに及びます。提供者に、何をどのようにマーキングしているか、そして自社の処理パイプライン（圧縮、トリミング、変換）でそのマーキングが保持されるかを確認しましょう。これはデザインの問題であると同時に、アーキテクチャの問題でもあります。

インターフェース上では、義務以上の対応をしても何の問題もありません。AIが作成したビジュアルに小さく「生成画像」とラベルを付けるだけで、特にそのビジュアルがプロダクトの外で再共有された場合に、クライアントとの多くの誤解を防げます。

AIが作成したテキスト

条文をざっと読むと誤解しやすいのがこの点です。生成テキストの表示義務が対象とするのは、 公共の利益に関わる事項について一般の人々に情報を提供する目的で公開されるテキストであり、人が確認してその責任を負う場合は義務が免除されます。モデルの支援を受けて作成した商品ページ、営業メール、サポートの回答が自動的に対象になるわけではありません。一方、確認なしに生成記事を公開するメディアや自治体は直接の対象となります。

「明らか」という例外は慎重に扱う

条文は、人工的なものであることが「状況と利用の文脈を考慮して、合理的に十分な情報を持ち、注意深く慎重な自然人の観点から」明らかな場合、通知を免除しています。この一文を根拠に、何も表示しないチームをよく見かけます。

私たちの考えは逆です。明らかなものなど何もないと考えてください。プロダクトを設計したチームにとって明らかなことでも、日曜の夜に保険会社へ問い合わせる高齢の方や、スクリーンリーダーを使っていて、すべてを伝えるはずの紫色のアイコンが見えない方にとっては明らかではありません。一文を読むのにかかるのは3秒です。インターフェースが「明らか」かどうかをめぐる紛争には、はるかに大きなコストがかかります。

誰もが認識できる表示にする

第50条は、情報がアクセシビリティ要件を満たすことを求めています。チームが後になって気づくことの多い点で、非常に実務的な影響があります。

• アイコンだけでは不十分です。スクリーンリーダーで読み上げられるテキストの代替が必要です。
• 表示は色に頼らずに認識でき、十分なコントラストと読みやすいサイズである必要があります。
• チャットボットでは、最初のメッセージが支援技術によって読み上げられる必要があり、そのためには会話エリアが適切にマークアップされていなければなりません。
• 音声の場合、画面があるときは、音声による通知に加えて文字でも表示する必要があります。

朗報もあります。多くのデジタルサービスで2025年6月から施行されている欧州アクセシビリティ法（EAA）への対応をすでに進めていれば、道のりの半分は済んでいます。2つの取り組みは一緒に進めるのが効果的です。

よく見かける誤り

1. 隠された表示。 フッター、ツールチップ、利用規約の中。条文が求めているのは、どこかで確認できる情報ではなく、最初のやり取りの時点での明確な情報です。
2. 人間のふり。 名前、ストックフォト、人間らしく見せるよう調整された入力中インジケーター付きの「確認しますね」。錯覚を助長するものはすべて、条文の趣旨に反します。
3. キラキラアイコンだけの表示。 ✨のピクトグラムは多くのプロダクトでAIの記号になっていますが、誰にでも共通の意味があるわけではなく、スクリーンリーダーでは何も伝わりません。
4. 無言の切り替え。 人間の担当者が会話を引き継ぐ、またはその逆が、誰にも知らされないまま行われる。
5. 途中で失われるマーキング。 モデルは画像にマーキングしているのに、自社のパイプラインが画像を圧縮し、メタデータを削除してしまう。

本番リリース前のチェックリスト

• すべてのAI機能がリスト化され、それぞれについて自社の役割（提供者、導入者、またはその両方）が明確になっている。
• AIとの直接的なやり取りは、最初のやり取りの時点で、はっきりと言葉で伝えられている。
• アシスタントの名前とアバターが、人間だと誤解させるものになっていない。
• AIと人間の間の切り替えが、どちらの方向でも伝えられている。
• 表示はスクリーンリーダーで読み上げ可能で、色やアイコンだけに頼っていない。
• モデル提供者が何をマーキングしているかを把握し、自社の処理パイプラインでそれが保持されている。
• 実在の人物や場所を模倣した生成コンテンツが明示されている。
• 人による確認なしに公開される情報提供目的のテキストが、生成されたものとして明示されている。

第50条は求めていないが、ユーザーが期待していること

第50条は透明性の義務であり、品質の義務ではありません。高リスクではないシステムについて、人による監督を設けたり、提案の一つひとつを説明したり、信頼度を表示したりすることを義務づけるものではありません。しかし、AI機能が使われるか無視されるかを分けるのは、まさにこうした要素なのです。

「これはAIです」と伝えるのは最低限です。「この提案の理由はこれで、根拠はこれです。決めるのはあなたです」と伝えることが信頼を生みます。こうしたインターフェース設計については、別の記事で詳しく解説しています： ユーザーがAI機能を信頼しない理由.

本記事は、プロダクトチーム向けに私たちの規則の読み方を紹介するものです。法的助言ではありません。個別のケースについては、専門の法律家に分析の確認を依頼してください。

よくある質問

EU AI法第50条は小規模企業にも適用されますか？

はい。透明性義務は企業の規模にかかわらず適用されます。調整されるのは制裁金の上限のみで、中小企業とスタートアップについては、1,500万ユーロと全世界売上高の3%のうち低い方が適用されます。

AIの支援を受けて作成したテキストは明示する必要がありますか？

必ずしもそうではありません。この義務が対象とするのは、公共の利益に関わる事項について一般の人々に情報を提供するために公開されるテキストであり、人が確認して編集上の責任を負う場合は免除されます。確認済みの商品ページやメールは、この点では対象外です。

キラキラアイコンだけでAIであることを示せますか？

いいえ。情報は明確で、認識可能で、アクセシブルである必要があります。テキストのないアイコンには誰にでも共通する意味がなく、スクリーンリーダーを使う方には伝わりません。

ユーザーにはいつ知らせる必要がありますか？

遅くとも、最初のやり取りまたはコンテンツへの最初の接触の時点です。チャットボットであれば、何度かやり取りした後ではなく、最初のメッセージから知らせる必要があります。