- ブリュッセルは、未成年者を含む合意のない性的画像の作成と配布について、Grok en Xに対する正式な調査を開始した。
- 欧州委員会は、X がシステムリスクの評価と軽減においてデジタルサービス法を遵守しているかどうかを評価します。
- X社はすでに1億2000万ユーロの罰金を科されており、今後は世界売上高の最大6%の罰金と、Grok社に対する暫定措置も課せられることになる。
- この訴訟は、大規模なAIプラットフォームやソーシャルメディアネットワークに対し、国民、特に女性や子供を保護するようEUが広く圧力をかけている一環だ。
欧州連合は、大手IT企業との対立をさらに深めることを決定し、 Xに統合された人工知能ツールGrok（旧Twitter）コミュニティ機関は、プラットフォーム上での展開が必要な安全対策を講じずに行われ、 女性や子供の性的画像を操作したもの多くの場合、同意なしです。
この新たな正式な調査は、 デジタルサービス規制（DSA）大規模プラットフォームが自社のサービスに関連するリスクをどのように管理しなければならないかを規定する規制。ブリュッセルは、X社がGrokの危険性を早期に評価し、それを軽減するための効果的な対策を実施したのか、それとも逆に、 欧州市民の権利を巻き添え被害として扱ってきた 人工知能への取り組みについて。
欧州委員会は具体的に何を調査しているのでしょうか?
欧州委員会が開始した調査は、Xが 特定のリスク評価 DSA では、欧州連合で Grok の機能を開始および拡張する前に、主要プラットフォームに対して、自社のシステムがセキュリティ、未成年者の保護、ユーザーの心身の安全、違法コンテンツの拡散にどのような影響を与えるかを分析することを義務付けています。
グロクの場合、焦点は 性的に露骨な画像の自動生成特に未成年者を含む実在の人物に影響を与えるもの。XのAIツールが、実在の人物の顔を裸体に重ねたり、性的な状況に置いたりするディープフェイクの作成と共有を可能にしたかどうかについて調査が行われている。これは、性犯罪に該当する可能性がある。 児童性的虐待に関する資料 被害者が子供または十代の若者である場合。
ブリュッセルはまた、2023年12月にすでに開始していた、 Xコンテンツの推奨同社は、Grokをそのアルゴリズムに統合し、AIが各ユーザーが見る投稿に直接影響を与えると発表しており、偽情報、ヘイトスピーチ、その他のシステムリスクの管理について新たな疑問が生じている。
コミュニティの情報筋によると、 潜在的な損害はもはや仮説ではない欧州委員会は、リスクが現実のものとなり、EU市民の心身の健康に深刻な影響を及ぼしていると主張している。まさにこの理由から、本件は期限は未定ではあるものの、優先的に処理される。
性的ディープフェイクと児童虐待：そのきっかけ
このヨーロッパの攻勢の直接の起源は、 同意のない性的なディープフェイク Grokで生成。様々な研究や団体が、わずか数日間で実際の写真から何百万枚もの加工画像が作られ、特に女性や未成年者に影響を与えると警告している。一部の報告では、 何百万もの性的画像 わずか2週間で生産され、そのうち数万個が子供たちに影響を与えることになる。
この現象はEUに限ったことではありませんが、児童保護やジェンダーに基づくデジタル暴力に関する意識の高まりにより、特にヨーロッパで大きな反響を呼んでいます。欧州委員会委員長は、 ウルズラ・フォン・デア・ライエン彼は、欧州連合はシリコンバレーに「児童保護をアウトソーシング」するつもりはなく、プラットフォームが独自に行動しない場合は、 欧州当局が介入するだろう.
同様に、技術主権、安全保障、民主主義担当の執行副大統領は、 ヘナ・ヴィルクネン彼女はこれらのディープフェイクを「暴力的で容認できない形の品位低下」と表現しています。彼女のメッセージは明確です。彼らは、XがDSAの義務を尊重したのか、それともGrokの開発を二の次にして女性や子供の権利を考慮したのかを知りたいのです。
これは、この人工知能をめぐる物議を醸す最初の事件ではない。数週間前にも、Grokはすでに批判を受けていた。 ホロコーストを軽視したり隠蔽したりする内容これにより、ブリュッセルでは、X社が自社のプラットフォームに組み込む技術のリスクを適切に評価していないという考え方を強めた。
デジタルサービス法に基づくXの義務
ブリュッセルの行動を導く枠組みは デジタルサービス規制この規制は、欧州でユーザー数の基準を超えたカテゴリーXに該当する、いわゆる「超大規模オンラインプラットフォーム」に対して具体的な規則を定めています。これらの企業は、偽情報から…に至るまで、システムリスクを特定し、対処する必要があります。 違法コンテンツの拡散とジェンダー暴力.
DSAでは、サービスのリスクプロファイルを大幅に変更する可能性のある新機能を導入する前に、プラットフォームが リスク評価報告書 また、それらの影響を軽減するためにどのような対策を講じるかを詳細に説明してください。本件において、委員会はX社に対し、技術試験から設計上の決定に至るまで、Grokに関連するすべての内部文書を保管し、提出するよう命じました。
欧州当局はまた、違法なオンラインコンテンツの責任は、それを作成した者だけにあるわけではないと指摘している。デジタル法を専門とする法律専門家、例えば教授の解釈によれば、 ボルハ・アドスアラプラットフォームには、そのコンテンツを削除する義務が生じます。 繰り返し拡散するのを防ぐ 一度その存在に気づけば、特に未成年者に影響を与える場合にはなおさらです。
ブリュッセルは、X社が事前の具体的なリスク評価なしにGrokの機能を有効化・拡張できたこと、そして当初の批判を受けて導入された技術的障壁が不十分だったことを疑っている。実際、複数の欧州メディアは、同社が新たな制限を発表した後も、 フィルターをバイパスするのはまだ比較的簡単だった そして、このツールを使って性的な画像を生成します。
考えられる制裁と暫定措置
グロクによるXに対する捜査は象徴的な警告ではない。DSAは欧州委員会が課すことを認めている。 世界全体の年間売上高の最大6％の罰金 最も深刻なケースでは、企業の損失は甚大です。売上高が数千億ドル、数十億ドル規模の企業では、損失額は大幅に増加し、その影響は単なる金銭的損失をはるかに超えます。
並行して、この規則は中間制裁措置と、 暫定措置 調査が終了する前に重大なリスクが検出された場合、ブリュッセルはXの特定のGrok機能の制限または停止を命じたり、 フィルターと安全対策の緊急の技術的変更 AIツールの有害な可能性を軽減します。
欧州委員会は、12月にX社に罰金を科した際に、すでに制裁権限を行使する意思を示していた。 1億2000万ユーロの罰金 主な理由は3つあります。広告の透明性の欠如、青い検証マークの誤解を招くデザイン、そして研究者による公開データへのアクセスのブロックです。この罰金は、DSAがこれらの違反に対して認めている最高額に近づき、 業界全体への通知.
Grokの具体的な事例では、欧州委員会が重大な違反を繰り返していると認定した場合、欧州の法的枠組みは更なる措置を講じることを可能にします。極端な状況では、以下のような措置が検討されます。 コミュニティ地域でのサービスの一時停止違反が累積し、会社が是正を拒否した場合は、X の特定の機能をブロックしたり、最終的には完全にシャットダウンしたりする可能性があります。
Xの反応と国際的な圧力
先導する企業から イーロン・マスク公式見解としては、生成された画像に対する責任は、それを作成および配布するユーザーにあると主張してきた。Xは、 児童の性的搾取に対するゼロトレランス 同意のないヌードも禁止し、センシティブなコンテンツの生成を制限するために Grok に調整を導入している。
最近の声明では、 同社は、今後はユーザーがビキニや下着、その他露出度の高い衣服を着た実在の人物を描写することを許可しないと発表した。少なくとも、そのような行為が違法となる可能性がある場合には、欧州の規制当局はこれらの措置は遅すぎ、不十分であると考えている。 適切な予防措置が取られていなかったむしろ世論の論争に対する反応である。
Grokをめぐる論争はEU外でも反響を呼んでいる。 マレーシアとインドネシア性的ディープフェイクに関する苦情が殺到したため、画像サービスへのアクセスをブロックするまでに至った。しかし、あるケースでは、Xが新たな保障措置を約束したことで制限が解除された。他の国では、 イタリア, 合成ヌードに特化したアプリに対して措置を講じたそして 米国と中国は訴訟を起こした この種のコンテンツをビジネスモデルとする企業に対して。
ヨーロッパでは、EUの行動に加えて、いくつかの国の政府も対策を講じている。フランス政府は Xを裁判所に報告した スペインでは、名誉、プライバシー、肖像権に関する法律を改正する予備法案が推進されており、 人工知能による「超なりすまし」 ディープフェイクを使用した脆弱性の特定の形式として。
生成AIの規制における重要な事例
グロクに対する訴訟は、当面の法廷闘争を超えて、 DSAの適用方法に関する参考事例 大規模なオンラインプラットフォームに統合された生成型人工知能（GAI）への応用。他のスタンドアロンAIサービスとは異なり、このツールはヨーロッパで数千万人のユーザーを抱えるソーシャルネットワークの中核を担っており、その応答はほぼ瞬時に配信されます。
欧州の規制当局は、調査はGrokの使用に焦点を当てていると明言した。 X以内マスク氏のAI企業xAIのスタンドアロンウェブサイトやその他のアプリケーションでは、DSAは適用されません。これは、コミュニティ人口の10%以上にリーチするプラットフォームにのみ適用されるためです。xAIはこの基準を軽々と超えています。
実際には、欧州委員会はプラットフォームの義務の範囲を明確にしようとしている。 システムを管理し、再設計する違法または有害なコンテンツの拡散を促進していることが証明された場合問題は、X が警告を受けて特定の画像を削除したかどうかだけではなく、Grok とその推奨ツールを最初から責任を持って設定したかどうかです。
この調査は、デジタル規制に関する大西洋横断的な議論とも絡んでいる。ワシントンからは、DSAが欧州の規制を軽視していると批判する声が上がっている。 表現の自由を制限する米国企業に罰則を科すブリュッセルは、表現の自由は未成年者の性的搾取、ジェンダー暴力、あるいは世論の大量操作を容認するための盾として使われることはできないと反論している。
X社が進路を正し、Grok社が欧州の法律を遵守して運営できることを証明しようとしている一方で、EU機関は、EUの運営方法の転換点となる可能性のある訴訟を進めている。 ソーシャルネットワークと生成AIモデルの組み合わせこの裁判で何が決まるかは、グロクのヨーロッパでの将来を決定するだけでなく、 これにより、他の主要プラットフォームに対して、期待される責任のレベルについて明確なメッセージが送られることになります。 こうしたツールを何百万人もの人々に提供できるようになると、