- OpenAI は ChatGPT で年齢予測モデルを有効化し、18 歳未満の可能性のあるユーザーを検出し、より多くのセキュリティ フィルターを適用します。
- このシステムは、行動シグナルとアカウントデータを分析し、ペルソナを介したセルフィー認証と公式文書を通じてエラーを修正できるようにします。
- 未成年者のアカウントが特定されると、残酷な暴力、性的ロールプレイング ゲーム、危険なバイラル チャレンジなどのセンシティブなコンテンツへのアクセスが制限されます。
- この展開は世界規模で行われ、規制圧力の高まりと将来の「成人向けモード」の計画を背景に、今後数週間以内に欧州連合にも導入される予定だ。
OpenAIは、 ChatGPT、年齢予測システムこれにより、チャットボットが18歳未満のユーザーを扱う方法が大幅に変更されます。同社は、アカウントが10代の若者のものか成人のものかに応じて、ユーザー体験とセキュリティ対策を自動的に調整することを目指している。
この決定は微妙な時期に下され、 AIが未成年者に与える影響に対する規制圧力の高まり 同社とCEOのサム・アルトマン氏に対する訴訟は進行中で、高リスクな状況における会話型アシスタントの役割を調査する訴訟である。同時に、同社は 最年少の視聴者を保護せずに新しいコンテンツ形式の基盤を整備する.
ChatGPTの年齢予測モデルの仕組み
この新機能は、 アカウントが18歳未満の人のものであるかどうかを推定できる人工知能モデルこれは、サービス自体が生成する複数のシグナルに基づいています。ユーザーが登録時に申告した情報だけでなく、複数の指標を組み合わせることで、ユーザーの年齢プロフィールをより正確に推測することができます。
OpenAIによると、このシステムは アカウントの年齢、典型的なアクティビティ時間データには、時間の経過に伴う使用パターンや、ユーザーがプロフィール作成時に入力した年齢も含まれます。この大規模な展開により、同社は最も信頼性の高い要素を特定し、モデルをさらに改良してエラーを削減することを目指しています。
このアプローチは、ほぼ独占的に 年齢の自己申告は簡単に回避できるこれにより、合理的な疑いがある場合に追加の保護機能を有効にする、より自動化されたシステムが実現します。これは実際には、既存のペアレンタルコントロールやファミリー設定を補完する追加レイヤーとなります。
OpenAIは、 年齢予測システムは絶対確実なものではない同社は、成人が未成年者として扱われるケースや、逆にAIが10代の若者とやり取りしていることを適時に検知できないケースが発生する可能性があることを認識しており、こうしたエラーを修正するための追加の検証メカニズムを提案している。
未成年者にとって何が変わるか：センシティブなコンテンツの制限
モデルが考慮すると アカウントは18歳未満の人のものである可能性が高いChatGPTは、より保護されたエクスペリエンスを自動的に有効化します。その目的は、児童発達に関する文献によると青少年に大きな影響を与える可能性がある特定の種類のコンテンツへの露出を減らすことです。
その文脈において、プラットフォームは 残酷な暴力、残酷なシーン、特に残酷な描写に関する追加フィルターロールプレイングゲームへの参加を制限することに加えて 性的要素恋愛関係や暴力的なコンテンツは禁止されます。また、危険または有害な行動を促す可能性のあるバイラルチャレンジも制限されます。
OpenAIがブレーキをかけたいもう一つの分野は 極端な美の基準を強化するコンテンツ不健康なダイエットや、体型を非難するような内容は、ユーザーが若すぎるとシステムが判断した場合は、より慎重に対処されるか、完全にブロックされる。
これらの追加の安全策は、 ChatGPTがすでにすべてのユーザーに適用しているセキュリティ制御年齢は問いません。アシスタント自体は、ポルノや露骨な性描写を生成せず、自傷や自殺の指示を避け、犯罪の実行方法を説明しておらず、第三者の個人情報を提供しないことを明言しています。
次のようなトピックについて 健康、基本的な性、暴力、政治チャットボットは既に教育的かつ中立的なアプローチで運用されており、扇情的な口調や説得的な意図は一切避けています。今回の変更点は、アカウントが未成年者のものであると思われる場合、特定の事項についてはより慎重に扱われるか、完全にフィルタリングされる点です。
本人確認：自撮り写真と公的書類
AIがミスをした場合、OpenAIは ペルソナによる年齢確認プロセス...本人確認を専門とするサードパーティプロバイダーです。誤って未成年と分類された成人が、ChatGPTの機能に再びフルアクセスできるようになることを目的としています。
手順はサービス設定のアカウントセクションから始まり、 「年齢確認」そこからユーザーはペルソナにリダイレクトされ、 携帯電話やパソコンのカメラを使ったライブセルフィー その人が成年年齢に達していることを確認するため。
国によっては、システムには 公式の身分証明書国民IDカード、パスポート、運転免許証など。これらの情報を用いて、Personaはユーザーが18歳以上であることを確認し、画像や原本を共有することなく、結果のみをOpenAIに送信します。
チェックを通過すると、 未成年者向けの体験に関連する追加の制限が削除されます。 その後、アカウントは一般的なセキュリティ制限の範囲内で、成人アカウントと同様に機能します。OpenAIは、この変更がリンクされたすべてのサービスとデバイスに反映されるまでには、しばらく時間がかかる可能性があると警告しています。
プライバシーに関しては、同社は 当該者は最大 7 日以内に自撮り写真と文書を削除します。 OpenAIはこれらのファイルにアクセスしません。OpenAIは生年月日またはそれに相当する成人の信号のみを受信し、これにより将来的に当該アカウントの予測を無効にすることができます。
厳しい規制圧力とヨーロッパが注目される中での動き
年齢予測の実施は、規制の文脈なしには理解できない。OpenAIは、この措置が規制の必要性に応えるものであることを認めている。 ChatGPTをティーンエイジャーの現実に適応させる また、AIサービスにおける未成年者へのさらなる保証を求める当局や立法者の要求もあります。
米国では、連邦取引委員会（FTC）が 同社は、これらのテクノロジーが若いユーザーに及ぼす影響について継続的な調査を続けています。一方、同社は、極めて危険な状況におけるチャットボットの責任をめぐる訴訟に直面している。新たな安全対策は、こうした緊張を緩和し、安全への積極的な取り組みを示すことを目的としている。
の中で 欧州連合システムの導入が到着する 「今後数週間以内に」OpenAIは、EUのデータ保護およびデジタルサービスに関する規制に起因する追加の地域的要件を考慮する必要があります。欧州は、生成AIシステムを含むオンラインプラットフォームにおける未成年者の取り扱いに関して特に厳しい規制を設けています。
この措置は、YouTubeなどの他のプラットフォームの慣行とも一致しており、 追加の年齢確認 アカウントの背後に未成年者がいる可能性があると疑われる場合。この場合、ChatGPTはそのアプローチを部分的に模倣していますが、センシティブなコンテンツへの露出を事前に予測するモデルを採用しています。
OpenAIはシステム設計が完了したと述べている 子どもの発達の専門家の参加を得て リスク認識、衝動制御、特定の種類のメッセージに対する脆弱性などの面における青少年と成人の違いに関する学術研究に依拠しています。
800億人のユーザー、将来の「大人モード」とコントロールの必要性
年齢予測機能の発表は、ChatGPTの急速な拡大期と重なる。OpenAIは、このサービスがすでに 週あたり約800億人のアクティブユーザー、相手が誰であるかに応じて、コンテンツがどのように提供され、制限されるかについて秩序を強制するスケールです。
同社は最近数週間で、 ChatGPT は無料版で広告の表示を開始します。 米国の一部ユーザー向けには、より高額な有料サブスクリプションへの広告なしアクセスを維持しながら、この措置を講じます。これは、収益増加に向けたより広範な戦略の一環です。
実際、同社自身も、 2025年までに年間収益は20.000億ドルを超えるだろうこれは、コンピューティング能力の拡大とモデルの利用増加により、前年の推定6.000億人から大幅に増加した。
並行して、OpenAIは将来の ChatGPTの「アダルトモード」この機能により、ユーザーが年齢確認を行えば、よりセンシティブなコンテンツカテゴリーにアクセスできるようになります。同社のアプリケーション担当ディレクターであるフィジ・シモ氏は、未成年者によるこのオプションへのアクセスをブロックするための強力な安全対策が講じられることを条件に、この機能は2026年第1四半期に導入される予定だと述べました。
年齢予測はその計画に合致する ある程度の安全余裕をもって、青年期の経験を成人期の経験から切り離すために必要な部分この分離がなければ、より露骨な内容のモードを有効にすることを規制当局や一般大衆に正当化することは困難でしょう。
子供たちのAI利用を形作る目に見えないインフラ
見出し以外にも、ChatGPTの年齢予測は次のように機能します 何百万人もの若いユーザーの日常生活を形作る静かなインフラたとえティーンエイジャーが年齢を公に申告していなくても、システムは、何が見えて何が見えないか、どんな会話が可能でどれが制限されるかを決定します。
この賭けの成功は、次の 2 つの要素に左右されます。 モデルの精度とそれがもたらす摩擦のレベルあまりにも多くの成人に誤ったラベルを貼れば、すぐに苦情が寄せられるでしょう。不十分であれば、特にヨーロッパやその他の要求の厳しい管轄区域において、未成年者に対する保護が不十分であることに批判が集中するでしょう。
制限はあるものの、この新機能は、主要なAIプラットフォームが自社製品の利用者に対して具体的な責任を負う上で重要な一歩を踏み出したことを示しています。 オンラインセキュリティアライアンスOpenAI の場合、数か月に及ぶ公開討論、規制の進展、そして拡張、収益化、セキュリティを 1 つの動きに組み合わせることを必要とする商業的成長を経て実現しました。
この世界的な展開と、間もなく欧州連合に導入されることにより、ChatGPTは次のモデルへと移行しています。 年齢はもはやフォームに入力される単なるデータではない チャットボットが各ユーザーに提供する会話の種類、コンテンツ、制限を決定する中心的な変数になります。