ユニセフ（国連児童基金）は、人工知能（AI）生成による性的画像の流通量が急増しているとの報告に懸念を深めています。こうした性的画像には、子どもの画像が加工され性的表現に改変された事例も含まれます。

ディープフェイク、すなわちAIを用いて生成・加工され、本物のように見える画像・動画・音声が、子どもを巻き込んだ性的コンテンツの制作にますます利用されています。「ヌーディフィケーション」と呼ばれる、AIツールを用いて被写体の衣服を脱がせたり加工したりして、偽造されたヌードや性的画像を作成する手法もその一つです。

この脅威が世界規模で急拡大していることは、数字で裏付けられています。ユニセフと国際NGOのECPAT、インターポール（国際刑事警察機構）が共同で実施した11カ国を対象にした調査*（注記参照）では、過去1年間に少なくとも120万人の子どもが自身の画像が性的に露骨なディープフェイクに加工されたと報告したことが明らかになっています。国によってこれは18歳未満人口の25人に1人に相当し、こうした被害を受けている子どもが、一般的な人数のクラスに1人いるような状況です。

子どもたち自身もこのリスクを深刻に捉え始めています。いくつかの調査対象国では、「AIによって偽の性的画像や動画が作られるのではないか」と不安に感じる子どもが、3人に2人にのぼりました。こうした懸念が子どもたちの間に広がっている度合いは、国によって大きく異なります。しかし、この“異なっている”という事こそが、この問題に関する強力な啓発、予防、そして子どもたちを保護するための対策が緊急に必要になっていることを浮き彫りにしています。

議論の余地はありません。AIツールで生成・加工された子どもの性的画像は、子どもの性的虐待コンテンツ（CSAM）です。ディープフェイクによる虐待は、虐待です。画像はフェイクでも、ディープフェイクがもたらす被害はフェイクではありません。

（たとえフェイクであろうと）実在する子どもの画像や身元が特定できる情報が利用されれば、その子は直接被害を受けているのです。また、仮に身元が特定できる被害者がいなくても、AIで生成された子どもの性的虐待コンテンツを許容することは、「子どもの性的搾取」を社会的に許容することを意味し、そうしたコンテンツへの需要を助長し、被害を受けている子どもたちを発見し保護しようとする法執行機関に重大な課題を突きつけることに繋がります。

ユニセフは、安全性を考慮した設計（safety-by-design）や、システムの悪用を防ぐための強固なガードレールを導入しているAI開発者の皆さまの取り組みを強く歓迎します。しかし、現状は依然として一様でなく、デジタル世界には、十分な安全対策なしに開発されるAIモデルが溢れています。生成AIツールがソーシャルメディア・プラットフォームに直接組み込まれた場合、フェイク画像が急速に拡散し、リスクがさらに増幅される可能性もあります。

ユニセフは、AI生成による子どもの性的虐待コンテンツの脅威が深刻化する今の状況に対処するため、緊急に次の措置が取られるよう、国際社会に訴えます。

•各国政府に：子どもの性的虐待コンテンツ（CSAM）の定義を拡大し、その中にAI生成コンテンツを含めること。また、その作成、入手、所持、流通を、犯罪として禁止すること。•AI開発者に：AIモデルの悪用を防ぐため、「安全性を考慮した設計（safety-by-design）」とシステムの悪用を防ぐための強固な「ガードレール」を導入すること。•デジタル関連企業に：AI生成した子どもの性的虐待コンテンツを、被害が発生した後の削除に留まらない流通防止対策を講じることを求めます。また、検知技術への投資を進め、コンテンツ監視体制の強化を図り、被害者や代理人からの通報後（早くても数日を要するのが現状）ではなく、即時削除を実現すること。

各国政府に：子どもの性的虐待コンテンツ（CSAM）の定義を拡大し、その中にAI生成コンテンツを含めること。また、その作成、入手、所持、流通を、犯罪として禁止すること。

AI開発者に：AIモデルの悪用を防ぐため、「安全性を考慮した設計（safety-by-design）」とシステムの悪用を防ぐための強固な「ガードレール」を導入すること。

デジタル関連企業に：AI生成した子どもの性的虐待コンテンツを、被害が発生した後の削除に留まらない流通防止対策を講じることを求めます。また、検知技術への投資を進め、コンテンツ監視体制の強化を図り、被害者や代理人からの通報後（早くても数日を要するのが現状）ではなく、即時削除を実現すること。

ディープフェイクによる虐待の被害は、フェイクではなく現実に起きています。緊急の対応が必要です。子どもたちは、法律が現実に追いつくのを待つことはできません。

本声明は、ユニセフが、昨年12月に発表した「子どもの権利」の視点に立ったAI技術の開発と普及、啓発活動のための最新のガイダンス「子どもたちとAI　第３版」（英文のみ）に基づいてまとめたものです。

AIと子どもの性的虐待・搾取問題に関するユニセフの見解等については、以下のリンク先（英文のみ）をご覧ください。

* 本調査は、ユニセフのイノチェンティ研究所がECPATインターナショナルとインターポールと共同で実施する研究プロジェクトの一環として行われたものです。現在、第２段階に入っている本プロジェクトは、子どもをオンラインの危険から守るための国際的投資プラットフォーム「Safe Online」の資金提供を受け、デジタル技術が子どもの性的搾取・虐待をいかに助長するかを検証。各国政府の制度や政策、対応を強化するための必要な情報や根拠を集めています。

ユニセフ（UNICEF：国際連合児童基金）は、すべての子どもの権利と健やかな成長を促進するために活動する国連機関です。現在約190の国と地域※で、多くのパートナーと協力し、その理念をさまざまな形で具体的な行動に移しています。特に、最も困難な立場にある子どもたちへの支援に重点を置きながら、世界中のあらゆる場所で、すべての子どもたちのために活動しています。ユニセフの活動資金は、すべて個人や企業・団体からの募金や各国政府からの任意拠出金で支えられています。https://www.unicef.org

公益財団法人 日本ユニセフ協会は、32の先進国・地域にあるユニセフ国内委員会の一つで、日本国内において民間で唯一ユニセフを代表する組織として、ユニセフ活動の広報、募金活動、アドボカシーを担っています。https://www.unicef.or.jp