世界各地で被害が深刻化しているディープフェイク犯罪だが、ディープフェイクによる性犯罪の被害が中国でも横行しているという。
28日、中国の現地メディア「新京報」によると、中国のダークウェブサイトなどでは、インフルエンサーや女性芸能人の顔写真を利用して、AI（人工知能）で合成して作成されたわいせつ画像などが多数存在するという。
合成したわいせつ画像を作成している加害者たちは、5元（約100円）で彼女たちのヌード画像が作成可能だといい、20元（約400円）を出せば動画も作ることができると宣伝している。
新京報は、このような合成写真や動画を販売するだけでなく、作成方法を教えるところまですでにビジネス化され拡大していると報じた。
会員制サービスにして商売をするグループや中国の動画プラットフォーム「bilibili」や中国版Instagramと呼ばれる「RED（小紅書）」などのSNSで「ヌード画像作成の教育課程」などとうたっているグループまで存在するという。
あるインフルエンサーのわいせつ合成画像を共有する目的で作成されたSNSのトークルームを確認したところ、参加者は15,000人を超え、芸能人やスポーツ選手を素材にしたディープフェイクが投稿されていたという。トークルームの運営者が提案した会員費は70元（約1,420円）であった。
中国の現行法においては、AIでわいせつな合成画像の制作自体が治安管理処罰法に、金銭を対価に受注・制作する行為は淫乱物制作・販売罪にそれぞれ違反している。
写真を共有したり、配布したりするだけでも淫乱物流布罪が成立し、合成技術を教えることは犯罪幇助や犯罪教唆に該当する。
このような処罰を受ける可能性があるにもかかわらず、AI技術の向上により、犯罪のハードルそのものが低くなり、ディープフェイクによる性犯罪は後を絶たないと新京報は分析した。
6月、北京市の公安当局は「白菜の値段でわいせつ画像作成可能」、「知人からインフルエンサー、芸能人までみな可能」という広告を前面に出し、7,000枚の合成画像を351人に販売したIT企業の元技術者を摘発した。
この事件は、中国国内でディープフェイク犯罪への関心が高まるきっかけとなった。
北京のあるセキュリティ企業の最高技術責任者は「まずは大手プラットフォームが身元認証を強化することで、多次元認証・リスク検知・ビッグデータ分析などの技術と知識グラフに基づく因果推論を利用して犯罪リスクを低下させることができる」とし、「電子透かしと呼ばれるデジタルウォーターマークなどの研究・開発も拡大する必要がある」と強調した。