Gigazin2022年12月13日
https://gigazine.net/news/20221213-china-ban-ai-content/

近年、Stable DiffusionやMidjourneyなどの画像生成AIの開発が急速に進んでおり、誰でも手軽にAIによるコンテンツ生成を実行できる環境が整いつつあります。そんな中、中国政府が画像やムービーを生成できるAIについて「ユーザーの実名登録」や「AIによって生成された旨の表示」を義務付ける規則を発表しました。

国家互?网信息?公室等三部??布《互?网信息服?深度合成管理?定》-中共中央网?安全和信息化委?会?公室
http://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm
China bans deepfakes created without permission or for evil ? The Register
https://www.theregister.com/2022/12/12/china_deep_synthesis_deepfake_regulation/
China bans AI-generated media without watermarks | Ars Technica
https://arstechnica.com/information-technology/2022/12/china-bans-ai-generated-media-without-watermarks/
（略）
二次元キャラに強い中国の画像生成AIで「天安門事件」「革命」など政治的な文言のブロックが行われていることが判明
https://gigazine.net/news/20220915-baidu-ernie-vilg-blocks-political-content/

そんな状況の中、中国政府は2022年12月11日にコンテンツ生成AIに関する新規則を発表しました。（略）
・コンテンツ生成AIの提供者は、ユーザーの身元情報を確認し、コンテンツ管理を強化する必要がある
・人間の顔やリアルなシーンを生成する際は、AIによって生成されたことを示すマークを目立つように表示する必要がある
・AI生成コンテンツであることを示すマークを改ざんしてはならない
・コンテンツ生成AIは法律および行政法規によって禁止されている活動に使用されてはならない
・コンテンツ生成AIの提供者は、生成されたコンテンツが情報セキュリティ上のリスクを含んでいる場合にユーザーのアカウントを停止しなければならない
・規則は中国国内でコンテンツを流布するコンテンツ生成AIに適用される
上記の新規則は、2023年1月10日に発効予定です。

関連
【偽証】人生を狂わせるレベルの「ディープフェイク画像」を他人のSNS投稿から無料1時間で制作できるGoogleのAI技術
https://asahi.5ch.net/test/read.cgi/newsplus/1671005135/