CDT編者按：鳳凰網相關報道原標題為《國家網信辦：人工智能生成的內容應當體現社會主義核心價值觀》，目前已被更改為《國家網信辦關於《生成式人工智能服務管理辦法（征求意見稿）》公開征求意見的通知》。
4月11日，中國國家網信辦擬出台新規管理生成式AI，要求“人工智能生成的內容應當體現社會主義核心價值觀”。其中，“生成式人工智能服務管理辦法（征求意見稿）”第四條第1項寫道“利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義製度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容”。第七條第(1)(5)內容為“用於生成式人工智能產品的預訓練、優化訓練數據，應符合《中華人民共和國網絡安全法》等法律法規的要求、應滿足國家網信部門關於生成式人工智能服務的其他監管要求”。
以下為CDT摘自部分微博、推特網友評論：
賀仁平：還沒開始，就結束了。
lgmaths3：ai都還沒做出來呢，就先管上了。
honda400Xowner：基本宣布這個領域死亡了。
李小馬小馬：東西都還沒出來，法就出來了。未雨綢繆啊。點讚。
lamxyoo1：噢，對了還有，Ai不得展示新聞合訂本。
luobotou02：一邊控製思想，一邊要求創新驅動發展。
Circadianeye：不錯哦，為AI發展指明了方向。
dukeofsouthwest：@chatxjp
a_free_cat00：寧可AI智障，也一定要有黨性。
碩學逗唱：強（監管）人工智能。
vincent的喵：創新沒有你，管製最積極。
Vnana_zhr：ai每個回答前都要加上：偉大的習總書記說過….
OAAxijinping：問：如何洗淨瓶子？文心一言：換個問題試試吧。
heBPZN2O7YjNuy4：太魔幻了。
SoapBrown：AI進入中國必須先入黨，學習習近平思想。
laomaomaoyu：想自由學習，但是有些不能學，能學的要怎樣學也要限製。這種東西注定一出生就是殘疾人。
lnpjzss1：任何高科技在我黨的領導下都必然成為管控人民的工具～！哪怕chatgtp100.0也得配個黨委書記才能在這片土地上運行～！
microach小強：求生欲望很強的嘛。
以下是報道《國家網信辦關於《生成式人工智能服務管理辦法（征求意見稿）》公開征求意見的通知》的全文：
為促進生成式人工智能技術健康發展和規範應用，根據《中華人民共和國網絡安全法》等法律法規，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，現向社會公開征求意見。公眾可通過以下途徑和方式提出反饋意見：
1.登錄中華人民共和國司法部
中國政府法製信息網（www.moj.gov.cn、www.chinalaw.gov.cn），進入首頁主菜單的“立法意見征集”欄目提出意見。
2.通過電子郵件方式發送至：wajscy@cac.gov.cn。
3.通過信函方式將意見寄至：北京市海澱區阜成路15號國家互聯網信息辦公室網絡安全協調局，郵編100048，並在信封上注明“生成式人工智能服務管理辦法征求意見”。
意見反饋截止時間為2023年5月10日。
附件：生成式人工智能服務管理辦法（征求意見稿）
國家互聯網信息辦公室
2023年4月11日
生成式人工智能服務管理辦法
（征求意見稿）
第一條為促進生成式人工智能健康發展和規範應用，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規，製定本辦法。
第二條研發、利用生成式人工智能產品，麵向中華人民共和國境內公眾提供服務的，適用本辦法。
本辦法所稱生成式人工智能，是指基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。
第三條國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先采用安全可信的軟件、工具、計算和數據資源。
第四條提供生成式人工智能產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，符合以下要求：
（一）利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義製度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。
（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。
（三）尊重知識產權、商業道德，不得利用算法、數據、平台等優勢實施不公平競爭。
（四）利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。
（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
第五條利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。
第六條利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
第七條提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。
用於生成式人工智能產品的預訓練、優化訓練數據，應滿足以下要求：
（一）符合《中華人民共和國網絡安全法》等法律法規的要求；
（二）不含有侵犯知識產權的內容；
（三）數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形；
（四）能夠保證數據的真實性、準確性、客觀性、多樣性；
（五）國家網信部門關於生成式人工智能服務的其他監管要求。
第八條生成式人工智能產品研製中采用人工標注時，提供者應當製定符合本辦法要求，清晰、具體、可操作的標注規則，對標注人員進行必要培訓，抽樣核驗標注內容的正確性。
第九條提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規定，要求用戶提供真實身份信息。
第十條提供者應當明確並公開其服務的適用人群、場合、用途，采取適當措施防範用戶過分依賴或沉迷生成內容。
第十一條提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規另有規定的，從其規定。
第十二條提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。
第十三條提供者應當建立用戶投訴接收處理機製，及時處置個人關於更正、刪除、屏蔽其個人信息的請求；發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業秘密，或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續。
第十四條提供者應當在生命周期內，提供安全、穩健、持續的服務，保障用戶正常使用。
第十五條對於運行中發現、用戶舉報的不符合本辦法要求的生成內容，除采取內容過濾等措施外，應在3個月內通過模型優化訓練等方式防止再次生成。
第十六條提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識。
第十七條提供者應當根據國家網信部門和有關主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優化訓練數據的來源、規模、類型、質量等描述，人工標注規則，人工標注數據的規模和類型，基礎算法和技術體係等。
第十八條提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容，不利用生成內容損害他人形象、名譽以及其他合法權益，不進行商業炒作、不正當營銷。
用戶發現生成內容不符合本辦法要求時，有權向網信部門或者有關主管部門舉報。
第十九條提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫停或者終止服務。
第二十條提供者違反本辦法規定的，由網信部門和有關主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規的規定予以處罰。
法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智能提供服務，並處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
第二十一條本辦法自2023年 月 日起實施。