國家互聯網信息辦公室

中華人民共和國國家發展和改革委員會

中華人民共和國教育部

中華人民共和國科學技術部

中華人民共和國工業和資訊化部

中華人民共和國公安部

國家廣播電視總局

令

第15號

《生成式人工智慧服務管理暫行辦法》已經2023年5月23日國家互聯網信息辦公室2023年第12次室務會會議審議通過，並經國家發展和改革委員會、教育部、科學技術部、工業和資訊化部、公安部、國家廣播電視總局同意，現予公佈，自2023年8月15日起施行。

國家互聯網資訊辦公室主任 庄榮文

國家發展和改革委員會主任 鄭柵潔

教育部部長 懷進鵬

科學技術部部長 王志剛

工業和資訊化部部長 金壯龍

公安部部長 王小洪

國家廣播電視總局局長 曹淑敏

2023年7月10日

生成式人工智慧服務管理暫行辦法

第一章 總 則

第一條 為了促進生成式人工智慧健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網路安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，制定本辦法。

第二條 利用生成式人工智慧技術向中華人民共和國境內公眾提供生成文本、圖片、音訊、視頻等內容的服務（以下稱生成式人工智慧服務），適用本辦法。

國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。

行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智慧技術，未向境內公眾提供生成式人工智慧服務的，不適用本辦法的規定。

第三條 國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展，對生成式人工智慧服務實行包容審慎和分類分級監管。

第四條 提供和使用生成式人工智慧服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：

（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害資訊等法律、行政法規禁止的內容;

（二）在演算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視;

（三）尊重智慧財產權、商業道德，保守商業秘密，不得利用演算法、數據、平臺等優勢，實施壟斷和不正當競爭行為;

（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益;

（五）基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。

第二章 技術發展與治理

第五條 鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。

支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。

第六條 鼓勵生成式人工智慧演算法、框架、晶元及配套軟體平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。

推動生成式人工智慧基礎設施和公共訓練數據資源平台建設。 促進算力資源協同共用，提升算力資源利用效能。 推動公共數據分類分級有序開放，擴展高品質的公共訓練數據資源。 鼓勵採用安全可信的晶元、軟體、工具、算力和數據資源。

第七條 生成式人工智慧服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：

（一）使用具有合法來源的數據和基礎模型;

（二）涉及智慧財產權的，不得侵害他人依法享有的智慧財產權;

（三）涉及個人資訊的，應當取得個人同意或者符合法律、行政法規規定的其他情形;

（四）採取有效措施提高訓練數據品質，增強訓練數據的真實性、準確性、客觀性、多樣性;

（五）《中華人民共和國網路安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

第八條 在生成式人工智慧技術研發過程中進行數據標註的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標註規則; 開展數據標註質量評估，抽樣核驗標註內容的準確性; 對標註人員進行必要培訓，提升尊法守法意識，監督指導標註人員規範開展標註工作。

第三章 服務規範

第九條 提供者應當依法承擔網路資訊內容生產者責任，履行網路資訊安全義務。 涉及個人資訊的，依法承擔個人信息處理者責任，履行個人信息保護義務。

提供者應當與註冊其服務的生成式人工智慧服務消費者（以下稱消費者）簽訂服務協定，明確雙方權利義務。

第十條 提供者應當明確並公開其服務的適用人群、場合、用途，指導消費者科學理性認識和依法使用生成式人工智慧技術，採取有效措施防範未成年人使用者過度依賴或者沉迷生成式人工智慧服務。

第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

第十三条 提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。

第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

第四章 监督检查和法律责任

第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。

国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。

第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。

参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。

第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

第二十一条 提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。

构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第五章 附 則

第二十二條 本辦法下列用語的含義是：

（一）生成式人工智慧技術，是指具有文本、圖片、音訊、視頻等內容生成能力的模型及相關技術。

（二）生成式人工智慧服務提供者，是指利用生成式人工智慧技術提供生成式人工智慧服務（包括通過提供可程式設計介面等方式提供生成式人工智慧服務）的組織、個人。

（三）生成式人工智慧服務消費者，是指使用生成式人工智慧服務生成內容的組織、個人。

第二十三條 法律、行政法規規定提供生成式人工智慧服務應當取得相關行政許可的，提供者應當依法取得許可。

外商投資生成式人工智慧服務，應當符合外商投資相關法律、行政法規的規定。

第二十四條 本辦法自2023年8月15日起施行。