國家互聯(lián)網(wǎng)信息辦公室近日聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》），自2023年8月15日起施行。

據國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人介紹，該《辦法》旨在促進(jìn)生成式人工智能健康發(fā)展和規范應用，維護國家安全和社會(huì )公共利益，保護公民、法人和其他組織的合法權益。

統籌生成式人工智能發(fā)展和安全

隨著(zhù)生成式人工智能技術(shù)的快速發(fā)展，其在為經(jīng)濟社會(huì )發(fā)展帶來(lái)新機遇的同時(shí)，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權益、數據安全和偏見(jiàn)歧視等問(wèn)題。如何統籌生成式人工智能發(fā)展和安全引起各方關(guān)注。該負責人指出，出臺《辦法》，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險的現實(shí)需要。

《辦法》涵蓋了技術(shù)發(fā)展與治理、服務(wù)規范、監督檢查和法律責任等方面，共計五章24條。

據介紹，《辦法》中所稱(chēng)生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關(guān)技術(shù)。生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個(gè)人。生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內容的組織、個(gè)人。

據該負責人介紹，利用生成式人工智能技術(shù)向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務(wù)，適用該《辦法》。國家對利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng )作等活動(dòng)另有規定的，從其規定。行業(yè)組織、企業(yè)、教育和科研機構等研發(fā)、應用生成式人工智能技術(shù)，未向境內公眾提供生成式人工智能服務(wù)的，不適用《辦法》。

《辦法》提出，國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng )新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng )新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級監管。

鼓勵生成式人工智能創(chuàng )新發(fā)展

《辦法》明確，國家鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，生成積極健康、向上向善的優(yōu)質(zhì)內容，探索優(yōu)化應用場(chǎng)景，構建應用生態(tài)體系。

據該負責人介紹，針對生成式人工智能服務(wù)，《辦法》在促進(jìn)生成式人工智能健康發(fā)展方面有不同考慮：

在監管方式上，對生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級監管，要求國家有關(guān)主管部門(mén)針對生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應用，完善與創(chuàng )新發(fā)展相適應的科學(xué)監管方式，制定相應的分類(lèi)分級監管規則或者指引。

在促進(jìn)發(fā)展具體措施上，明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，生成積極健康、向上向善的優(yōu)質(zhì)內容，探索優(yōu)化應用場(chǎng)景，構建應用生態(tài)體系。

同時(shí)，支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關(guān)專(zhuān)業(yè)機構等在生成式人工智能技術(shù)創(chuàng )新、數據資源建設、轉化應用、風(fēng)險防范等方面開(kāi)展協(xié)作。

此外，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術(shù)的自主創(chuàng )新，平等互利開(kāi)展國際交流與合作，參與生成式人工智能相關(guān)國際規則制定。推動(dòng)生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數據分類(lèi)分級有序開(kāi)放，擴展高質(zhì)量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

提供和使用生成式人工智能服務(wù)須依法依規

《辦法》明確，提供和使用生成式人工智能服務(wù)，應當遵守法律、行政法規，尊重社會(huì )公德和倫理道德。

首先，在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中，要采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視。

其次，尊重知識產(chǎn)權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數據、平臺等優(yōu)勢，實(shí)施壟斷和不正當競爭行為。

再次，尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽(yù)權、榮譽(yù)權、隱私權和個(gè)人信息權益。

最后，基于服務(wù)類(lèi)型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內容的準確性和可靠性。

《辦法》明確，生成式人工智能服務(wù)提供者應當依法開(kāi)展預訓練、優(yōu)化訓練等訓練數據處理活動(dòng)，使用具有合法來(lái)源的數據和基礎模型；涉及知識產(chǎn)權的，不得侵害他人依法享有的知識產(chǎn)權。涉及個(gè)人信息的，應當取得個(gè)人同意或者符合法律、行政法規規定的其他情形；采取有效措施提高訓練數據質(zhì)量，增強訓練數據的真實(shí)性、準確性、客觀(guān)性、多樣性。此外，明確了數據標注的相關(guān)要求。

值得一提的是，在生成式人工智能服務(wù)規范方面，《辦法》要求，要采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)。

例如，提供者應當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》對圖片、視頻等生成內容進(jìn)行標識；發(fā)現違法內容的，應當及時(shí)采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓練等措施進(jìn)行整改；發(fā)現使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應當依法依約采取有關(guān)處置措施，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報告。

該負責人強調，《辦法》規定，提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理公眾投訴舉報并反饋處理結果。使用者若發(fā)現生成式人工智能服務(wù)不符合法律、行政法規和《辦法》規定，有權向有關(guān)主管部門(mén)投訴、舉報。

來(lái)源：《光明日報》