對教育行業(yè)有何影響？逐條拆解AI新規(guī)《生成式人工智能服務管理暫行辦法》

　　文|百千 教育行業(yè)研究者

　　編者按：

　　本文系多知網投稿，作者百千。近期，《生成式人工智能服務管理暫行辦法》公布，作者逐條解讀了《辦法》及其對教育行業(yè)可能帶來的影響。其中，不管是境外AIGC公司或者接入境外API的境內公司，不管是基座模型層面，或者是應用層面，均會受到該《辦法》管理。由此可見，若嚴格按照《辦法》執(zhí)行，對于中小企業(yè)，AIGC在教育領域面臨持續(xù)支出而創(chuàng)收較弱的問題。

　　7月12日，《生成式人工智能服務管理暫行辦法》(后稱《辦法》)對外公布，距離其征求意見稿發(fā)布僅3個月，并將于2023年8月15日起施行。速度不可謂不快，也足以見國家對生成式人工智能的關注度及監(jiān)管的緊迫性。

　　相比科技行業(yè)，教育行業(yè)向來屬于慢行業(yè)，但教育卻以內容為核心。本次AIGC對內容生產將起到巨大影響，教育行業(yè)也不可避免。接下來，我們將詳細解讀《辦法》及其對教育行業(yè)可能帶來的影響。

　　發(fā)布單位有國家互聯網信息辦公室、中華人民共和國國家發(fā)展和改革委員會、中華人民共和國教育部、中華人民共和國科學技術部、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家廣播電視總局。

　　解析：該《辦法》以網信辦牽頭，優(yōu)先監(jiān)管為互聯網企業(yè)或者線上內容，基于AIGC技術生成線下產品或服務的企業(yè)在監(jiān)管優(yōu)先級上略微靠后。其他部委參與發(fā)布，可增強法律權威性和適用范圍，但預計不久后上述各個部委將發(fā)布針對各自領域的政策細則。教育企業(yè)核心關注教育部相關細則。

　　第一條：為了促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規(guī)，制定本辦法。

　　解析：首要監(jiān)管范圍，在網絡安全、數據安全、個人信息安全、技術產權等領域。大多教育企業(yè)在技術方面依賴第三方技術公司，可向供應商提及相關需求，增加該類管控。特別要關注數據出境問題。

　　第二條：利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務(以下稱生成式人工智能服務)，適用本辦法。

　　國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的，從其規(guī)定。

　　行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等研發(fā)、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規(guī)定。

　　解析：明確對象。公司若面向海外客戶，可不受該《辦法》限制。據調研，確有部分基于AIGC的國內教育公司，其產品僅面向海外。

　　另外，若各類機構僅出于研發(fā)考慮，應用AIGC技術，不受《辦法》限制。相關教育企業(yè)，若僅將AIGC技術應用于研發(fā)，不應用于自身產品，不受《辦法》限制。

　　從該條可看出，政策鼓勵基于AIGC相關研究，管理環(huán)節(jié)主要在于觸達用戶階段。

　　第三條：國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

　　解析：比起一刀切，分級管理是更優(yōu)的管理方式，等待細則。

　　第四條：提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：

　　(一)堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內容;

　　(二)在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視;

　　(三)尊重知識產權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數據、平臺等優(yōu)勢，實施壟斷和不正當競爭行為;

　　(四)尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益;

　　(五)基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。

　　解析：比起征求意見稿時“內容應當真實準確”，《辦法》理解AIGC模型幻覺的客觀存在，緩和表述為“采取有效措施提升準確性和可靠性”，實為容錯率上的放寬。對采用AIGC的教育企業(yè)有一定利好。

　　第五條：鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質內容，探索優(yōu)化應用場景，構建應用生態(tài)體系。

　　支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數據資源建設、轉化應用、風險防范等方面開展協(xié)作。

　　第六條：鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定。

　　推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

　　解析：旨在明確大模型之間的競爭，需要國內各企業(yè)團結從而與海外競爭。教育類企業(yè)通常沒有足夠的資金實力和人才密度去參與競爭，可進入該類聯盟或其附屬，搭乘技術便車。

　　第八條：在生成式人工智能技術研發(fā)過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則;開展數據標注質量評估，抽樣核驗標注內容的準確性;對標注人員進行必要培訓，提升尊法守法意識，監(jiān)督指導標注人員規(guī)范開展標注工作。

　　解析：教育企業(yè)通常不具備基座大模型的開發(fā)能力，采用三方基座模型在做本地化部署為更可行操作，其中微調前期準備涉及數據清洗、標注等內容。教育企業(yè)的數據規(guī)化通常較差，在線教育興起后推動全行業(yè)數據化提升，但若采用AIGC，則對數據化要求再次升高。

　　第九條：提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

　　提供者應當與注冊其服務的生成式人工智能服務使用者(以下稱使用者)簽訂服務協(xié)議，明確雙方權利義務

　　解析：此前征求意見稿要求“用戶提供真實身份信息”，《辦法》將其刪除，要求“提供者和使用者簽訂協(xié)議”，將管理權交給市場。教育企業(yè)曾有或現在依舊存與用戶在權利義務協(xié)議方面，故意模糊以促使銷售的情況。若之后采用AIGC提供內容，需更加明確權責利。

　　第十條：提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

　　解析：該條更適用于AIGC游戲領域應用，不過教育領域擁有采用游戲化學習方式的產品，該條未來對該類企業(yè)將產生影響。

　　第十二條：提供者應當按照《互聯網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識。

　　解析：需標識AI生成內容。若教育產品中，標識其內容由AI生成，而非真人老師生成，將降低用戶對其內容的價值判斷，拉低客單價。

　　第十三條：提供者應當在其服務過程中，提供安全、穩(wěn)定、持續(xù)的服務，保障用戶正常使用。

　　解析：AI基座模型的使用上，需要plan B。

　　第十四條：提供者發(fā)現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關主管部門報告。

　　提供者發(fā)現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。

　　解析：通常大型互聯網平臺會對“審核員”有大量需求，該《辦法》實施，會導致采用AIGC技術相關企業(yè)，增加人工審核環(huán)節(jié)。教育企業(yè)曾經在此類人員招聘上較少，若大量使用AIGC產品，可能需要增加更多人工審核員工。

　　第十七條：提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規(guī)定開展安全評估，并按照《互聯網信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　解析：“具有輿論屬性或者社會動員能力的生成式人工智能服務”的范圍需進一步明確，但教育很可能在其中。

　　第二十條：對來源于中華人民共和國境外向境內提供生成式人工智能服務不符合法律、行政法規(guī)和本辦法規(guī)定的，國家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。

　　解析：境外AIGC直接向境內用戶提供服務的，會收到嚴管控。同時，境外公司提供API，境內接入的情況，依舊存在合規(guī)問題。目前教育創(chuàng)業(yè)項目，此類問題較明顯。

　　第二十三條：法律、行政法規(guī)規(guī)定提供生成式人工智能服務應當取得相關行政許可的，提供者應當依法取得許可。

　　外商投資生成式人工智能服務，應當符合外商投資相關法律、行政法規(guī)的規(guī)定。

　　解析：許可證將成為提供AIGC服務的準入門檻，不過暫無法確定是否針對所有企業(yè)，還是大型企業(yè)。外商投資教育領域AIGC，需符合《雙減》規(guī)定。

　　第二十四條：本辦法自2023年8月15日起施行

　　解析：有想法的教育企業(yè)，需盡快咨詢網信辦具體規(guī)定。

　　總體而言，不管是境外AIGC公司或者接入境外API的境內公司，不管是基座模型層面，或者是應用層面，均會受到該《辦法》管理。大量的面向境內提供服務的中小型教育公司，在使用AIGC上均面臨許可證、內容監(jiān)管等額外成本。同時，AIGC在教育領域的商業(yè)化進程并不順利(參見文章《大模型應用的商業(yè)化進展慢，為什么慢?》)，支出>收益的情況短時間較難解決。采取審慎的態(tài)度使用AIGC能力，對于中小型教育企業(yè)或許是更穩(wěn)妥的策略。

　　讓子彈飛一會兒。

　　(本文僅代表作者個人觀點，供讀者參考。)