本報(bào)訊記者邢萌田鵬

4月11日，我國(guó)國(guó)家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（下稱《征求意見(jiàn)稿》）公開(kāi)征求意見(jiàn)。

《征求意見(jiàn)稿》關(guān)鍵闡述了生成式人工智能應(yīng)用訓(xùn)練樣本及形成信息的真實(shí)性。在其中，就給予生成式人工智能技術(shù)產(chǎn)品和服務(wù)做出五大規(guī)定，明確提出“運(yùn)用生成式人工智能技術(shù)產(chǎn)生的具體內(nèi)容理應(yīng)真正精確，采取有效措施避免形成不實(shí)信息”。與此同時(shí)，也對(duì)產(chǎn)品訓(xùn)練樣本做出五項(xiàng)要求，明確提出“可以保證數(shù)據(jù)信息真實(shí)性、精確性、普遍性、多元性”。

“《征求意見(jiàn)稿》的實(shí)施，代表著AI領(lǐng)域標(biāo)準(zhǔn)化腳步正加速，AIGC產(chǎn)業(yè)鏈可持續(xù)性發(fā)展現(xiàn)行政策風(fēng)口期即將到來(lái)。”北京中關(guān)村信息科技發(fā)展趨勢(shì)研究會(huì)副理事長(zhǎng)兼頂尖數(shù)據(jù)經(jīng)濟(jì)師陳曉華接受《證券日?qǐng)?bào)》采訪時(shí)表示，從有關(guān)規(guī)章能夠得知，在我國(guó)極其高度重視此次AI所帶領(lǐng)的科技變革，相關(guān)部門(mén)在激勵(lì)科技創(chuàng)新、全面推廣、國(guó)際交流的前提下，也專注于防止“先污染后治理”的窘境。

注重形成具體內(nèi)容真實(shí)有效

伴隨著ChatGPT受歡迎銷售市場(chǎng)，人們對(duì)生成式人工智能技術(shù)了解程度不斷提高，激起市場(chǎng)需求與此同時(shí)，也加快了有關(guān)企業(yè)戰(zhàn)略布局。

但是，AIGC市場(chǎng)發(fā)展正面臨著不實(shí)信息的困擾。我國(guó)信息通信研究院和京東探索研究院公布的《人工智能生成內(nèi)容（AIGC）白皮書(shū)（2022年）》表明，近些年，伴隨著人工智能應(yīng)用日漸成熟，機(jī)器深度學(xué)習(xí)后產(chǎn)生的具體內(nèi)容更加真實(shí)，可以達(dá)到“真假難辨”效果。

在這樣的背景下，《征求意見(jiàn)稿》重點(diǎn)強(qiáng)調(diào)了生成式人工智能應(yīng)用訓(xùn)練樣本及形成信息的真實(shí)性。

“這將引領(lǐng)‘可靠’生成式人工智能服務(wù)的高速發(fā)展。”大成律師事務(wù)所高級(jí)合伙人肖颯對(duì)《證券日?qǐng)?bào)》記者說(shuō)，針對(duì)生成式人工智能服務(wù)而言，“可靠”是很無(wú)法實(shí)現(xiàn)的。關(guān)鍵問(wèn)題偏向服務(wù)項(xiàng)目形成具體內(nèi)容可靠水平的變化化，一時(shí)較快的準(zhǔn)確性主要表現(xiàn)，一時(shí)難以辨認(rèn)的隱匿不正確，是阻攔對(duì)此類服務(wù)項(xiàng)目授予大量信賴的重要原因。

除此之外，《征求意見(jiàn)稿》對(duì)用以生成式人工智能應(yīng)用的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)信息也進(jìn)行了明確規(guī)定：一是要合乎《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等相關(guān)法律法規(guī)的需求；二并不是帶有侵犯知識(shí)產(chǎn)權(quán)內(nèi)容；三是數(shù)據(jù)信息包括個(gè)人信息，理應(yīng)征求私人信息行為主體允許或是合乎法律法規(guī)、法規(guī)規(guī)定其他情形；四是可以保證數(shù)據(jù)信息真實(shí)性、精確性、普遍性、多元性；五是國(guó)家網(wǎng)信部門(mén)有關(guān)生成式人工智能服務(wù)的許多監(jiān)管政策。

對(duì)于此事，肖颯覺(jué)得，對(duì)服務(wù)其背后的信息進(jìn)行統(tǒng)一要求，最直觀的實(shí)際意義就是模型擬合輸入端進(jìn)行改善，進(jìn)而盡可能的確保輸出端口視頻的純粹性、精確性。長(zhǎng)遠(yuǎn)來(lái)看，其實(shí)是對(duì)全部數(shù)據(jù)信息有關(guān)全產(chǎn)業(yè)鏈明確提出新要求，應(yīng)該是整個(gè)市場(chǎng)數(shù)據(jù)采集、傳送、買(mǎi)賣、檢測(cè)、維護(hù)保養(yǎng)和保護(hù)的全方位制度性，非常符合現(xiàn)行標(biāo)準(zhǔn)法律對(duì)數(shù)據(jù)分析的各個(gè)方面規(guī)定，可以巨大程度上避免后面違法違規(guī)行為的產(chǎn)生。

《比較》雜志期刊研究院負(fù)責(zé)人陳永偉對(duì)《證券日?qǐng)?bào)》記者說(shuō)，總體來(lái)說(shuō)，《征求意見(jiàn)稿》有關(guān)要求給生成式AI發(fā)展趨勢(shì)劃分界線的前提下，也向其留下充足的發(fā)展前景，進(jìn)而取長(zhǎng)補(bǔ)短，將技術(shù)發(fā)展趨勢(shì)的正方向功效發(fā)揮到極致。

服務(wù)項(xiàng)目前要申請(qǐng)安全風(fēng)險(xiǎn)評(píng)估

在中國(guó)AIGC發(fā)展趨勢(shì)初期搞好合規(guī)工作，可以為領(lǐng)域后面穩(wěn)步發(fā)展服務(wù)保障。據(jù)《證券日?qǐng)?bào)》新聞?dòng)浾卟煌暾?，目前為止，已?jīng)有百度搜索、華為公司、騰訊官方、阿里巴巴、京東商城、360等互聯(lián)網(wǎng)公司合理布局生成式人工智能技術(shù)業(yè)務(wù)流程，而且不少企業(yè)早已發(fā)布對(duì)應(yīng)商品。

“生成式人工智能技術(shù)迅速發(fā)展，增添了眾多網(wǎng)絡(luò)信息安全等方面的風(fēng)險(xiǎn)性?！卑踩C券研報(bào)表明，一方面，數(shù)據(jù)泄露風(fēng)險(xiǎn)性，大量隱秘?cái)?shù)據(jù)和AI互動(dòng)以后，有可能被用于迭代更新練習(xí)，導(dǎo)致隱私信息的泄漏，特別是我國(guó)、機(jī)構(gòu)及私人信息，都面臨潛在性風(fēng)險(xiǎn)；另一方面，AIGC被惡意應(yīng)用風(fēng)險(xiǎn)還在升高，有可能被用于惡意程序形成，發(fā)展趨勢(shì)智能化系統(tǒng)黑客攻擊武器裝備，加強(qiáng)了網(wǎng)絡(luò)信息安全難度系數(shù)。

深圳信息技術(shù)產(chǎn)業(yè)區(qū)塊鏈協(xié)會(huì)會(huì)生鄭定項(xiàng)對(duì)《證券日?qǐng)?bào)》記者說(shuō)，生成式人工智能應(yīng)用現(xiàn)階段僅僅是一個(gè)機(jī)器程序流程，并沒(méi)有法律關(guān)系主體身份和民事行為能力，那如果被用于實(shí)行違法活動(dòng)，比如進(jìn)攻計(jì)算機(jī)軟件、偷盜數(shù)據(jù)信息或參加詐騙等，也會(huì)成為刑事犯罪的一種手段或方式。鑒于此，為了保證人工智能合理合法和公平公正，必須對(duì)給予生成式人工智能技術(shù)產(chǎn)品和服務(wù)進(jìn)行相應(yīng)的法律約束。

因此，《征求意見(jiàn)稿》注重生成式人工智能技術(shù)產(chǎn)品安全性?！墩髑笠庖?jiàn)稿》明確提出，我國(guó)適用人工智能技術(shù)、架構(gòu)等基本技術(shù)的科技創(chuàng)新、全面推廣、國(guó)際交流，支持優(yōu)先選擇選用安全可信的app、專用工具、運(yùn)算數(shù)據(jù)資料。但運(yùn)用生成式人工智能應(yīng)用向社會(huì)提供幫助前，應(yīng)申請(qǐng)安全風(fēng)險(xiǎn)評(píng)估。

鄭定項(xiàng)表明，生成式人工智能技術(shù)技術(shù)和產(chǎn)品的高速發(fā)展歸根到底為了能服務(wù)項(xiàng)目于己，科學(xué)合理、周密的法律法規(guī)是發(fā)展中不可或缺的重要組成部分。

招商證券表明，新技術(shù)應(yīng)用發(fā)展與監(jiān)管合規(guī)并不矛盾關(guān)聯(lián)，離不了管控在機(jī)制體制基本建設(shè)里的健全，及其產(chǎn)業(yè)鏈政策引領(lǐng)。與此同時(shí)，監(jiān)管措施也正在積極融入現(xiàn)代信息技術(shù)創(chuàng)新。特別是AIGC問(wèn)世至今，監(jiān)管部門(mén)對(duì)數(shù)據(jù)處理方法行為主體、數(shù)據(jù)處理過(guò)程及其伴隨著的國(guó)防安全與信息安全的認(rèn)識(shí)也在逐漸清楚。預(yù)估伴隨著大量AIGC技術(shù)的發(fā)展落地式，一些潛在風(fēng)險(xiǎn)把更多被認(rèn)知和曝露，管控側(cè)監(jiān)管方案也會(huì)更加“對(duì)癥治療”，《征求意見(jiàn)稿》只是第一步。