（CWW）安全是人類對(duì)美好生活的向往與追求，是社會(huì)發(fā)展的永恒主題，當(dāng)前人工智能正在深刻改變?nèi)祟惖纳a(chǎn)生活方式，在給人類帶來重大發(fā)展機(jī)遇的同時(shí)，也對(duì)數(shù)據(jù)安全、社會(huì)治理以及科技倫理帶來嚴(yán)峻的挑戰(zhàn)。近日，在ISC2023第十一屆互聯(lián)網(wǎng)安全大會(huì)上，來自安全領(lǐng)域的領(lǐng)導(dǎo)、專家紛紛為針對(duì)人工智能監(jiān)管、數(shù)據(jù)資源整合、網(wǎng)絡(luò)安全建設(shè)等主題提出了自己的真知灼見，為我國(guó)未來安全產(chǎn)業(yè)發(fā)展提出了寶貴建議。
(資料圖片僅供參考)
人工智能監(jiān)管時(shí)不我待
當(dāng)前，通用人工智能發(fā)展日益體現(xiàn)出技術(shù)創(chuàng)新快、應(yīng)用滲透強(qiáng)、經(jīng)濟(jì)社會(huì)影響大、國(guó)際競(jìng)爭(zhēng)激烈的特點(diǎn)。我國(guó)人工智能產(chǎn)業(yè)發(fā)展也已進(jìn)入快車道，數(shù)據(jù)安全是網(wǎng)絡(luò)空間安全的基礎(chǔ)，也是國(guó)家安全的重要組成部分。
最近這段時(shí)間，以ChatGPT為代表的生成式人工智能熱度一直不減，它大力推動(dòng)了我國(guó)經(jīng)濟(jì)社會(huì)發(fā)展，已經(jīng)和將要發(fā)揮更重要的作用。但是也會(huì)看到，當(dāng)前生成式人工智能還有很多亟待解決的問題，比如生成信息的準(zhǔn)確性、真實(shí)性，以及價(jià)值觀等方面存在一些問題，亟待研究解決。
第十三屆全國(guó)政協(xié)經(jīng)濟(jì)委員會(huì)副主任蘇波指出，未來要完善人工智能數(shù)據(jù)安全監(jiān)管體系，用規(guī)范監(jiān)管保障安全發(fā)展，加快完善人工智能健康發(fā)展的監(jiān)管規(guī)則和法律法規(guī)，推進(jìn)明確人工智能數(shù)據(jù)安全法律原則，確立不同參與主體在人工智能生命周期各階段所享有的數(shù)據(jù)權(quán)利與承擔(dān)的安全責(zé)任，制定人工智能產(chǎn)品應(yīng)用服務(wù)的數(shù)據(jù)安全服務(wù)產(chǎn)品體系，通過檢測(cè)驗(yàn)證提升人工智能產(chǎn)品安全性和成熟度，降低人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)。
對(duì)人工智能的監(jiān)管已經(jīng)在路上。日前中央網(wǎng)信辦會(huì)同相關(guān)部門起草并發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），于8月15日正式施行。《辦法》在起草過程中始終把推進(jìn)人工智能等新技術(shù)發(fā)展應(yīng)用作為工作的重要出發(fā)點(diǎn)和落腳點(diǎn)，支持和促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。
中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)羅鋒盈表示，《辦法》將規(guī)范的范圍限制在生成式人工智能，也就是大家熟悉的大語言模型領(lǐng)域，并且只規(guī)范向公眾提供服務(wù)的情形，企業(yè)、科研機(jī)構(gòu)、高校等開展科研公關(guān)不在監(jiān)管之列，自動(dòng)駕駛等其他人工智能應(yīng)用不受影響。在監(jiān)管方面，未來還將全面提升新技術(shù)、新應(yīng)用安全風(fēng)險(xiǎn)防范能力，堅(jiān)持促進(jìn)發(fā)展和依法管理相統(tǒng)一，極大地培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)、新應(yīng)用。
因此未來還要積極創(chuàng)新人工智能技術(shù)手段，用技術(shù)進(jìn)步解決安全風(fēng)險(xiǎn)難題，加強(qiáng)人工智能數(shù)據(jù)安全保護(hù)基礎(chǔ)理論研究和技術(shù)研發(fā)。蘇波指出，要發(fā)展負(fù)責(zé)任、可信任、能受控的通用人工智能，鼓勵(lì)企業(yè)建設(shè)完善人工智能開源學(xué)習(xí)框架，增強(qiáng)框架內(nèi)置學(xué)習(xí)數(shù)據(jù)和基礎(chǔ)設(shè)施，并通過我國(guó)巨大的市場(chǎng)優(yōu)勢(shì)，加快培育人工智能開源平臺(tái)生態(tài)圈和產(chǎn)業(yè)鏈。
與此同時(shí)，羅鋒盈指出，未來還需要構(gòu)建網(wǎng)絡(luò)安全教育技術(shù)產(chǎn)業(yè)融合發(fā)展良性生態(tài)。要堅(jiān)持網(wǎng)絡(luò)安全教育、技術(shù)、產(chǎn)業(yè)融合發(fā)展，形成人才培養(yǎng)、技術(shù)創(chuàng)新產(chǎn)業(yè)發(fā)展的良性生態(tài)；要堅(jiān)持開拓創(chuàng)新，網(wǎng)絡(luò)安全人才以創(chuàng)新發(fā)展規(guī)律，深化國(guó)家網(wǎng)絡(luò)安全基底建設(shè)，打造人才高地、創(chuàng)新高地、產(chǎn)業(yè)集聚區(qū)；要堅(jiān)持固本強(qiáng)基，持續(xù)深化網(wǎng)絡(luò)安全建設(shè)示范項(xiàng)目，不斷完善課程、教材、實(shí)驗(yàn)環(huán)境等教學(xué)體系；要?jiǎng)?chuàng)新企業(yè)和高校聯(lián)合培養(yǎng)機(jī)制，大力實(shí)施網(wǎng)絡(luò)安全學(xué)院學(xué)生創(chuàng)新資助計(jì)劃，由企業(yè)根據(jù)網(wǎng)絡(luò)安全實(shí)際需求和產(chǎn)業(yè)共性問題提出研究問題，遴選優(yōu)質(zhì)在校的學(xué)生開展創(chuàng)新研究，培養(yǎng)交叉型、復(fù)合型的人才隊(duì)伍。
將數(shù)據(jù)資源轉(zhuǎn)化為數(shù)據(jù)優(yōu)勢(shì)
數(shù)據(jù)是人工智能發(fā)展的基礎(chǔ)。很多專家學(xué)者提出現(xiàn)在生成式人工智能發(fā)展的瓶頸是數(shù)據(jù)集的問題，境外一些數(shù)據(jù)開源數(shù)據(jù)質(zhì)量不是很好，有些數(shù)據(jù)存在價(jià)值觀問題，有些數(shù)據(jù)存在違反法律法規(guī)問題，不合格的數(shù)據(jù)生產(chǎn)出的大模型就會(huì)存在問題。因此將海量數(shù)據(jù)轉(zhuǎn)換為真正能為大模型訓(xùn)練所用的數(shù)據(jù)是下一步的重點(diǎn)。
因此未來還要加快人工智能數(shù)據(jù)資源的建設(shè)，建立適合我國(guó)國(guó)情的數(shù)據(jù)流通共享機(jī)制，培育規(guī)范數(shù)據(jù)交易市場(chǎng)，鼓勵(lì)不同主體安全的進(jìn)行數(shù)據(jù)交換，從而構(gòu)建支撐我國(guó)人工智能產(chǎn)業(yè)發(fā)展的優(yōu)質(zhì)數(shù)據(jù)資源。
隨著數(shù)據(jù)上升為重要的生產(chǎn)要素，數(shù)據(jù)安全已經(jīng)成為數(shù)字經(jīng)濟(jì)發(fā)展的焦點(diǎn)，人工智能等數(shù)字技術(shù)的應(yīng)用本身既是安全防御的重點(diǎn)、手段，也是保障的有力手段，需要將大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等這些技術(shù)融合，提升保障能力。數(shù)字安全需要從產(chǎn)業(yè)技術(shù)管理多個(gè)維度保障，還需要人才、法規(guī)來支撐。
在海量的數(shù)據(jù)需求面前，跨境數(shù)據(jù)流動(dòng)管理也面臨巨大的挑戰(zhàn)。關(guān)于如何保證數(shù)據(jù)安全，中國(guó)工程院院士鄔賀銓指出，應(yīng)該主動(dòng)迎接IPv6主導(dǎo)的互聯(lián)網(wǎng)時(shí)代。通過IPv6提升數(shù)據(jù)的安全能力，支撐跨境數(shù)據(jù)流動(dòng)的有效管理，護(hù)航數(shù)據(jù)安全流動(dòng)。還要摒棄硬件式碎片化弱協(xié)同的傳統(tǒng)安全防護(hù)手段，向云化、服務(wù)化的理念升級(jí)。
“數(shù)字安全企業(yè)需要建立體系化的安全運(yùn)營(yíng)服務(wù)框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構(gòu)建安全防御體系，保護(hù)數(shù)據(jù)安全與商業(yè)秘密。完善數(shù)字安全的生態(tài)系統(tǒng)，要覆蓋工業(yè)企業(yè)設(shè)備供應(yīng)商、基礎(chǔ)電信運(yùn)營(yíng)商、云服務(wù)商、工業(yè)互聯(lián)網(wǎng)平臺(tái)運(yùn)營(yíng)商、工業(yè)應(yīng)用提供商、數(shù)字安全提供企業(yè)、第三方檢測(cè)機(jī)構(gòu)與用戶等，實(shí)現(xiàn)危險(xiǎn)威脅處置情報(bào)共享?！编w賀銓指出。
作為安全領(lǐng)域的領(lǐng)軍企業(yè)，360集團(tuán)創(chuàng)始人周鴻祎指出，人工智能帶來了安全問題比我們相信的要更多，生成式AI帶來內(nèi)容安全問題、安全可控問題將更為顯著。所以數(shù)字化攻擊的后果就是企業(yè)業(yè)務(wù)停頓，政府的數(shù)據(jù)丟失直接威脅國(guó)家安全。在此次大會(huì)上，360發(fā)布了新一代安全產(chǎn)品“360安全云”，進(jìn)一步服務(wù)產(chǎn)業(yè)數(shù)字化，為企業(yè)、城市和政府機(jī)構(gòu)筑牢數(shù)字安全屏障。
“360安全云”提供的數(shù)字安全托管運(yùn)營(yíng)服務(wù)將全面超越傳統(tǒng)安全服務(wù)，是真正云化的服務(wù)，底氣在于360在“云服務(wù)”方面沉淀的三大優(yōu)勢(shì)，即服務(wù)規(guī)模和響應(yīng)速度、算力資源以及專家資源。據(jù)了解，360數(shù)字安全托管運(yùn)營(yíng)服務(wù)模式下，企業(yè)的安全成本投入將降至原來的1/3~1/4，針對(duì)中小微企業(yè)還將提供免費(fèi)服務(wù)，讓“數(shù)字安全一個(gè)都不能少”。
網(wǎng)絡(luò)安全還需保持高度警惕
當(dāng)今世界網(wǎng)絡(luò)空間已經(jīng)成為大國(guó)博弈焦點(diǎn)，全面加強(qiáng)網(wǎng)絡(luò)安全保障體系和能力建設(shè)是應(yīng)對(duì)新形勢(shì)、新挑戰(zhàn)的必然之舉。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)理事長(zhǎng)尚冰指出，互聯(lián)網(wǎng)行業(yè)要把握數(shù)字經(jīng)濟(jì)快速發(fā)展新機(jī)遇，高度關(guān)注人工智能等新技術(shù)引發(fā)的安全問題，積極應(yīng)對(duì)新挑戰(zhàn)，以高水平安全能力保障高質(zhì)量發(fā)展。
尚冰指出，互聯(lián)網(wǎng)龍頭企業(yè)要積極開展原創(chuàng)性、引領(lǐng)性、基礎(chǔ)性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣，互聯(lián)網(wǎng)初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點(diǎn)，以創(chuàng)新技術(shù)和產(chǎn)品切入細(xì)分領(lǐng)域，推動(dòng)產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結(jié)合。嚴(yán)格落實(shí)網(wǎng)絡(luò)安全相關(guān)法律法規(guī)和政策文件要求，加強(qiáng)自身安全能力建設(shè)，構(gòu)建全流程、全環(huán)節(jié)隱私合規(guī)體系，抓實(shí)技術(shù)保障和引用分發(fā)審核，堅(jiān)決打擊網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博等行為，構(gòu)建和諧、安全的網(wǎng)絡(luò)生態(tài)圈。
網(wǎng)絡(luò)安全也是互聯(lián)網(wǎng)安全發(fā)展的重要基石。當(dāng)前世界大變局和產(chǎn)業(yè)大變革歷史性交匯，網(wǎng)絡(luò)空間成為大國(guó)博弈的主戰(zhàn)場(chǎng)，網(wǎng)絡(luò)安全保障的基礎(chǔ)性、關(guān)鍵性作用更加突出。近年來，工業(yè)和信息化部系統(tǒng)推進(jìn)網(wǎng)絡(luò)安全保障體系和能力建設(shè)取得積極成效，統(tǒng)籌推進(jìn)網(wǎng)絡(luò)安全法律法規(guī)、政策標(biāo)準(zhǔn)建設(shè)、制度體系不斷健全，加快完善集事前防范、監(jiān)測(cè)預(yù)警、應(yīng)急處置、信息共享于一體的行業(yè)聯(lián)防聯(lián)控防護(hù)體系，監(jiān)測(cè)和處置能力初步構(gòu)建，網(wǎng)絡(luò)空間環(huán)境大幅度改善，人民群眾利益得到切實(shí)保護(hù)。
工業(yè)和信息化部網(wǎng)絡(luò)安全管理局局長(zhǎng)隋靜指出，未來應(yīng)著力強(qiáng)化網(wǎng)絡(luò)安全保障體系建設(shè)，集聚力量進(jìn)行原創(chuàng)性、引領(lǐng)性科技攻關(guān)，著力提升產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平。前瞻布局人工智能與網(wǎng)絡(luò)安全技術(shù)融合創(chuàng)新，增強(qiáng)產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平；完善網(wǎng)絡(luò)安全法規(guī)制度，加強(qiáng)政策供給和標(biāo)準(zhǔn)指引，健全重要領(lǐng)域安全管理體系，加快新型融合領(lǐng)域安全管理制度建設(shè)，落實(shí)網(wǎng)絡(luò)安全主體責(zé)任，建立分類分級(jí)管理制度，加強(qiáng)安全技術(shù)能力建設(shè)，提升自身安全防護(hù)水平；創(chuàng)新網(wǎng)絡(luò)安全服務(wù)模式，大力發(fā)展網(wǎng)絡(luò)安全保險(xiǎn)服務(wù)，深化產(chǎn)融合作，引導(dǎo)資本加大對(duì)產(chǎn)業(yè)支持力度，加快培育一批網(wǎng)絡(luò)安全專精特新企業(yè)。
關(guān)鍵詞：
營(yíng)業(yè)執(zhí)照公示信息