【新要聞】信通院發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告（2022年）》

(資料圖片)

隨著人工智能的爆發(fā)式增長(zhǎng)，對(duì)可信品質(zhì)的關(guān)注度也提升到了前所未有的高度，各界均在不斷探索將更多的可信理念從基礎(chǔ)能力、算法技術(shù)、應(yīng)用場(chǎng)景和產(chǎn)品設(shè)備等不同層面進(jìn)行融合實(shí)踐，人工智能可信賴程度逐步提升。

2022年9月1-3日，世界人工智能大會(huì)于上海舉辦。在9月1日舉辦的可信AI論壇上，中國(guó)信息通信研究院聯(lián)合京東探索研究院等近30家政產(chǎn)學(xué)研單位共同發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告（2022年）》。

報(bào)告對(duì)人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢(shì)進(jìn)行總體分析，研判發(fā)展趨勢(shì)并提出措施建議，希望能為社會(huì)各界提供借鑒和參考，助力可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展。

報(bào)告主要觀點(diǎn)

政策發(fā)布上，全球持續(xù)探索人工智能立法，推動(dòng)可信人工智能范式法制化。自2021年以來，從歐盟發(fā)布人工智能領(lǐng)域的第一份綜合性法案《人工智能法案》，到美國(guó)推出《2022算法問責(zé)法案》，再到中國(guó)深圳、上海等各地方相繼推動(dòng)人工智能立法條例。各國(guó)針對(duì)人工智能算法的監(jiān)測(cè)、人工智能應(yīng)用的審查的相關(guān)監(jiān)管法規(guī)不斷增加，人工智能治理已進(jìn)入建章立制階段。

技術(shù)研究上，提升人工智能系統(tǒng)穩(wěn)定性、隱私保護(hù)技術(shù)占據(jù)可信人工智能技術(shù)研究主流，可解釋性、公平性等技術(shù)研究緊隨其后。當(dāng)前以對(duì)抗訓(xùn)練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術(shù)穩(wěn)步發(fā)展；以同態(tài)加密、多方安全計(jì)算、差分隱私等為代表的隱私安全技術(shù)發(fā)展迅速；可解釋性增強(qiáng)技術(shù)研究當(dāng)前仍處于初期階段，科技巨頭推出多個(gè)AI可解釋性工具及服務(wù)；提升人工智能公平性主流方法為通過構(gòu)建完整異構(gòu)數(shù)據(jù)集及引入公平?jīng)Q策量化指標(biāo)算法，以減輕決策偏差。

標(biāo)準(zhǔn)研制上，行業(yè)組織成為可信人工智能標(biāo)準(zhǔn)重要推進(jìn)者，涵蓋多個(gè)可信人工智能領(lǐng)域。國(guó)際標(biāo)準(zhǔn)化組織和國(guó)際電工委員ISO/IEC布局最早，涉及AI系統(tǒng)偏差、風(fēng)險(xiǎn)管理、AI系統(tǒng)質(zhì)量模型、神經(jīng)網(wǎng)絡(luò)魯棒性等；電氣和電子工程師協(xié)會(huì)（IEEE）主要以隱私、可解釋為突破點(diǎn)；中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟牽頭制定了《可信AI操作指引》和《可信AI示范區(qū)管理辦法》，開展可信AI測(cè)試工具征集和可信AI試評(píng)估等落地實(shí)踐。

產(chǎn)業(yè)生態(tài)上，倫理、法律研究進(jìn)一步深入，在硬件、技術(shù)、應(yīng)用及支撐體系等層面蓬勃發(fā)展，形成兼顧穩(wěn)定性、可解釋性、隱私保護(hù)和公平性，涵蓋基礎(chǔ)硬件、技術(shù)平臺(tái)、產(chǎn)品設(shè)備、應(yīng)用場(chǎng)景等多元化產(chǎn)業(yè)生態(tài)。其中，基礎(chǔ)能力方面為可信AI提供可信能力、數(shù)據(jù)安全、平臺(tái)系統(tǒng)等服務(wù)。理論與技術(shù)方面主要圍繞計(jì)算機(jī)視覺、自然語言處理、智能語音等垂直領(lǐng)域，在隱私保護(hù)、數(shù)據(jù)標(biāo)注、精準(zhǔn)識(shí)別、噪聲處理等方面不斷提升算法公平性、穩(wěn)定性與可解釋性水平，有效賦能各類產(chǎn)業(yè)應(yīng)用。產(chǎn)品與設(shè)備方面目前已逐步滲透至機(jī)器人、汽車、醫(yī)療器械、智能終端、AR/VR設(shè)備等領(lǐng)域，以“安全專網(wǎng)”“地圖引擎”“終端感知”等形式打造兼具穩(wěn)定性、合規(guī)性、可解釋性等特征的功能體系。應(yīng)用場(chǎng)景方面目前已涌現(xiàn)出面向隱私安全保護(hù)、風(fēng)險(xiǎn)識(shí)別與控制、數(shù)據(jù)傳輸與共享等領(lǐng)域的諸多案例，并已在金融、醫(yī)藥、教育、制造等環(huán)節(jié)深入開展商業(yè)化應(yīng)用，加速全產(chǎn)業(yè)鏈的可信生態(tài)形成。標(biāo)準(zhǔn)測(cè)試與咨詢?cè)O(shè)計(jì)方面目前已形成較為完善的可信AI標(biāo)準(zhǔn)與評(píng)測(cè)體系，覆蓋國(guó)際、國(guó)內(nèi)、行業(yè)、團(tuán)體標(biāo)準(zhǔn)四大類，并且在可信人工智能總體框架、可解釋AI發(fā)展與實(shí)踐等領(lǐng)域陸續(xù)發(fā)布了一系列研究成果。

關(guān)鍵詞： 人工智能 產(chǎn)業(yè)生態(tài) 發(fā)展報(bào)告