要聞速遞：中國信通院端晨希：ChatGPT的倫理挑戰(zhàn)

繼Alpha Go戰(zhàn)勝圍棋高手李世石后，對話機(jī)器人ChatGPT的出現(xiàn)再次掀起人工智能討論熱潮。ChatGPT是OpenAI開發(fā)的文本生成式對話應(yīng)用，具有強(qiáng)智能、強(qiáng)交互、廣應(yīng)用等特點(diǎn)。然而，以ChatGPT為代表的生成式人工智能給人類社會(huì)帶來經(jīng)濟(jì)、法律、倫理等諸多挑戰(zhàn)，本文主要從ChatGPT的倫理挑戰(zhàn)為視角進(jìn)行分析。

一、 人工智能倫理概述

(資料圖)

倫理是人們相互關(guān)系的行為準(zhǔn)則。人工智能倫理是關(guān)于人和人工智能相互關(guān)系的準(zhǔn)則，是開展人工智能研究、開發(fā)、管理、供應(yīng)和使用等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范。

為符合實(shí)踐需要，人工智能倫理形成以人工智能倫理原則為出發(fā)點(diǎn)的概念建構(gòu)模式。

一是，多個(gè)國家和地區(qū)通過發(fā)布人工智能倫理原則的方式，闡述人工智能倫理治理的基本目標(biāo)和要求。如國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理8項(xiàng)原則，豐富了人工智能倫理的內(nèi)涵，提出了人工智能倫理治理的要求。

二是，國際組織通過發(fā)布人工智能倫理原則，推進(jìn)人類共同理念的達(dá)成，促進(jìn)人工智能領(lǐng)域的國際合作。如聯(lián)合國教科文組織在《人工智能倫理問題建議書》中提出公平和非歧視、可持續(xù)性、人類的監(jiān)督和決定、透明度和可解釋性等10項(xiàng)原則，提出負(fù)責(zé)任人工智能發(fā)展的全球治理目標(biāo)。

三是，科技企業(yè)形成圍繞人工智能倫理原則的倫理風(fēng)險(xiǎn)治理體系。如微軟提出負(fù)責(zé)任人工智能應(yīng)當(dāng)符合公平性、可靠性和安全性、隱私性和安全性、包容性、透明度和問責(zé)制6項(xiàng)原則，并圍繞相關(guān)原則制定負(fù)責(zé)任人工智能的標(biāo)準(zhǔn)、開發(fā)相配套的技術(shù)工具。

二、ChatGPT的技術(shù)特點(diǎn)及風(fēng)險(xiǎn)

ChatGPT是由大數(shù)據(jù)驅(qū)動(dòng)、大模型支持，并能廣泛應(yīng)用的人工智能產(chǎn)品。OpenAI為減輕ChatGPT的倫理風(fēng)險(xiǎn)，開發(fā)了產(chǎn)品部署流程、基于人類反饋的強(qiáng)化學(xué)習(xí)（Reinforcement Learning from Human Feedback，RLHF）等管理和技術(shù)工具。然而，ChatGPT還是引發(fā)了人機(jī)關(guān)系的新挑戰(zhàn)、放大了人類社會(huì)固有的倫理問題。

從“人——機(jī)”關(guān)系角度看，ChatGPT對人與機(jī)器的情感關(guān)系、人的勞動(dòng)價(jià)值、人的主體意識(shí)等人機(jī)關(guān)系倫理形成沖擊。雖然ChatGPT不屬于強(qiáng)人工智能，但ChatGPT已在教育、金融、法律、游戲等不同領(lǐng)域展開豐富實(shí)踐應(yīng)用。同時(shí)，業(yè)界推測ChatGPT依托的大模型可能已經(jīng)出現(xiàn)涌現(xiàn)能力（Emergent Ability），人工智能的發(fā)展走向更多未知，人機(jī)關(guān)系的協(xié)調(diào)出現(xiàn)諸多新挑戰(zhàn)。一是，語言體系豐富、能夠聯(lián)系上下文進(jìn)行對話、具備“角色扮演”功能的ChatGPT可作為陪伴者和用戶進(jìn)行實(shí)時(shí)互動(dòng)，人類對機(jī)器產(chǎn)生情感和依賴的可能性增加，影響人的心理狀態(tài)。二是，能夠進(jìn)行文字生成、代碼生成、策略推薦等工作的ChatGPT引發(fā)人類對于勞動(dòng)替代的憂慮，伴隨ChatGP開放API接口，更加豐富的應(yīng)用場景和功能將可能對更多行業(yè)的從業(yè)者產(chǎn)生沖擊。三是，智能機(jī)器的快速發(fā)展對人的文化創(chuàng)造產(chǎn)生沖擊。ChatGPT能做到智能寫詩，但卻可能消解人的創(chuàng)作熱情；ChatGPT在文本生成方面的誤用濫用會(huì)將可能影響知識(shí)學(xué)習(xí)的過程，對人類智識(shí)的提高產(chǎn)生負(fù)面影響。

從“人——人”關(guān)系角度看，基于大數(shù)據(jù)訓(xùn)練的ChatGPT能放大人類社會(huì)固有的偏見，并可能因?yàn)榧夹g(shù)濫用引發(fā)社會(huì)信任危機(jī)。一是，互聯(lián)網(wǎng)數(shù)據(jù)記錄了人類社會(huì)潛在的歧視與價(jià)值對抗，ChatGPT可能輸出明顯具有偏見的對話內(nèi)容，不僅影響用戶的判斷，更可能因?yàn)榇罅课谋镜膹V泛傳播應(yīng)用，加深社會(huì)偏見。二是，ChatGPT選取出現(xiàn)概率較大的語料進(jìn)行內(nèi)容生成，模型為追求內(nèi)容的準(zhǔn)確性可能以喪失文化的多樣性為代價(jià)，對人類社會(huì)的價(jià)值多樣性形成挑戰(zhàn)。三是， ChatGPT具有強(qiáng)大的自然語言處理能力，能夠“一本正經(jīng)地說”，但由于其數(shù)據(jù)和算法限制，又有“胡說八道”的可能性。然而，為回應(yīng)用戶需求，ChatGPT能夠批量生產(chǎn)大量虛構(gòu)信息，且無法控制生成內(nèi)容的誤用和濫用。同時(shí)，合成文本相較圖片、聲音等更具傳播優(yōu)勢，也更難判斷其是否屬于人工智能生成內(nèi)容。對ChatGPT的誤用和濫用將對人與人之間基于信賴的交往產(chǎn)生沖擊。

圖 1 ChatGPT特點(diǎn)（來源：ChatGPT官網(wǎng)）

三、 生成式人工智能倫理治理的未來展望

以ChatGPT為代表的人工智能技術(shù)發(fā)展可能將人類社會(huì)帶入新的階段，人工智能倫理治理的目標(biāo)在于鼓勵(lì)技術(shù)的良性發(fā)展，為可持續(xù)的創(chuàng)新提供保障。

企業(yè)發(fā)揮人工智能倫理治理的主體作用。企業(yè)在人工智能倫理治理中從倫理意識(shí)、機(jī)制設(shè)置、技術(shù)開發(fā)等方面發(fā)揮最基礎(chǔ)和最主要的作用。一是，加強(qiáng)人工智能倫理治理意識(shí)。企業(yè)通過明確人工智能倫理原則、建立人工智能倫理審查機(jī)構(gòu)、明晰人工智能倫理審查流程等，形成人工智能倫理治理從意識(shí)到實(shí)踐的落地機(jī)制。二是，細(xì)化和完善人工智能產(chǎn)品的全流程管理。如企業(yè)可在設(shè)計(jì)研發(fā)階段，即評估技術(shù)和產(chǎn)品的倫理風(fēng)險(xiǎn)；在測試階段，將產(chǎn)品從封閉環(huán)境逐步引入開放復(fù)雜的社會(huì)環(huán)境，不斷彌補(bǔ)產(chǎn)品倫理漏洞，將倫理風(fēng)險(xiǎn)控制在發(fā)展早期；在產(chǎn)品上線后，通過使用情況審查、速率限制等方法，減輕產(chǎn)品濫用可能性；最后，對倫理事故進(jìn)行詳細(xì)的回顧審查。三是，通過技術(shù)手段提升倫理治理能力。企業(yè)可通過開發(fā)數(shù)據(jù)偏見和公平性評估工具、模型安全評估工具等加強(qiáng)人工智能倫理風(fēng)險(xiǎn)的技術(shù)應(yīng)對。

多主體參與人工智能倫理治理的合作機(jī)制。人工智能倫理治理是用戶、企業(yè)、行業(yè)等多方主體的協(xié)作。一是，用戶在與人工智能的互動(dòng)中提出現(xiàn)實(shí)世界的問題，為產(chǎn)品優(yōu)化提供數(shù)據(jù)，并通過對產(chǎn)品風(fēng)險(xiǎn)漏洞的討論與反饋等協(xié)助生成式人工智能向善發(fā)展。二是，企業(yè)通過明晰人工智能技術(shù)缺陷、開源人工智能倫理治理工具等，為更多開發(fā)者提示人工智能產(chǎn)品的倫理風(fēng)險(xiǎn)，提供倫理治理方法和工具。三是，行業(yè)組織密切產(chǎn)業(yè)主體，通過團(tuán)體指南、行業(yè)標(biāo)準(zhǔn)等方式推動(dòng)行業(yè)對人工智能倫理治理共識(shí)的建立，促進(jìn)行業(yè)自律。

加強(qiáng)國際合作應(yīng)對人工智能倫理風(fēng)險(xiǎn)。技術(shù)發(fā)展的全球性給數(shù)字時(shí)代的人類帶來機(jī)遇和挑戰(zhàn)，人工智能倫理治理也成為國際治理合作的重要契機(jī)。政府間國際組織、國際學(xué)術(shù)團(tuán)體、行業(yè)組織等在尊重各國、各領(lǐng)域人工智能治理的原則和實(shí)踐下，推動(dòng)形成以增進(jìn)人類福祉為目標(biāo)的國際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。

關(guān)鍵詞：