世界快資訊丨派拓網(wǎng)絡(luò)：ChatGPT——人工智能是把“雙刃劍”

（CWW）科技及其組成部分在過去幾代人的時(shí)間里大大推動了人類社會的發(fā)展。其本質(zhì)是對新知識的探索，但凡事都有兩面性——科技帶來的利與弊取決于背后的人。

憑借在模仿和破譯人類思維方面的不懈努力，我們進(jìn)入了人工智能（AI）時(shí)代。作為一款基于文本的AI機(jī)器人，ChatGPT因廣泛應(yīng)用先進(jìn)的AI技術(shù)而備受關(guān)注。從準(zhǔn)確修復(fù)編碼錯(cuò)誤、生成烹飪食譜、創(chuàng)建3D動畫，到制作完整的歌曲，ChatGPT展現(xiàn)了AI的驚人能量，為世界帶來了不可思議的新能力。

然而與此同時(shí)，AI也一直被視為一把“雙刃劍”。多年來，全世界都在猜測AI可能即將統(tǒng)治世界。如今，用戶可以使用AI驅(qū)動的安全工具和產(chǎn)品，在幾乎無需人為干預(yù)的情況下應(yīng)對大量網(wǎng)絡(luò)安全事件，但業(yè)余黑客也可以利用同樣的技術(shù)開發(fā)智能惡意軟件程序并發(fā)起隱形攻擊。

(相關(guān)資料圖)

ChatGPT帶來的網(wǎng)絡(luò)安全隱患不容忽視

自去年11月底ChatGPT問世以來，全球技術(shù)專家和評論員一直在關(guān)注AI生成的內(nèi)容工具所產(chǎn)生的影響，尤其是對網(wǎng)絡(luò)安全的影響。那么AI軟件會使網(wǎng)絡(luò)犯罪走向普及嗎？

在拉斯維加斯舉行的黑帽和Defcon安全大會上，一個(gè)技術(shù)團(tuán)隊(duì)展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的。

研究人員將OpenAI的GPT-3平臺與其他側(cè)重于個(gè)性分析的AI即服務(wù)產(chǎn)品相結(jié)合，生成了根據(jù)他們同事的背景和性格而定制的釣魚郵件。最終，研究人員開發(fā)出一個(gè)在攻擊目標(biāo)之前對郵件進(jìn)行梳理和完善的流程。令他們驚訝的是，這個(gè)平臺還能自動提供具體內(nèi)容，例如當(dāng)被要求生成針對特定國家的人的內(nèi)容時(shí)，會提到該國的法律。

ChatGPT的開發(fā)者明確表示，這款A(yù)I工具具有質(zhì)疑錯(cuò)誤前提和拒絕不當(dāng)請求的能力。雖然該系統(tǒng)自帶用于防止任何形式犯罪活動的護(hù)欄，但經(jīng)過調(diào)整，它生成了一封看上去極其像人類寫出來的近乎完美的釣魚郵件。

采取智能化行動，實(shí)現(xiàn)自動化響應(yīng)

根據(jù)派拓網(wǎng)絡(luò)威脅情報(bào)團(tuán)隊(duì)Unit 42的調(diào)查，勒索軟件攻擊是最主要的安全事件，發(fā)展呈現(xiàn)愈演愈烈的態(tài)勢——不僅案例數(shù)量超過總量的三分之一（36%），而且攻擊者索要和獲得的贖金也在不斷增加。究其原因，主要是由于暗網(wǎng)中的工具價(jià)格低廉——甚至不到10美元，而且還出現(xiàn)了勒索軟件即服務(wù)模式和ChatGPT等AI工具，大大降低了網(wǎng)絡(luò)犯罪的門檻。

鑒于日益智能和先進(jìn)的黑客技術(shù)所帶來的威脅迫在眉睫，網(wǎng)絡(luò)安全行業(yè)必須擁有同等資源才能對抗這些AI驅(qū)動的攻擊。從長遠(yuǎn)來看，安全行業(yè)的目標(biāo)不是僅讓一群人類威脅獵手通過猜測來零散地解決問題。

當(dāng)務(wù)之急是采取智能化的行動來化解這些不斷發(fā)展的威脅。好消息是自主響應(yīng)如今能夠在無需人類干預(yù)的情況下有效解決威脅。但隨著AI驅(qū)動的攻擊成為常態(tài)，受到自動化惡意軟件攻擊的企業(yè)、政府和個(gè)人需要越來越多地依靠AI和機(jī)器學(xué)習(xí)（ML）等新興技術(shù)做出自動化響應(yīng)。

更負(fù)責(zé)且道德地使用AI工具

從技術(shù)的復(fù)雜性到人為因素，企業(yè)在確保AI網(wǎng)絡(luò)安全的過程中面臨著諸多挑戰(zhàn)，尤其是需要高度重視機(jī)器、人類和道德因素之間的平衡。

制定企業(yè)策略對于兼顧經(jīng)營道德和網(wǎng)絡(luò)安全至關(guān)重要。建立有效的治理和法律框架能夠增強(qiáng)人們對AI技術(shù)的信任，并促進(jìn)社會公平和可持續(xù)發(fā)展。因此，AI和人類之間的微妙平衡將成為實(shí)現(xiàn)網(wǎng)絡(luò)安全的關(guān)鍵因素，其中信任、透明度和責(zé)任感為機(jī)器帶來了補(bǔ)充優(yōu)勢。

關(guān)鍵詞： 派拓網(wǎng)絡(luò) ChatGPT 人工智能 AI機(jī)器人