經(jīng)過(guò)多年研究 神經(jīng)科學(xué)家發(fā)現(xiàn)人類(lèi)大腦中處理語(yǔ)言聲音運(yùn)行規(guī)則

受到生物神經(jīng)網(wǎng)絡(luò)的啟發(fā)，目前深度神經(jīng)網(wǎng)絡(luò)已經(jīng)被證實(shí)效果很好。如今，深度神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別和自然語(yǔ)言處理等許多重要問(wèn)題上有著出色的表現(xiàn)。

神經(jīng)網(wǎng)絡(luò)本身是一般的函數(shù)逼近，這就是為什么它們幾乎可以應(yīng)用于任何從輸入到輸出空間復(fù)雜映射的機(jī)器學(xué)習(xí)問(wèn)題。

然而深度神經(jīng)網(wǎng)絡(luò)更多的是關(guān)心所謂的端到端學(xué)習(xí)，內(nèi)部發(fā)生什么事情它并不關(guān)心。這在認(rèn)知科學(xué)里面叫“弱等價(jià)”，也就是說(shuō)人和機(jī)器可以干同一件事，但是它們的內(nèi)部過(guò)程并不是一樣的。

或者和生物智能類(lèi)似，深度神經(jīng)網(wǎng)絡(luò)要在增加內(nèi)部的認(rèn)知過(guò)程中，也應(yīng)該和生物系統(tǒng)類(lèi)似。此時(shí)，站在生物神經(jīng)學(xué)的參照系下，或許能賦予 AI 語(yǔ)言處理更精細(xì)的洞察。

經(jīng)過(guò)多年研究，神經(jīng)科學(xué)家發(fā)現(xiàn)了人類(lèi)大腦中處理語(yǔ)言聲音的運(yùn)行規(guī)則

8 月 18 日，美國(guó)加州大學(xué)舊金山分校的研究人員在《細(xì)胞》雜志上發(fā)表論文稱(chēng)，聽(tīng)覺(jué)處理和語(yǔ)言處理是并行進(jìn)行的。這與長(zhǎng)期以來(lái)認(rèn)為大腦先處理聽(tīng)覺(jué)信息，然后將其轉(zhuǎn)化為語(yǔ)言信息的理論相矛盾。

最新研究表明：當(dāng)含有語(yǔ)意的聲音傳到耳中，耳蝸將其轉(zhuǎn)換成電信號(hào)，然后發(fā)送到位于顳葉的聽(tīng)覺(jué)皮層。

幾十年來(lái)，科學(xué)家們一直認(rèn)為，聽(tīng)覺(jué)皮層在處理語(yǔ)音時(shí)像工廠流水線(xiàn)一樣有先后工序：首先，初級(jí)聽(tīng)覺(jué)皮層處理簡(jiǎn)單的聲音信息，比如聲音頻率。然后，顳上回(superior temporal gyrus，STG)提取更重要的特征，如輔音和元音，將聲音轉(zhuǎn)換為有含義的單詞。

但一直以來(lái)，這一理論缺乏直接證據(jù)的支持，因?yàn)樗枰麄€(gè)聽(tīng)覺(jué)皮層極高時(shí)空分辨率的詳細(xì)神經(jīng)生理學(xué)記錄。這是一個(gè)挑戰(zhàn)，原因是初級(jí)聽(tīng)覺(jué)皮層位于大腦額葉和顳葉的裂口深處。

美國(guó)加州大學(xué)舊金山分校神經(jīng)科學(xué)家和神經(jīng)外科醫(yī)生 Edward Chang 說(shuō)："所以，我們進(jìn)行了這項(xiàng)研究，希望找到聲音等低級(jí)表征轉(zhuǎn)化為詞匯等高級(jí)表征的證據(jù)。"

這項(xiàng)研究的開(kāi)展離不開(kāi)一些患者的支持。幾年時(shí)間里，有 9 名患者參與了實(shí)驗(yàn)。因?yàn)樾枰谐X部腫瘤或定位引發(fā)癲癇的病灶，這些患者接受了神經(jīng)外科手術(shù)。與此同時(shí)，他們同意讓醫(yī)生在手術(shù)過(guò)程中將微電極陣列放置在他們的聽(tīng)覺(jué)皮層，收集神經(jīng)信號(hào)，用于分析語(yǔ)言功能和定位癲癇，以及研究聽(tīng)覺(jué)皮層如何處理語(yǔ)音信息。

“這是我們第一次可以直接從大腦表面同時(shí)覆蓋聽(tīng)覺(jué)皮層的所有區(qū)域，研究聲音到字詞的轉(zhuǎn)換。”Chang 教授說(shuō)。相比過(guò)去只能在有限的幾個(gè)點(diǎn)記錄神經(jīng)活動(dòng)的電信號(hào)，無(wú)疑是巨大的進(jìn)步。

接著，在實(shí)驗(yàn)中，研究人員開(kāi)始向參與者播放詞組和短句，試圖尋找信息從初級(jí)聽(tīng)覺(jué)皮層流向顳上回的跡象。按照原來(lái)的假設(shè)，這兩個(gè)腦區(qū)應(yīng)該會(huì)先后被激活。

然而，事實(shí)并非如此。他們觀察到，播放句子時(shí)，顳上回某些區(qū)域的反應(yīng)速度與初級(jí)聽(tīng)覺(jué)皮層一樣快，也就是說(shuō)，這兩個(gè)區(qū)域同時(shí)開(kāi)始處理聲音信息。

在另一項(xiàng)實(shí)驗(yàn)中，研究人員用微弱的電流刺激患者的聽(tīng)覺(jué)皮層。按照原來(lái)的假設(shè)，刺激初級(jí)聽(tīng)覺(jué)皮層，很可能會(huì)扭曲患者對(duì)言語(yǔ)的感知。然而，這些患者表示，盡管刺激引起了某些聲音的幻聽(tīng)，但他們?nèi)阅芮宄芈?tīng)到并重復(fù)對(duì)他們播放的字詞。

相反，當(dāng)研究人員用電流刺激患者的顳上回，患者報(bào)告說(shuō)他們能聽(tīng)到有人在講話(huà)，但分辨不出字詞。“事實(shí)上，有一名患者說(shuō)，聽(tīng)起來(lái)就像單詞的音節(jié)發(fā)生了互換。”Chang 教授說(shuō)道。

綜合這些證據(jù)，研究小組認(rèn)為，大腦聽(tīng)覺(jué)皮層對(duì)聲音和語(yǔ)音的信息處理是并行的，而不是傳統(tǒng)模型所認(rèn)為的串行處理。

傳統(tǒng)語(yǔ)音處理模型過(guò)于簡(jiǎn)化，甚至很可能是錯(cuò)誤的。研究人員推測(cè)，顳上回可能獨(dú)立于初級(jí)聽(tīng)覺(jué)皮層而發(fā)揮作用，而不是作為初級(jí)聽(tīng)覺(jué)皮層處理的下一步。

語(yǔ)言處理的并行性可能會(huì)給醫(yī)生提供治療誦讀困難癥等病癥的新思路。患有這些疾病的兒童在識(shí)別語(yǔ)音方面存在困難。

"雖然這是向前邁出的重要一步，但我們還不了解這個(gè)平行聽(tīng)覺(jué)系統(tǒng)。這些發(fā)現(xiàn)表明，聲音信息的傳遞可能與我們想象的非常不同。這無(wú)疑帶來(lái)了更多問(wèn)題。"Chang 說(shuō)。

站在生物神經(jīng)學(xué)的參照系下，AI 語(yǔ)言處理被賦予更精細(xì)的洞察

生物神經(jīng)元構(gòu)成一層一層的網(wǎng)絡(luò)，一層一層進(jìn)行特征提取，這是深度學(xué)習(xí)已經(jīng)模擬的，其實(shí)大腦還有一個(gè)根本不同，我們識(shí)別物體的時(shí)候不是像深度學(xué)習(xí)網(wǎng)絡(luò)一樣由簡(jiǎn)單到復(fù)雜的特征提取，而是有多條通路：

我們看到一個(gè)物體的時(shí)候，第一步會(huì)快速的從皮層下通路，對(duì)物體的整體的性質(zhì)進(jìn)行識(shí)別，這些信息到了高級(jí)腦區(qū)，和記憶、先驗(yàn)知識(shí)等進(jìn)行融合，先猜測(cè)出來(lái)是什么東西，通過(guò)神經(jīng)反饋再和深度學(xué)習(xí)模擬的那個(gè)慢速的腹側(cè)通路進(jìn)行動(dòng)態(tài)交互，這個(gè)過(guò)程可能會(huì)經(jīng)過(guò)幾個(gè)回合，整個(gè)識(shí)別的過(guò)程都是輸入和大腦內(nèi)部的先驗(yàn)知識(shí)不斷的相互比較印證的過(guò)程，而這個(gè)過(guò)程在目前是深度學(xué)習(xí)沒(méi)有包含的，也是圖像理解這個(gè)數(shù)學(xué)上不適定問(wèn)題(ill-posed problem)的一個(gè)解決方案。

那為什么我們好像深度學(xué)習(xí)網(wǎng)絡(luò)用的很好，我們沒(méi)有包含動(dòng)態(tài)的過(guò)程，由粗到細(xì)、由 global 到 local 的過(guò)程，也能做的挺好?；蛟S是因?yàn)楝F(xiàn)在我們的任務(wù)太簡(jiǎn)單了，如果只是做靜態(tài)圖像的識(shí)別根本不需要這個(gè)，但是如果真的要做一個(gè)能夠與環(huán)境動(dòng)態(tài)交互、很自主的機(jī)器人，這樣的計(jì)算需求就會(huì)出現(xiàn)，那個(gè)時(shí)候就需要?jiǎng)討B(tài)交互的過(guò)程了。

而深度學(xué)習(xí)一般認(rèn)為是黑盒子，每個(gè)人的模型得到大致相同的結(jié)果，但是也不完全一樣，那么這里的一致性和不一致性到底體現(xiàn)在哪里。如果生物神經(jīng)在語(yǔ)言處理方面搞的很清楚的話(huà)，實(shí)際上對(duì)深度神經(jīng)網(wǎng)絡(luò)的架構(gòu)也會(huì)很有幫助。

關(guān)鍵詞： 神經(jīng)科學(xué)家 人類(lèi)大腦 運(yùn)行規(guī)則 語(yǔ)言聲音