超越谷歌等美科技巨頭，阿里達(dá)摩院刷新自然語言理解技術(shù)世界紀(jì)錄

在全球自然語言處理領(lǐng)域頂級(jí)賽事GLUE Benchmark中，阿里巴巴達(dá)摩院以平均分90.3分的成績奪冠，刷新自然語言理解技術(shù)世界紀(jì)錄，與阿里同場競技的還有來自Google、微軟、Facebook、斯坦福大學(xué)等企業(yè)和高校的團(tuán)隊(duì)。

比賽結(jié)果，GLUE Benchmark官網(wǎng)截圖

自然語言理解是人工智能的核心技術(shù)之一，GLUE Benchmark(通用語言理解評(píng)估基準(zhǔn))比賽排名是衡量自然語言理解技術(shù)水平的重要指標(biāo)。比賽設(shè)置了自然語言推斷、語義相似度、問答匹配、情感分析等9項(xiàng)任務(wù)，最后按平均分綜合排名。

達(dá)摩院NLP團(tuán)隊(duì)取得了CoLA、MRPC、QQP、WNLI等4個(gè)任務(wù)的最佳效果，以平均分90.3分位列第一，阿里AI的表現(xiàn)已經(jīng)顯著超越人類水平(87.1分)。

在自然語言理解領(lǐng)域，阿里AI實(shí)力雄厚。早在2018年初，阿里AI就在機(jī)器閱讀理解頂級(jí)賽事SQuAD中打破世界紀(jì)錄，首次超越人類成績;在2019年阿里AI也曾登頂GLUE榜單，并于2019年6月在常識(shí)QA領(lǐng)域的權(quán)威數(shù)據(jù)集CommonsenseQA中奪冠，還刷新了MS MARCO文本閱讀理解挑戰(zhàn)賽的紀(jì)錄，在開放域問答任務(wù)上超越人類閱讀水平。

達(dá)摩院AI團(tuán)隊(duì)在自然語言理解相關(guān)比賽的歷史成績

自然語言理解技術(shù)的目的是讓機(jī)器理解人類語言，在人工智能研究者的努力下，人類為機(jī)器研發(fā)的“基礎(chǔ)語言模型”正不斷演進(jìn)。

Google于2018年底推出的BERT模型是業(yè)界廣泛使用的自然語言預(yù)訓(xùn)練模型，達(dá)摩院NLP團(tuán)隊(duì)在BERT的基礎(chǔ)上提出優(yōu)化模型StructBERT，能讓機(jī)器更好地掌握人類語法，加深對自然語言的理解。

使用StructBERT模型好比給機(jī)器內(nèi)置一個(gè)“語法識(shí)別器”，使機(jī)器在面對語序錯(cuò)亂或不符合語法習(xí)慣的詞句時(shí)，仍能準(zhǔn)確理解并給出正確的表達(dá)和回應(yīng)，大大提高機(jī)器對詞語、句子以及語言整體的理解力。其相關(guān)成果論文已被國際人工智能領(lǐng)域頂級(jí)會(huì)議ICLR-2020收錄。

據(jù)悉，這一技術(shù)已廣泛使用于阿里旗下阿里小蜜、螞蟻金服、優(yōu)酷等業(yè)務(wù)。阿里達(dá)摩院的語言模型和閱讀理解技術(shù)也被用于行業(yè)賦能，推進(jìn)AI技術(shù)在醫(yī)療、電力、金融等行業(yè)的落地。

關(guān)鍵詞：