2020年是基于深度學(xué)習(xí)的自然語(yǔ)言處理(NLP)研究的繁忙年份。最大的噪音的英文由迄今為止發(fā)布的最大的自然語(yǔ)言處理(NLP)變壓器GPAT-3產(chǎn)生的。OpenAI的GPAT-3(175B參數(shù))比Microsoft Research的Turing-NLG在17B參數(shù)上的先前記錄高出約10倍。

NLP的當(dāng)代發(fā)展需要比以往更少的培訓(xùn)數(shù)據(jù)。除了將這些深度學(xué)習(xí)模型與常規(guī)的基于規(guī)則的算法一起部署以進(jìn)行更準(zhǔn)確的文本分析，情感分析，對(duì)話式AI以及許多其他用例之外，這些其他案例可以解釋該技術(shù)的強(qiáng)大優(yōu)勢(shì)。

為了簡(jiǎn)化NLP的復(fù)雜性，Analytics Insight提出了2021年十大自然語(yǔ)言處理趨勢(shì)

[[382907]]

1.監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)協(xié)作

監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)的應(yīng)用為自然語(yǔ)言處理提供了巨大的支持。例如，文本分析利用無(wú)監(jiān)督和有監(jiān)督的學(xué)習(xí)來(lái)理解文檔及其詞類中的技術(shù)術(shù)語(yǔ)，而無(wú)監(jiān)督學(xué)習(xí)可以確定它們之間的共生關(guān)系。

2.通過(guò) 強(qiáng)化學(xué)習(xí)訓(xùn)練NLP模型

盡管強(qiáng)化強(qiáng)化學(xué)習(xí)在樣本效率，訓(xùn)練時(shí)間和總體優(yōu)秀實(shí)踐方面已取得了很大的進(jìn)步，但從頭開(kāi)始訓(xùn)練RL模型仍然相對(duì)緩慢且連續(xù)。因此，數(shù)據(jù)專家將希望首先訓(xùn)練基于NLP的監(jiān)督模型，然后再使用強(qiáng)化學(xué)習(xí)進(jìn)行進(jìn)行微調(diào)，而不是從頭開(kāi)始訓(xùn)練模型。

3.準(zhǔn)確的深度學(xué)習(xí)分類

深度回歸在自然語(yǔ)言處理中的應(yīng)用是多方面的。遞歸神經(jīng)網(wǎng)絡(luò)(RNN)等技術(shù)可以通過(guò)使用解析為數(shù)據(jù)科學(xué)家提供準(zhǔn)確的文本分類。因此，在某些文本分析平臺(tái)中，RNN將成為文檔分類和實(shí)體標(biāo)記的流行趨勢(shì)。

4.市場(chǎng)情報(bào)監(jiān)測(cè)

NLP在將跟蹤狀語(yǔ)從句：監(jiān)視市場(chǎng)情報(bào)報(bào)告擴(kuò)展中提取關(guān)鍵信息，以為企業(yè)提取智能信息，以制定未來(lái)的戰(zhàn)略。2021年及以后，NLP將在眾多業(yè)務(wù)領(lǐng)域中找到其應(yīng)用。當(dāng)前，該技術(shù)被廣泛用于金融營(yíng)銷。它分享了對(duì)市場(chǎng)情緒，招標(biāo)延遲和收盤的徹底見(jiàn)解，并從大型存儲(chǔ)庫(kù)中提取了信息。

5. 微調(diào)模型將是無(wú)縫的

轉(zhuǎn)移學(xué)習(xí)將為預(yù)先訓(xùn)練的模型創(chuàng)造條件，從而創(chuàng)建用于情感分析，文本分類等的應(yīng)用程序。在醫(yī)學(xué)用例中，轉(zhuǎn)移學(xué)習(xí)將使諸如患者滿意度之類的情況得以準(zhǔn)確衡量。這同樣可以應(yīng)用于任何服務(wù)行業(yè)，其中滿意將是代表消費(fèi)者是否滿意的可能的分?jǐn)?shù)。

6.定制產(chǎn)品推薦

電子零售商將使用NLP和機(jī)器學(xué)習(xí)技術(shù)來(lái)提高客戶參與度，分析其瀏覽模式和購(gòu)物趨勢(shì)。其他情報(bào)洞察力包括購(gòu)買行為，自動(dòng)生成的產(chǎn)品說(shuō)明等。

7.智能語(yǔ)義搜索

語(yǔ)義搜索的需求是預(yù)計(jì)將在2021年影響NLP的另一趨勢(shì)。這種搜索將涉及自然語(yǔ)言處理和自然語(yǔ)言理解，這需要對(duì)文本中包含的中心思想有詳盡的理解。

8.智能認(rèn)知交流

在深度學(xué)習(xí)，無(wú)監(jiān)督和有監(jiān)督的機(jī)器學(xué)習(xí)的啟發(fā)下，大量自然語(yǔ)言技術(shù)將繼續(xù)塑造認(rèn)知計(jì)算的通信能力。

9.聊天機(jī)器人和虛擬助手的增長(zhǎng)

在自然語(yǔ)言處理(NLP)的發(fā)展推動(dòng)下，聊天機(jī)器人和虛擬助手市場(chǎng)的增長(zhǎng)將非常強(qiáng)勁。該聊天機(jī)器人市場(chǎng)，這是價(jià)值$ 2.6十億在2019年，并預(yù)計(jì)到2024年將達(dá)到美國(guó)$ 9.4十億。

10. 社交媒體的情感分析

自然語(yǔ)言處理將是理解和分析受眾對(duì)在社交媒體平臺(tái)上發(fā)布的品牌傳播的反應(yīng)的出色工具。也稱為意見(jiàn)挖掘，它有助于分析通過(guò)社交媒體帖子與公司進(jìn)行評(píng)論/互動(dòng)的消費(fèi)者的態(tài)度和情緒狀態(tài)(高興，悲傷，憤怒，惱火等)。

NLP的務(wù)實(shí)使用使擁有大量非結(jié)構(gòu)化文本或語(yǔ)音數(shù)據(jù)的組織能夠克服黑暗數(shù)據(jù)問(wèn)題并有效地挖掘其以獲取見(jiàn)識(shí)。但是，關(guān)于NLP真正的是它所涉及的AI的多個(gè)維度，暗示了該技術(shù)在未來(lái)幾年內(nèi)將產(chǎn)生的整體動(dòng)態(tài)影響。