利用AI加速企業(yè)業(yè)務的自動化進程，推動業(yè)務流程的數(shù)智化重塑或升級，已經(jīng)成為企業(yè)提升工作效率、助力商業(yè)創(chuàng)新的重要方式。在此過程中，由AI賦能的智能光學字符識別 (OCR) 應用發(fā)揮著日益重要的價值。

隨著人工智能技術(shù)的發(fā)展，由AI賦能的OCR已經(jīng)在金融、政府、制造、互聯(lián)網(wǎng)、醫(yī)療等行業(yè)的單據(jù)識別、信息流入、圖片翻譯、車牌識別等場景得到廣泛應用，幫助企業(yè)有效地釋放人力資源，提升工作效率，為廣泛的數(shù)智化應用提供基礎能力支撐。

部署智能OCR應用能為企業(yè)業(yè)務及AI應用布局帶來哪些回報？

用友算法工程專家宋祺、亞信科技產(chǎn)品運營專家呂瑩、東軟集團醫(yī)療保障事業(yè)部產(chǎn)品發(fā)展部部長黃小衛(wèi)、英特爾人工智能軟件架構(gòu)師桂晟、虎博科技創(chuàng)始人&CEO陳燁，圍繞《從OCR起步推進企業(yè)AI應用落地》這一主題進行了精彩的分享。

AI 賦能 OCR，助推企業(yè)增效降本

隨著當前大語言模型的發(fā)展，OCR技術(shù)將會成為大語言模型應用的一個重要入口和前置的輸入來源。OCR本身是個很大的市場，其算法和程序需要部署在很多地方，可能是公有云、私有云，或者是邊緣的本地服務器，甚至是一些終端設備上。

有非常多的軟件開發(fā)商和算法供應商參與其中，廠商們通常需要一個更有成本優(yōu)勢、硬件適配性更廣的解決方案。

總體看來，用戶有如下亟待解決的兩個問題：

一是要解決使用GPU帶來的高成本和難部署問題；二是要提高 CPU 的計算性能。

為此，用友、亞信、東軟選擇與英特爾合作，借助英特爾^?? 至強^?? 可擴展處理器的強大性能和內(nèi)置AI加速器提升OCR應用性能，賦能客戶加速數(shù)智化轉(zhuǎn)型。

優(yōu)化OCR應用性能，充分釋放CPU計算潛能

用友算法工程專家宋祺分享了《英特爾AI加速技術(shù)在用友OCR場景的應用》。

為了兼顧GPU利用率和調(diào)用峰值服務的可用性，在月末報銷量大、服務調(diào)用集中時，用友采用了一套異構(gòu)處理器的服務架構(gòu)，即利用搭載了OpenVINO?? 工具套件的英特爾^?? 至強^?? 可擴展處理器將高峰期的數(shù)據(jù)分流。僅需增加兩臺16核的CPU服務器，即可滿足峰值，使峰值時的GPU使用數(shù)量降低了50%。

經(jīng)過OpenVINO?? 工具套件優(yōu)化的算法服務，響應時間降低到3秒以內(nèi)，使得在切換整個處理架構(gòu)時不會影響整體的業(yè)務響應時間和對應的時延，對用戶是無感知的。

亞信科技產(chǎn)品運營專家呂瑩介紹到：亞信科技機器人流程自動化平臺（AISWare AIRPA）是通過模擬并增強人類與計算機的交互過程，實現(xiàn)工作流程自動化的平臺。其在RPA功能的基礎上，提供了強大的智能OCR支持。

在智能OCR應用中，亞信科技通過第四代至強^?? 可擴展處理器和英特爾^?? AMX支持實現(xiàn)從FP32到INT8/BF16的量化，從而在可接受的精度損失下，增加吞吐量并加速推理。

從結(jié)果上來看，相比傳統(tǒng)人工方式，成本降到至1/5到1/9之間，而且效率還提升約5-10倍。

東軟自研的OCR識別算法是基于深度學習主流技術(shù)實現(xiàn)的，能夠在復雜的背景下識別出不同醫(yī)院、不同格式的票據(jù)、處方、發(fā)票、費用清單、明細等票據(jù)信息。在英特爾至強^?? 可擴展服務器和OpenVINO?? 環(huán)境下，它能夠獲得更高的識別準確率和更快的識別速度。

并且東軟在方案設計的階段就和英特爾合作，采用不同代際的至強^?? 可擴展處理器的服務器來進行整體算法性能的驗證。最終實驗結(jié)果表明，在第四代英特爾^?? 至強^?? 可擴展處理器上采用OpenVINO?? 進行模型推理加速將大幅提升OCR的識別性能。

這些OCR應用的成功應用，都少不了英特爾軟硬件產(chǎn)品的加持。

英特爾人工智能軟件架構(gòu)師桂晟表示，隨著英特爾^? 至強^? 可擴展處理器的演進，單個CPU的核心數(shù)量不斷增加，從第一代的最多28核增長到第四代的最高60核，核心數(shù)量的增多帶來了更加強大的算力。

除此之外，英特還在CPU指令集方面專門為人工智能應用進行了很多優(yōu)化，例如英特爾^?? AMX。其針對廣泛的硬件和軟件優(yōu)化，通過提供矩陣類型的運算，顯著增加了人工智能應用程序的每時鐘指令數(shù) (IPC)，在AMX加速引擎的助力下，至強^? 可擴展處理器不僅能用來做推理，還能用來處理一些機器學習訓練的工作負載。

大模型技術(shù)驅(qū)動下，OCR 未來路在何方

大模型技術(shù)會為 OCR 及相關應用帶來哪些新的變革？將如何為各行各業(yè)賦能？在本場研討會的最后，虎博科技創(chuàng)始人&CEO陳燁圍繞《大模型落地應用思考，展望OCR及相關應用的新技術(shù)發(fā)展》進行了詳細的分享。

談到智能 OCR，陳燁表示其產(chǎn)品的關鍵點主要有兩個：一是知識庫建立要準，要真正把文件理解好，把它轉(zhuǎn)化成知識庫和大模型能夠理解的形式；二就是大模型。

而虎博科技的定位就是給大家提供一個基礎模型，使用戶可以基于基礎模型迅速打造出自己領域里的大語言模型和應用。

陳燁認為這整個旅程才剛剛開始，虎博科技很期待和大家、生態(tài)伙伴、開發(fā)者、應用者一起來見證接下來人工智能NLP大語言模型令人興奮的、繁榮的幾十年。

如果您對本文涉及的基于英特爾^?? 至強^?? 可擴展處理器對及英特爾^?? AMX如何顯著提升OCR推理性能的技術(shù)細節(jié)感興趣，如果您也想了解虎博科技在大模型落地應用思考，英特爾《至強實戰(zhàn)課》之《從OCR起步推進企業(yè)AI應用落地》將為您帶來更加全面且詳細的真人講解，歡迎大家掃描海報中的二維碼注冊收看；

點擊鏈接也可以了解更多英特爾^?? AMX對OCR多場景應用的性能提升。