文檔解析技術(shù)是從這些海量且復(fù)雜的數(shù)據(jù)中高效準確地提取有價值信息的關(guān)鍵。它從輸入文檔圖像開始,經(jīng)過圖像處理、版面分析、內(nèi)容識別和語義理解等流程,最終輸出結(jié)構(gòu)化電子文檔或語義信息。通過文檔解析技術(shù),我們能夠深入理解文檔的結(jié)構(gòu)、內(nèi)容和主題,使得信息更易于檢索、分析和利用。其中:

image

1.2、LLM + 文檔解析技術(shù)挑戰(zhàn)

現(xiàn)如今,以ChatGPT為代表的先進大語言模型(LLM)已經(jīng)能夠勝任復(fù)雜的自然語言處理任務(wù)。將LLM與文檔解析技術(shù)相結(jié)合,不僅能夠顯著提升文檔解析的準確性和效率,還能挖掘出更廣闊的應(yīng)用場景,降低文檔理解的門檻,從而有力推動自然語言處理領(lǐng)域的蓬勃發(fā)展。盡管當前國內(nèi)外的大模型紛紛加入了文檔解析功能,然而,在對照文檔解析的四個關(guān)鍵步驟(圖像處理、版面分析、內(nèi)容識別、語義理解)時,這些大模型并未展現(xiàn)出無懈可擊的解決能力。

image

它們在實際應(yīng)用中仍然面臨著一定的挑戰(zhàn)和限制,下面我們使用LLM對文檔解析中的一些經(jīng)典問題進行分析:

二、TextIn文檔解析實測流程

針對以上痛點,合合信息憑借其強大的研發(fā)實力,成功自研出TextIn文檔解析技術(shù)。該技術(shù)深度融合了文字識別、計算機圖形圖像技術(shù)以及智能圖像處理引擎,使得紙質(zhì)文檔或圖片中的文字信息能夠迅速、精準地轉(zhuǎn)化為計算機易于處理的文本格式。目前,TextIn平臺已經(jīng)開放了通用文檔解析的試用權(quán)限和API調(diào)試接口,任何開發(fā)者都可以注冊賬號并開通使用。

2.1、網(wǎng)頁在線調(diào)用效果

首先進入TextIn官網(wǎng):https://www.textin.com/console/recognition/robot_struct?service=pdf_to_markdown選擇1千頁的套餐進行試用

image

點擊開通試用,然后進入工作臺,找到已開通機器人-公有云API-通用文檔解析-在線使用。

image

進入網(wǎng)頁后,上傳一份檢索報告的掃描件,可以看到,TextIn通用文檔解析能夠精準地識別掃描件中的表格元素。不論是簡單的單行表格還是復(fù)雜的跨頁表格,它都能準確地捕捉并創(chuàng)建出結(jié)構(gòu)清晰、布局合理的電子表格,還能將單元格的內(nèi)容一一對應(yīng)解析,確保數(shù)據(jù)項都被準確無誤地提取。

image

不僅如此,它還能夠?qū)⒔馕鼋Y(jié)果導(dǎo)出為Markdown或JSON格式。Markdown格式的輸出具有直觀性和編輯便捷性,特別適用于解析結(jié)果的查看、修改及后續(xù)處理。而JSON格式在數(shù)據(jù)交換中具有相當?shù)耐ㄓ眯院鸵子眯裕軌蚺c主流數(shù)據(jù)處理軟件或平臺無縫對接,確保數(shù)據(jù)的流暢交換和共享。通過這兩種格式的輸出選項,我們可以將解析結(jié)果直接應(yīng)用于數(shù)據(jù)分析和處理,并且能夠輕松實現(xiàn)與其他系統(tǒng)的數(shù)據(jù)交換和集成。

2.2、本地API調(diào)試效果實測

除了在線調(diào)用,TextIn通用文檔解析還提供了API調(diào)試與示例代碼,首先點擊API集成,進入API文檔。

image

API文檔給出了請求頭、URL參數(shù)、請求體說明、響應(yīng)體說明和錯誤碼說明,包括必要的認證信息、內(nèi)容類型、清晰的示例和說明、字段的含義和格式。這里我使用JS設(shè)計一個簡單的demo,其中onload事件處理函數(shù)用于獲取讀取到的文件數(shù)據(jù)(ArrayBuffer),XMLHttpRequest對象向服務(wù)器發(fā)送數(shù)據(jù)后,onreadystatechange事件處理函數(shù)檢查請求的readyState屬性并對返回內(nèi)容進行解析,主要核心代碼如下:

// 示例代碼

實際使用時,只需要點擊選擇文件,然后上傳需要解析的PDF或圖片,在右側(cè)就會打印出對應(yīng)的解析結(jié)果。

image

2.3、初步實踐——基于TextIn文檔解析 + Kimi的智能文檔解析助手

文檔解析技術(shù)以其精湛的技能,致力于將多樣化格式的文檔轉(zhuǎn)化為計算機易于理解和操作的文本格式。而強大的大型語言模型則以其卓越的能力,能夠深入理解和把握不同文本格式的上下文脈絡(luò),精準捕捉文本中蘊含的深層語義,從而生成更加貼合用戶需求的下游任務(wù)輸出。那么,我不禁思考:是否有可能將TextIn文檔解析API與LLM的語言理解能力巧妙結(jié)合,打造出一個高效且強大的文檔處理流程?話不多說,讓我們立即付諸實踐。

首先,我們調(diào)用TextIn文檔解析API,將原本難以直接使用的文檔(如PDF和圖片格式)轉(zhuǎn)化為計算機易于理解的信息,選擇輸出Markdown或JSON格式的文檔內(nèi)容,為后續(xù)的數(shù)據(jù)分析和處理提供清晰、結(jié)構(gòu)化的數(shù)據(jù)支持。

image

接下來,我們將TextIn API生成的Markdown數(shù)據(jù)或JSON數(shù)據(jù)作為輸入傳遞給LLM,本次實踐選用了moonshot的Kimi。通過這一步驟,我們?yōu)镵imi提供了豐富的結(jié)構(gòu)化數(shù)據(jù),使其能夠深入分析文檔內(nèi)容,并為后續(xù)處理提供更為全面和準確的上下文支持。

image

最后利用LLM的能力,對輸入的JSON數(shù)據(jù)進行處理,根據(jù)特定的業(yè)務(wù)場景和用戶需求,我們可以讓LLM執(zhí)行一系列高級任務(wù),如生成摘要、提取關(guān)鍵信息、分類總結(jié)等。以下圖的鄉(xiāng)村旅游熱度季節(jié)變化規(guī)律為例,我們可以將包含鄉(xiāng)村旅游數(shù)據(jù)的JSON文件輸入給LLM。LLM會利用其深度學(xué)習(xí)和自然語言處理的能力,分析這些數(shù)據(jù),識別出鄉(xiāng)村旅游熱度的季節(jié)性趨勢和變化規(guī)律,基于這些分析,生成一份詳盡的分析報告,包含鄉(xiāng)村旅游熱度的季節(jié)分析、未來趨勢預(yù)測以及相應(yīng)的建議或策略,從而為鄉(xiāng)村旅游的決策者提供有價值的參考,幫助規(guī)劃和管理鄉(xiāng)村旅游資源,提升游客的滿意度和體驗。

image

通過以上體驗,可以看到,TextIn文檔解析API以其卓越的性能為我們提供了強大的文檔解析工具,而Kimi智能文檔助手則以其對文本深層語義的精準捕捉和理解能力,進一步提升了文檔內(nèi)容的下游任務(wù)處理水平,結(jié)合兩者,不僅打破了傳統(tǒng)文檔處理的局限,還可以實現(xiàn)對文檔更深層次的理解和處理,并且能夠應(yīng)對各種類型文檔處理需求。想象一下,當你面對一堆繁雜的PDF文件、圖片或掃描件時,你不再需要逐頁翻閱、手動輸入或依賴低效的OCR工具,而是可以借助TextIn文檔解析 + LLM將其迅速轉(zhuǎn)化為結(jié)構(gòu)化的文本數(shù)據(jù),進而提取關(guān)鍵信息、生成摘要、分類歸檔,甚至進行更復(fù)雜的文本挖掘和數(shù)據(jù)分析。

image

如果你對智能圖像處理、文字表格識別、文檔內(nèi)容提取感興趣,那么我強烈推薦你前往TextIn的官方網(wǎng)站進行親身體驗。讓TextIn成為你文檔處理的得力助手,讓智能化、高效化的文檔解析成為你工作的新常態(tài)吧!

原文轉(zhuǎn)載自:https://mp.weixin.qq.com/s/J-msYAYwSymRTZvLVgHnXw

上一篇:

TorchCodec: 用于 PyTorch 的視頻解碼庫

下一篇:

生產(chǎn)級滿血版Deepseek-r1 671B部署后續(xù)問題、調(diào)優(yōu)以及壓測
#你可能也喜歡這些API文章!

我們有何不同?

API服務(wù)商零注冊

多API并行試用

數(shù)據(jù)驅(qū)動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費