RAG如何统一多源文档格式？

如何统一多源文档格式？破解PDF、Word、图片等混杂内容解析难题

在构建检索增强生成（RAG）系统时，我们往往首先关注检索算法、嵌入模型或大语言模型的选择。然而，一个常被忽视却至关重要的环节是文档入口的处理——即如何将不同格式的源文档（如Word、PDF、图片、Excel等）统一解析为机器可读、结构清晰的文本内容。文档解析的质量直接决定了后续索引和检索的上限。本文将深入探讨多源文档格式的统一解析策略，并以Dify框架为例，展示Word和PDF解析的实战细节。

一、为什么必须统一文档格式？

RAG系统需要处理来自多种渠道的文档，这些文档可能是：

• 自动生成的票据（PDF）

• 扫描件（图像PDF）

• 手写合同（扫描件+手写）

• 带有表格和数学公式的学术论文（Word/PDF）

• 产品说明（PPT/Excel）

如果为每种格式单独开发解析逻辑，不仅开发成本高，而且难以维护。统一格式解析的核心价值在于：

二、文档格式的解析难度分级

在实际业务中，不同文档类型的解析难度差异巨大。我们可以将其分为四个等级：

对于AI系统而言，不仅要“看懂”文字，还要理解格式（如表格的行列关系、图片的引用位置）。因此，我们建议遵循先有功能，再增强能力的原则：先用简单方法实现解析，让系统跑起来，再逐步优化复杂内容的处理。

三、Word文档解析：结构化数据的优势

3.1 Word文档的格式特点

Word文档（特别是.docx格式）基于OpenXML标准，是一种有标记文档，其内部存储了明确的段落、表格、图片等结构信息。这使得计算机可以直接通过解析标记来还原文档的层次结构，而不必猜测内容的组织形式。

OpenXML格式的文档实际上是一个压缩包，包含多个XML文件，分别描述文档的不同部分（如段落、样式、媒体文件等）。因此，解析Word本质上是对这些结构化信息的提取和重组。

3.2 使用python-docx解析Word

在Python生态中，python-docx是最常用的Word处理库。它可以轻松访问文档的以下元素：

• 标题（Heading）

• 段落（Paragraph）

• 图片（InlineShape）

• 表格（Table）

• 节（Section）

• 页眉页脚等

下面是一个简单的示例，展示如何提取文本和图片：

python

from docx import Document
import os

def extract_word_content(docx_path, image_output_dir):
doc = Document(docx_path)
full_text = []
image_map = {}

# 遍历所有段落
for para in doc.paragraphs:
full_text.append(para.text)
# 处理段落中的图片（内联形状）
for shape in para.runs:
if 'graphicData' in shape.element.xml:
# 提取图片并保存
image_id = str(len(image_map))
image_path = os.path.join(image_output_dir, f"img_{image_id}.png")
# 假设已有函数保存图片
save_image(shape, image_path)
image_map[image_id] = f'<img src="{image_path}"/>'

# 处理表格
for table in doc.tables:
# 提取表格为Markdown格式
md_table = table_to_markdown(table)
full_text.append(md_table)

return '\\n'.join(full_text), image_map

3.3 Dify中的Word解析实践

Dify是一个开源的RAG框架，它对Word文档的解析流程非常典型。其核心代码位于core/rag/extractor/word_extractor.py，整体思路如下：

这种设计的好处是：

• 统一输出格式：无论文档中包含什么元素，最终都转换为带有HTML标记的文本，便于在预览界面中还原布局。

• 解耦处理逻辑：图片、表格等复杂元素的解析独立成函数，方便后续扩展（例如对图片进行OCR识别）。

四、PDF文档解析：从非结构化到结构化

4.1 PDF的“非结构化”本质

与Word不同，PDF是一种基于页面描述的格式，它记录的是每个字符的位置、字体、颜色等信息，而不是段落、表格的逻辑结构。即使一个PDF文件看起来有清晰的标题和段落，其内部可能只是一堆文字块的绝对位置堆叠，没有标记表明哪些文字属于同一段落。

例如，一个简单的PDF片段可能这样描述文字：

text

BT
/F0 36 Tf
50 700 Td
(Hello, World!) Tj
ET

这里只有坐标(50,700)和文本内容，没有段落的概念。因此，直接从PDF中提取文本往往会丢失结构信息，导致连续的文字被拆分，表格和图片更是难以识别。

4.2 Dify中PDF解析的初步实现

在Dify中，PDF解析相对简单（位于core/rag/extractor/pdf_extractor.py），它使用pypdfium2库提取每一页的文字，并将结果拼接成字符串。这种方法的优点是速度快，但缺点也很明显：

• 无法识别图片、表格和公式。

• 段落可能被错误分割（因为PDF中的换行不代表段落结束）。

• 元数据（如标题、作者）未被利用。

代码如下所示（简化）：

python

import pypdfium2 as pdfium

def extract_text_from_pdf(pdf_path):
pdf = pdfium.PdfDocument(pdf_path)
text = ""
for page in pdf:
text += page.get_text()
return text

4.3 进阶PDF解析：布局识别与OCR

对于高质量的RAG应用，仅提取文字是不够的。我们需要将PDF“还原”为结构化的文档。这通常需要两个步骤：

许多开源工具（如ragflow-deepdoc、unstructured.io）都提供了这样的高级解析能力。例如，RAGFlow的DeepDoc模块可以对PDF进行布局分析，提取段落、图片和表格，并转换为Markdown格式。

4.4 表格识别：难点与解决方案

表格是PDF解析中最棘手的部分，尤其是跨页表格。常见策略是：

• 首先通过布局识别定位表格区域。

• 然后使用专门的表格识别模型（如Camelot、Tabula）提取单元格内容和结构。

• 最后将表格转换为Markdown或HTML，确保行列关系正确。

五、统一接口设计：实现可扩展的多源解析

为了让RAG系统能够灵活处理新增的文档格式，我们需要设计统一的解析接口。Dify的做法值得借鉴：

5.1 基类BaseExtractor

所有文档解析器都必须继承自BaseExtractor，并实现extract()方法，返回统一的Document对象列表（每个对象包含文本内容、元数据等）。

python

from abc import ABC, abstractmethod
from typing import List

class BaseExtractor(ABC):
@abstractmethod
def extract(self, file_path: str, **kwargs) -> List[Document]:
pass

5.2 处理器ExtractProcessor

根据文件扩展名动态选择对应的解析器，并调用其extract()方法。这样，上层调用者无需关心具体格式，只需传入文件路径即可。

python

class ExtractProcessor:
EXTRACTORS = {
'.docx': WordExtractor,
'.pdf': PDFExtractor,
'.pptx': PPTExtractor,
# … 其他格式
}

@classmethod
def extract(cls, file_path: str) -> List[Document]:
ext = os.path.splitext(file_path)[-1].lower()
extractor_class = cls.EXTRACTORS.get(ext)
if not extractor_class:
raise UnsupportedFormatError(f"Unsupported format: {ext}")
extractor = extractor_class()
return extractor.extract(file_path)

5.3 应对未知格式的备选方案

对于系统尚不支持但急需处理的格式，可以采用Unstructured库作为备选。Unstructured能够从多种文件类型（如HTML、XML、EPUB等）中快速提取文本，虽然可能丢失结构，但能保证内容不遗漏。在Dify中，可以编写一个UnstructuredExtractor，作为最后的保底方案。

六、总结与最佳实践

统一多源文档格式的解析是RAG系统的“地基”，地基不稳，上层建筑再精美也无用。以下是几点核心建议：

文档解析是一项看似琐碎却至关重要的工程。只有把这一步做好，后续的文本分割、向量检索和答案生成才能建立在高质量的数据之上。希望本文能帮助你构建更健壮的RAG系统，从容应对多源文档的挑战。