亮相CCIG 合合信息破解大模型语料“饥荒”难题

大模型技术正随着科技革新实现广泛应用，满足多行业图像处理需求。但大模型一路“高歌猛进”的背后，隐藏着一场关于模型训练语料的“能源危机”。根据人工智能研究人员小组Epoch研究估计，机器学习数据集可能会在2026年前耗尽所有“高质量语言数据”。

现阶段，大量的高质量语料数据存在于书籍、论文、研报、企业文档等文档之中，复杂的版面结构制约了大模型的训练语料处理及大模型文档问答的应用能力。文档解析技术的进步，让机器能够识别文档中的多种元素，更好地处理文本、表格、图像等多类型数据，还原文档阅读顺序，加速大模型训练与应用。

在近日举办的2024中国图象图形大会（CCIG 2024）大会中的《大模型技术及其前沿应用》论坛上。上海合合信息科技股份有限公司智能创新事业部研发总监常扬表示:“文档解析的难点在于如何准确识别文档中的各个元素，并理解其之间的逻辑关系，需要关注‘物理版面分析’和‘逻辑版面分析’”。据常扬介绍，物理版面分析侧重于视觉特征、文档布局，主要任务是把相关性高的文字聚合到一个区域，比如一个段落、一个表格等，并选用目标检测任务进行建模，使用基于回归的单阶段检测模型进行拟合，从而获得文档中各种各样的布局方式；逻辑版面分析侧重于对语义特征的分析，主要任务是把不同的文字块根据语义建模，例如通过语义的层次关系，形成一个目录树结构。

文档解析技术中文档元素检测、文字表格识别、文档版面分析、阅读顺序还原等任务涉及对版面元素和版面整体布局的判断，是文档处理领域典型的技术难题。

通过十几年技术积淀，合合信息已经打通电子档解析、扫描档图像处理、文字识别、表格识别、版面分析、版面还原和排版布局等文档智能化处理的全流程，面对电子文档及扫描件，能够灵活地识别文字、表格、无线表、跨页表格、页眉、页脚、公式、图像、流程图等版面元素，准确地还原文档阅读顺序，为大模型领域提供了精准的训练语料与文档问答应用体验。

“我们研究过程中发现，真实世界的文档有极为丰富的布局类型，没法单纯地用单栏，双栏、三栏等类别去定义。”常扬表示，近年来的开放词汇目标检测（OVD），视觉语义对齐（Alignment）等工作，以及生成式模型等前沿进展，将给版面分析带来新的研究思路，合合信息技术团队也将持续在智能文档处理领域深耕，让新技术在行业中更快速地产生价值。