【LLM&Agent】PPTAgent:PPT自动生成Agent框架

来看一个PPT生成思路:PPTAgent。 传统的PPT生成方法通常使用端到端的文本生成范式,这种方法仅关注文本内容,忽略了布局设计和PPT结构。 PPTAgent 采用了一种基于编辑的生成范式,解决处理空间关系和设计风格方面的挑战。

来看一个PPT生成思路:PPTAgent。传统的PPT生成方法通常使用端到端的文本生成范式,这种方法仅关注文本内容,忽略了布局设计和PPT结构。PPTAgent 采用了一种基于编辑的生成范式,解决处理空间关系和设计风格方面的挑战。

传统方法的每个幻灯片  可以用以下公式表示:

【LLM&Agent】PPTAgent:PPT自动生成Agent框架

方法

PPTAgent框架PPTAgent框架

在本文中,PPTAgent 是一个用于自动生成PPT的框架。采用基于编辑的工作流程,分为两个阶段:PPT分析和PPT生成。

阶段 I: PPT分析

主要目标是通过幻灯片聚类内容schema提取,为PPT生成提供结构化和语义化的参考信息。这一阶段的结果将直接影响后续阶段的生成质量和效率。

  • 幻灯片聚类

幻灯片聚类(层次聚类)是将参考PPT中的幻灯片按照其功能和内容进行分组的过程。幻灯片可以分为两大类:聚类算法:

图片图片

  • 层次聚类

聚类示例聚类示例

a.结构性幻灯片:这些幻灯片主要用于支持演示文稿的结构,例如开场幻灯片、过渡幻灯片和结束幻灯片。对于此类幻灯片,PPTAgent利用LLM推断每个幻灯片的功能角色,并根据这些角色进行分组。这些幻灯片通常具有明显的文本特征。

b.内容性幻灯片:这些幻灯片主要用于传达具体的信息,例如包含项目符号、图表和图像的幻灯片。对于此类幻灯片,PPTAgent采用基于图像相似性的层次聚类方法。通过计算幻灯片之间的图像相似度,将相似的幻灯片归为一组。

  • 内容Schema提取完成幻灯片聚类后,PPTAgent进一步分析每个聚类的内容Schema,以确保编辑的目标一致性。由于现实世界中的幻灯片可能非常复杂且碎片化,PPTAgent利用LLM的上下文感知能力提取多样化的内容Schema。PPTAgent定义了一个内容Schema提取框架,其中每个元素由其类别模态内容表示。基于这个框架,PPTAgent通过LLM的指令遵循(原文给出了相关prompts)和结构化输出能力,从每个幻灯片中提取内容Schema。提取过程如下:

a.类别:描述元素的类型,例如文本框、图像等。

b.模态:描述元素的呈现方式,例如纯文本、带图形的文本等。

c.内容:描述元素的具体内容,例如文本内容或图像的替代文本。

阶段 II:PPT生成

图片图片

第二阶段是基于第一阶段的分析结果,生成新的PPT。这一阶段的核心是通过交互式的编辑过程,利用参考幻灯片和输入文档生成目标PPT。步骤包括:生成一个结构化的大纲,指定每个幻灯片的参考幻灯片和相关内容;使用LLMs迭代编辑参考幻灯片以生成新幻灯片;实现五个专门的API,允许LLMs编辑、删除和复制文本元素,以及编辑和移除视觉元素。

大纲生成:大纲生成是根据人类偏好,指导LLM创建一个结构化的大纲。每个条目指定参考幻灯片、相关文档部分索引以及新幻灯片的标题和描述。通过利用LLM的规划和总结能力,结合从参考PPT中提取的语义信息,生成一个连贯且吸引人的大纲,从而指导新PPT的生成过程。

幻灯片生成:幻灯片生成是在大纲的指导下,通过迭代编辑参考幻灯片来生成新幻灯片的过程。为了实现对幻灯片元素的精确操作,PPTAgent实现了五个专门的API,允许LLM编辑、删除和复制文本元素,以及编辑和删除视觉元素。此外,为了增强对幻灯片结构的理解,PPTAgent将幻灯片从其原始XML格式转换为HTML表示,这种表示形式更易于LLM解释

实验

评价指标,现有的指标包括:

  • 成功率(Success Rate, SR)
  • 困惑度(Perplexity, PPL)
  • Fréchet Inception Distance(FID)

PPTEval指标包括:

  • 内容(Content)
  • 设计(Design)
  • 连贯性(Coherence)
  • 平均分(Avg.)

这些指标用于评估生成的PPT在不同维度上的质量。

图片

参考文献

PPTAgent: Generating and Evaluating Presentations Beyond Text-to-Slides,https://arxiv.org/pdf/2501.03936v1

相关资讯

谁说大象不能起舞! 重编程大语言模型实现跨模态交互的时序预测 | ICLR 2024

最近,来自澳大利亚蒙纳士大学、蚂蚁集团、IBM 研究院等机构的研究人员探索了模型重编程 (model reprogramming) 在大语言模型 (LLMs) 上应用,并提出了一个全新的视角:高效重编程大语言模型进行通用时序预测 –- 其提出的 Time-LLM 框架无需修改语言模型即可实现高精度时序预测,在多个数据集和预测任务中超越了传统的时序模型,让 LLMs 在处理跨模态的时间序列数据时展现出色,就像大象起舞一般!近期,受到大语言模型在通用智能领域的启发,「大模型 时序 / 时空数据」这个新方向迸发出了许

大模型玩星际争霸能秀到什么程度?有意识,有预判,中科院和汪军团队发布

全球最重要的电竞赛事之一 DreamHack 刚刚落幕,来自世界各地的星际争霸 II 顶尖选手们展开了激烈的较量。在这场紧张精彩的赛事中,人族选手 CLEM 凭借出色的战术和操作,击败了世界冠军 Dark,赢得了其生涯首个线下大赛冠军。在 AI 领域,DeepMind 的 AlphaStar 在 2019 年发表于《Nature》杂志,至今仍是 AI 研究的重要里程碑。AlphaStar 标志着 AI 技术在理解和处理复杂战略任务方面的巨大进步。然而,它在长期战略规划和决策的可解释性方面的局限性,也为研究者们提供了

哈工大联合快手提出CogGPT:大模型也需要认知迭代

在认知科学领域,人类通过持续学习改变认知的过程被称为认知迭代(Cognitive Dynamics)。形象地说,认知迭代就像是我们大脑的「软件更新」过程,手机应用通过不断的更新来修复 bug 和增加新功能,我们的大脑也通过不断学习新知识、经验,来改善和优化思考方式。从我们判断感冒吃什么药效果好,到一代代数学家如何证明费马大定理,无论是个人的心智发展还是人类文明的进步,认知迭代都扮演了不可或缺的角色。如今,像 GPT-4 等大型语言模型(Large Language Models,LLMs)为通用人工智能(Artif