智谱 AI 表示，随着技术的不断发展，「清影」的生成能力将在未来应用于短视频制作、广告生成甚至电影剪辑等领域。
在生成式 AI 视频模型的研发中，Scaling Law 在算法和数据方面持续发挥作用。「我们积极在模型层面探索更高效的 scaling 方式。」智谱 AI CEO 张鹏在智谱 Open Day 上表示：「随着算法、数据不断迭代，Scaling Law 将继续发挥强有力作用。」
你常用的表情包，智谱 AI 能把它延长成「连续剧」。
提示词：师徒四人伸出手互相击掌，脸上是困惑的表情。
提示词：小猫张大了嘴，脸上是困惑表情，很多问号。
可以看出，清影各类风格都能拿捏，还有更多玩法等待发掘。只需在智谱清言 PC/APP 上，点击「清影智能体」功能，就能将你的创意瞬间变为现实。 全自研技术
专注大模型的智谱 AI 早已开始部署多模态生成式 AI 模型。从 2021 年开始，智谱 AI 先后发布了 CogView（NeurIPS’21）、CogView2（NeurIPS’22）、CogVideo（ICLR’23）、Relay Diffusion（ICLR’24）、CogView3 （2024）等多项研究成果。
据介绍，「清影」依托于智谱 AI 大模型团队自研打造的新一代视频生成大模型 CogVideoX。
去年 11 月，智谱 AI 团队基于文生图模型 CogView2 打造出了文本到视频生成模型 CogVideo，并随后将其开源。
CogVideo 拥有 94 亿参数，它通过 CogView2 生成一系列初始帧，并基于双向注意力模型对图像进行插帧的方法实现视频生成。此外，CogVideo 可以根据文本描述生成 3D 环境，可直接利用预训练模型，避免了昂贵的训练过程，它也支持中文的 prompt 输入。
本次清影底座的视频生成模型是 CogVideoX，它将文本、时间、空间三个维度融合起来，参考了 sora 的算法设计，也是一个 DiT 架构。通过优化，CogVideoX 相比前代（CogVideo）推理速度提升了 6 倍。
OpenAI 的 Sora 横空出世，让 AI 在视频生成方面取得了显著进展，但大多数模型在生成具有连贯性和逻辑一致性的视频内容方面仍然存在困难。
为了解决这些问题，智谱 AI 自研了一个高效的三维变分自编码器结构（3D VAE），将原视频空间极致压缩到 2%，使得模型训练成本大幅下降，训练难度也大大降低。
模型结构采用因果三维卷积（Causal 3D convolution）作为主要模型组件，并将自编码器中常用的注意力模块移除，使得模型具备不同分辨率迁移使用的能力。
同时，在时间维度上因果卷积使得模型视频编解码具备从前向后的序列独立性，这有助于通过微调将模型扩展到更高帧率和更长时间的场景。
此外，视频生成还面临视频数据大多缺乏对应的描述性文本或者描述质量低下的问题。为此，智谱 AI 自研了一个端到端的视频理解模型，为海量视频数据生成详细、贴合内容的描述，进而构建海量的高质量视频文本对，使得训练出的模型指令遵循度高。
最后值得一提的是，智谱 AI 自研了一个将文本、时间、空间融合起来的 Transformer 架构。该架构没有采用传统的 cross attention 模块，而是在输入阶段就将文本嵌入和视频嵌入连接起来，以便更充分地进行两种模态的交互。
然而，文本和视频特征空间存在很大差异。智谱 AI 通过 expert adaptive layernorm 对两者分别进行处理，使得模型能够高效利用参数来更好地将视觉信息与语义信息对齐。
智谱 AI 表示，通过优化技术，智谱 AI 生成式视频模型的推理速度提升了 6 倍。目前生成 6s 视频，模型花费的理论时间是 30 秒钟。
如今随着「清影」的上线，视频生成赛道又出现了智谱 AI 这位重磅玩家。
除了人人都能尝试的应用之外，清影 API 也同步上线大模型开放平台 bigmodel.cn，企业和开发者可以通过调用 API 的方式，体验和使用文生视频以及图生视频的模型能力。
随着各家公司 AI 视频生成功能的不断上线，今年的生成式 AI 竞赛已经进入白热化阶段。对于大多数用户来说，选择也更多了。现在，无论是完全没有视频制作基础的人，还是专业的内容创作者，都能借助大模型能力实现视频创作。
