部分房贷重定价在即 LPR仍有 ...
金观平：完善维护金融稳定长效机 ...
再跌11%！特斯拉“抛售潮”愈 ...
消费券“大礼包”促消费暖人心 ...
中金公司：“以价换量”模式会推动算力芯片市场规模再创新高
来源：证券时报网 作者：《华夏时讯网》编辑 发布时间：2024-03-12
近期，OpenAI正式发布文生视频大模型Sora。从技术路径来看，我们认为基于VAE+DiT+LLM结构的Sora因受长token、扩散结构等因素影响导致模型训练、推理时对算力需求相较LLM有显著提升，在Scaling Law依然有效的情况下，未来Sora及类似大模型的迭代会持续推动计算量的扩张，算力需求“奇点”可能到来。但因当下单位算力成本依然较高，大模型构建者也在考虑一系列算法优化来节约计算量。我们认为，新时代下算力需求规模增长毋庸置疑，但同时降本也是客户的呼吁。我们相信“以价换量”模式会推动算力芯片市场规模再创新高，并支撑人类寻找到“世界模型”。
摘要
训练侧来看，Sora的算力成本理论计算值约为GPT-4的10倍。根据我们测算，若Sora基于现实世界所贡献视频的一定比例训练，且输入数据考虑特定比例的时间压缩、图像分辨率不压缩，Sora的训练算力成本理论计算值可能达到约10倍GPT-4的水平，其主要原因源自于长token的问题，参数所贡献的计算量并不高（仅30B）。细化来看，若1920*1080分辨率视频仅进行帧率压缩，1min视频所转化到潜在空间内的patch可能高达百万级别（即1M token），长token导致的计算量大幅度上升是transformer架构模型难以避免的问题。虽然我们的理论推导得出Sora训练成本高于GPT-4的结论，但实际来看，因单位算力成本高，我们认为Open AI可能结合一些节省训练成本来获得高质量模型（如结合高质量大规模的数据标记、或结合低分辨率长视频+高分辨率短视频训练的方式），算力消耗的实际值可能会低于我们的理论计算值，这是当下大模型企业所努力的方向。
推理侧来看，Sora的算力成本理论计算值高达约GPT-4的2000倍。由于扩散类模型去噪过程需要多步迭代、视频一致性问题需长token的一次性输出，以大语言类模型处理2k tokens，与文生视频模型生成1min视频做对比来看，我们得到Sora的推理算力成本的理论计算值可能会是GPT-4的2000倍，我们认为这需要算力性能更强的芯片来支撑；同时，当前主流GPU单机8卡推理可能面临算力不足的问题，文生视频模型在推理端需更大规模的AI芯片集群支持推理，有望带来光模块、交换机等设备需求。
积极关注可能节约算力的技术方向。Transformer对于长文本的自注意力机制的计算量会随着上下文长度的增加呈平方级增长是既定事实，但我们近期也看到，如Mamba采用了可扩展性更强的状态空间模型（SSM）主干替代了传统架构中的注意力机制，可以使用更少的算力，生成高分辨率图像。
风险
大模型技术发展不及预期；Transformer主流技术路线发生变化，理论计算可能与实际存在差异。
责任编辑：《华夏时讯网》编辑
下一篇：商品期货多数上涨 碳酸锂涨超4%
华夏时讯网版权及免责声明：
1、凡本网注明“来源：华夏时讯网” 或“来源：华夏时讯-华夏时讯网”的所有作品，版权均属于 华夏时讯网（本网另有声明的除外）；未经本网授权，任何单位及个人不得转载、摘编或以其它 方式使用上述作品；已经与本网签署相关授权使用协议的单位及个人，应注意该等作品中是否有 相应的授权使用限制声明，不得违反该等限制声明，且在授权范围内使用时应注明“来源：华夏 时讯网”或“来源：华夏时讯-华夏时讯网”。违反前述声明者，本网将追究其相关法律责任。2、本网所有的图片作品中，即使注明“来源：华夏时讯网”及/或标有“华夏时讯网(hxsxnews.cn)” 水印，但并不代表本网对该等图片作品享有许可他人使用的权利；已经与本网签署相关授权使用 协议的单位及个人，仅有权在授权范围内使用该等图片中明确注明“华夏时讯网作者XXX摄”或 “华夏时讯-华夏时讯网作者XXX摄”的图片作品，否则，一切不利后果自行承担。
3、凡本网注明 “来源：XXX（非华夏时讯网）” 的作品，均转载自其它媒体，转载目的在于传递更 多信息，并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的，请在30日内进行。
※ 网站总机：010-59447158 有关作品版权事宜请联系：13341002733 邮箱：hxsxnews@163.com
.png)
