字节即梦将在Sora发布前上线视频生成模型PixelDance
11月14日,记者从多个知情人士处获悉,字节跳动视频生成模型PixelDance将很快在即梦AI上线,面向公众开放使用,具体的上线时间将会早于Sora正式发布的时间。
Runway联合创始人Cristóbal Valenzuela曾在11月9日称,OpenAI计划在大约两周内发布Sora。Cristóbal Valenzuela曝出该消息之前,OpenAI公布了一条联合伦敦艺术家Jon Uriarte创作的短片,似乎是在为Sora的正式发布预热。
这意味着,PixelDance很可能会在最近几天内发布。记者向字节跳动方面求证此事,截至发稿,对方暂未回应。
字节跳动在大模型领域一直动作频频。9月24日,该公司一口气发布了豆包视频生成PixelDance、豆包视频生成Seaweed两款大模型,并通过即梦AI和火山引擎面向创作者和企业客户小范围邀测。据知情人士透露,PixelDance除了即将在即梦AI上线之外,还将于近期在豆包开启内测。
从其此前展示的视频生成效果来看,豆包视频生成模型无论是语义理解能力,多个主体运动的复杂交互画面,还是多镜头切换的内容一致性方面,都表现出不错的效果。
其中一个视频输入是,“特写 个 的面部,有些 ,戴上了 副墨镜,这时 个男 从画 右侧 进来抱住了她。”视频画面显示,其不仅遵循了这个复杂指令,还能够按指令的时序去完成连续的动作,两个主体之间也能比较顺畅地进行交互,且人物表情较为准确传达了指令所描述的情绪。
据记者了解,人物动作是当下视频生成模型共同面临的挑战,即使是Sora在人物动作上做得也不够好。OpenAI在今年年初公布的视频样片显示,Sora还是以运镜和基础动作为主,复杂动作较差,但豆包视频模型生成公布的样片在动作上有了明显提升。
一位多模态大模型科学家对比PixelDance和Sora公布的样片后告诉界面新闻,如果样片效果保真的话,字节跳动的视频生成大模型确实是相当不错。从学术角度或者模型能力角度来说,其肯定达到了Sora的水平,尤其在人物动作上非常棒。
火山引擎总裁谭待此前也透露,豆包视频模型经过剪映、即梦AI等业务场景的持续打磨和迭代,优化了Transformer结构,大幅提升了豆包视频生成的泛化能力。同时,豆包视频生成模型基于DiT架构,让视频在大动态与运镜中自由切换,拥有变焦、环绕、平摇、缩放、目标跟随等多镜头语言能力。在镜头切换时可同时保持主体、风格、氛围的一致性是豆包视频生成模型的技术创新所在。
而从OpenAI近期公布的最新短片来看,Sora也在着重提升其在人物动作上的能力。该短片处理的是多人坐在椅子上飞行的场景,无论是照片质量还是细节处理上,都更接近照片的水准,人物动作也更加自然。
若PixelDance正式面向公众开放,或意味着其在技术上已较为成熟。对于豆包视频生成模型的发布节奏,谭待曾透露,豆包系列大模型并不是按照某个固定的时间计划发布的,有好东西就尽快推出。
“我们的逻辑是推出的产品要质量可靠,有充分的用户反馈,不能是半成品。就像视频和语言模型发布一样,不一定要抢第一,要推出成熟的产品。”谭待说。(界面新闻)
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- 指数午后横盘震荡 两市涨停超百家
- 人民日报评GDP目标:“6%以上”体现自信与稳妥的平衡
- 时隔17年 这一办法修订 取消强制评级、强化流动性管理
- 决策层提出稳定增加汽车消费 零部件板块修复弹性凸显
- 增强自主可控能力 打造高端芯片供应链
- 股市巨震 货币ETF规模突破3000亿元
- 民族品牌指数上涨0.40% 汽车类成分股领涨
- 一周机构调研公司排行榜来了!传音控股获183家机构调研
- 稳稳赚!14天期年化3.8%活期理财七日年化2.6%
- 春耕期到 化肥价格跳涨 相关企业利润大增